Svindlere bruker AI-klonet stemme for å utføre svindel i USA

Kunstig intelligens ble populær med ankomsten av kraftige verktøy som effektiviserer prosesser. Ettersom det blir oppfattet som øyeblikkets teknologi, er det allerede flere modeller som til og med kan imitere realistiske stemmer, på en måte som du kanskje ikke engang legger merke til at det er "kunstig".

Se også: Jobbene som ikke vil bli erstattet av AI, ifølge OpenAI

I USA, under en samtale, hørte en mor datteren sin hulke, helt til en mann tok telefonen og krevde løsepenger for den kidnappede.

Ingenting var imidlertid ekte: "jenta" var en AI-klon og kidnappingen eksisterte ikke engang. Arrangementet følger en tankegang om at den største faren for kunstig intelligens er å framstå som reell.

Svindlere bruker AI-stemmekloning for å utføre forbrytelser

Svindlere utgir seg for å være familiemedlemmer for å skape intimitet og oppnå det som er kjent som en redningspakke. For å få det til å se enda mer ekte ut, bruker de AI-kloningsverktøy, som enkelt kan finnes på internett.

I dette spesifikke tilfellet ba AI-kloningen av datteren moren om å hjelpe henne. Omsorgspersonen var på sin side overbevist om at dette var ekte og at datteren hennes virkelig var under kidnapping. O svindler, som ringte fra et ukjent nummer, krevde opptil 1 million dollar.

Men vi fikk en lykkelig slutt: moren tok kontakt med henne datter og alt gikk bra. Saken er under politietterforskning og fremhever en sterk bekymring for bruken av verktøyet. På sin side jobber også AI-orienterte selskaper med å minimere så mye som mulig.

I mars, i brevet som ba om en pause i AI-eksperimentet, fremhevet abonnentene – inkludert Elon Musk – allerede at «[...] Menneskeheten kan nyte en velstående fremtid med AI. Etter å ha klart å lage kraftige AI-systemer, kan vi nå nyte en 'AI-sommer' der vi høster fruktene, designer vi disse systemene til klar fordel for alle og gir samfunnet en sjanse til tilpasse."