Podvodníci používají klonovaný hlas AI k provádění podvodů v USA

Umělá inteligence se stala populární s příchodem výkonných nástrojů, které zefektivňují procesy. Vzhledem k tomu, že jsou vnímány jako technologie současnosti, existuje již několik modelů, které dokonce dokážou napodobit realistické hlasy, a to tak, že si ani nevšimnete, že jde o ‚umělé‘.

Viz také: Úlohy, které nebudou nahrazeny AI, podle OpenAI

Ve Spojených státech matka během hovoru slyšela vzlykat svou dceru, dokud muž nezvedl telefon a požadoval výkupné za unesenou.

Nic však nebylo skutečné: „dívka“ byl klon AI a únos ani neexistoval. Událost sleduje myšlenku, že největším nebezpečím umělé inteligence je vydávání se za skutečné.

Podvodníci používají klonování hlasu AI k páchání zločinů

Podvodníci se vydávají za členy rodiny, aby vytvořili intimitu a dosáhli toho, co je známé jako záchranný balík. Aby to vypadalo ještě reálněji, používají nástroje pro klonování AI, které lze snadno najít na internetu.

V tomto konkrétním případě AI ​​klonování dcery požádalo matku, aby jí pomohla. Pečovatelka byla zase přesvědčena, že je to skutečné a že její dcera byla skutečně unesena. Ó podvodník, který volal z neznámého čísla, požadoval až 1 milion dolarů.

Měli jsme však šťastný konec: matka ji kontaktovala dcera a vše dobře dopadlo. Případ je v šetření policie a poukazuje na silné obavy ohledně použití tohoto nástroje. Společnosti zaměřené na umělou inteligenci zase pracují na tom, aby je co nejvíce minimalizovaly.

V březnu, v dopise, který žádal o pauzu v experimentu s umělou inteligencí, jeho předplatitelé – včetně Elona Muska – již zdůraznili, že „[...] lidstvo se může těšit z prosperující budoucnosti s umělou inteligencí. Poté, co se nám podařilo vytvořit výkonné systémy umělé inteligence, si nyní můžeme užít „léto umělé inteligence“, ve kterém sklízíme ovoce, navrhujeme tyto systémy k jasnému prospěchu všech a dáváme společnosti šanci přizpůsobit se."