Prevaranti uporabljajo klonirani glas z umetno inteligenco za izvajanje prevar v ZDA

Umetna inteligenca je postala priljubljena s prihodom močnih orodij, ki poenostavljajo procese. Ker jih dojemamo kot trenutno tehnologijo, že obstaja več modelov, ki lahko celo posnemajo realistične glasove, na način, da morda sploh ne opazite, da je "umeten".

Glej tudi: Delovna mesta, ki jih po OpenAI ne bo nadomestila umetna inteligenca

V ZDA je mati med klicem slišala hčerkico, dokler ni slušalke dvignil moški in zahteval odkupnino za ugrabljeno.

Vendar nič ni bilo resnično: »dekle« je bil klon AI in ugrabitev sploh ni obstajala. Dogodek sledi misli, da je največja nevarnost umetne inteligence izdajanje za resnično.

Prevaranti uporabljajo kloniranje glasu z umetno inteligenco za izvajanje kaznivih dejanj

Prevaranti se lažno predstavljajo kot družinski člani, da ustvarijo intimnost in dosežejo tako imenovano reševanje. Da je videti še bolj resnično, uporabljajo orodja za kloniranje z umetno inteligenco, ki jih je mogoče zlahka najti na internetu.

V tem posebnem primeru je kloniranje hčerke z umetno inteligenco prosilo mamo, naj ji pomaga. Negovalka pa je bila prepričana, da je to res in da je njena hči res ugrabljena. O prevarant, ki je klical z neznane številke, zahteval do milijon dolarjev.

Vendar smo imeli srečen konec: mama je stopila v stik z njo hči in vse je šlo dobro. Primer je v policijski preiskavi in ​​izpostavlja močno zaskrbljenost glede uporabe orodja. Po drugi strani si tudi podjetja, usmerjena v AI, prizadevajo zmanjšati čim več.

Marca so v pismu, ki je zahtevalo premor v eksperimentu z umetno inteligenco, njegovi naročniki – vključno z Elonom Muskom – že poudarili, da »[...] lahko človeštvo uživa uspešno prihodnost z umetno inteligenco. Ko smo uspeli ustvariti zmogljive sisteme AI, lahko zdaj uživamo v "poletju AI", v katerem žanjemo sadove, te sisteme oblikujemo v jasno korist vseh in družbi dajemo priložnost, da prilagoditi."