Мошенники используют клонированный искусственным интеллектом голос для мошенничества в США

Искусственный интеллект стал популярным с появлением мощных инструментов, оптимизирующих процессы. Воспринимаемые как технология на данный момент, уже есть несколько моделей, которые могут даже имитировать реалистичные голоса таким образом, что вы можете даже не заметить, что это «искусственно».

Смотрите также: Профессии, которые ИИ не заменит, согласно OpenAI

В США во время звонка мать услышала, как ее дочь рыдает, пока мужчина не снял трубку и не потребовал выкуп за похищенную.

Однако ничего не было настоящим: «девушка» была клоном ИИ, а похищение даже не существовало. Мероприятие следует мысли о том, что самая большая опасность искусственного интеллекта выдает себя за реальную.

Мошенники используют клонирование голоса ИИ для совершения преступлений

Мошенники выдают себя за членов семьи, чтобы создать близость и добиться того, что известно как спасение. Чтобы сделать его еще более реальным, они используют инструменты клонирования ИИ, которые можно легко найти в Интернете.

В этом конкретном случае клонирование дочери ИИ попросило мать помочь ей. Воспитательница, в свою очередь, была убеждена, что это было на самом деле и что ее дочь действительно похищали. О мошенник, звонивший с неизвестного номера, требовал до 1 млн долларов.

Однако у нас был счастливый конец: мать связалась с ней дочь и все прошло хорошо. Дело расследуется полицией и подчеркивает серьезную озабоченность по поводу использования инструмента. В свою очередь, компании, ориентированные на ИИ, также работают над тем, чтобы максимально минимизировать.

В марте в письме с просьбой приостановить эксперимент с ИИ его подписчики, в том числе Илон Маск, уже подчеркнули, что «[...] Человечество может наслаждаться процветающим будущим с ИИ. Нам удалось создать мощные системы ИИ, и теперь мы можем наслаждаться «летом ИИ», когда мы пожинаем плоды. плоды, мы разрабатываем эти системы для явного блага всех и даем обществу возможность адаптироваться».