米国で詐欺師が AI クローン音声を使用して詐欺を実行

人工知能は、プロセスを合理化する強力なツールの登場により普及しました。 現時点のテクノロジーとして認識されているため、「人工的」であることに気づかないほど、リアルな音声を模倣することもできるモデルがすでにいくつかあります。

こちらもご覧ください: OpenAIによると、AIに代替されない仕事

米国では、電話中に母親が娘のすすり泣きを聞いたが、男が電話に出て、誘拐された娘の身代金を要求した。

しかし、何も現実ではありませんでした。「少女」はAIのクローンであり、誘拐は存在すらしませんでした。 この出来事は、人工知能の最大の危険は、人工知能を本物であるかのように偽ることであるという考え方に沿ったものです。

詐欺師は AI 音声クローンを使用して犯罪を実行します

詐欺師は家族になりすまして親密さを築き、いわゆる救済策を達成します。 さらに本物らしく見せるために、インターネットで簡単に見つかる AI クローン作成ツールを使用しています。

この特定のケースでは、娘のクローン AI が母親に助けを求めました。 すると、介護者はこれが現実であり、娘が本当に誘拐されていると確信した。 ○ 詐欺師不明の番号から電話をかけてきて、最大100万ドルを要求されました。

しかし、私たちはハッピーエンドを迎えました。母親が彼女に連絡しました。 娘 そしてすべてがうまくいきました。 この事件は警察が捜査中であり、このツールの使用に対する強い懸念が浮き彫りになっている。 一方、AI 指向の企業も、可能な限り最小限に抑えるよう取り組んでいます。

3月にAI実験の一時停止を求める書簡の中で、イーロン・マスクを含む購読者らはすでに「[...]人類はAIによって豊かな未来を享受できる。 強力な AI システムを作成することができたので、私たちは今、収穫を得る「AI 夏」を楽しむことができます。 その成果として、私たちはすべての人々の明らかな利益を目的としてこれらのシステムを設計し、社会に機会を与えます。 適応。"