おしゃれなコートを着たローマ法王の画像をAIが生成 技術力はどこまで？

先週の土曜日、25日、白衣というかジャケットを着た教皇の画像がソーシャルメディア上で拡散した。

しかし、ネット上で大騒ぎになったとはいえ、その画像はAIが作った偽物だった。 この記事では、法王の写真について詳しく説明します。 人工知能.

ローマ法王の写真は人工知能で作られた

3月25日にソーシャルメディアにアクセスした人なら、一度はジャケットを着た法王の画像を目にしたことがあるだろう。

この画像はソーシャルネットワーク上で大騒ぎを引き起こし、多くのインターネットユーザーがフランシスコ法王の現代性とスタイルを称賛し始めた。

しかし、実際には、その画像は人工知能によって構築された偽物でした。

出典: レディット

近年、人工知能のおかげで広まった誤った情報は画像だけではありませんでした。 結局のところ、私たちは元米国大統領ドナルド・トランプの逮捕容疑についての誤った情報も持っていたのです。 トランプさん。

これらの画像の構築に使用される人工知能は、常に新しいものを生成できるため、生成人工知能と呼ばれます。

この虚偽情報の開示の場合、生成されたコンテンツは画像でした。 ただし、生成型人工知能の別の例としては、テキストを通じて新しいコンテンツを生成できる ChatGPT があります。

生成型人工知能

人工知能にはさまざまな種類があり、この分野での主な名前は、Dall-e (GPT と同じ作成者による)、Stable Diffusion、Midjourney です。 たとえば、法王の画像はミッドジャーニーによって作成され、公式レディットプロフィールで画像を公開した。

Midjourney は、より現実的な結果を伴う更新を約束しており、新しい画像の生成は非常に簡単です。 生成したい画像を説明するだけです。たとえば、「白いソファに横たわるシャム猫のスタイル」 ルネサンス"。

この画像は、人工知能の学習モデルにほかならない「敵対的生成ネットワーク」のおかげでリアルに構築されています。

これは、満足のいく結果が得られるまで、あるマシンが別のマシンに「良くなかった、もう一度やってください」と言っているかのように、生成されたコンテンツを評価する 2 番目の AI と連携して動作します。

これらの画像の危険性

機械が見逃すいくつかのエラーのおかげで、画像が人工知能によって作成されたものであることを識別することは可能ですが、 教皇の写真の歪んだ手など、気づかれずに、多くの人が見落としているため、この画像は多くの信頼性を伝えています。 それも気づかれずに。

このように、これらの画像はディープフェイクの潜在的な拡散源となる危険性があります。

対照的に、DARPA (米国国防高等研究計画局) は、偽画像を特定し、ディープフェイクの拡散に対抗する技術の開発に着手しました。