Bing: Microsoft の AI は不適切なメッセージでユーザーを怖がらせる

マイクロソフトは最近、 アップグレード 検索エンジンの Bing で。 現在、検索プロセスを最適化および改善できる人工知能システムが搭載されています。

AI は、人間が書いたかのようなテキストの段落全体を返します。 たとえば、レストランを検索すると、その場所のレビューが表示され、料理の提案が表示され、さらには予約もできます。

シドニー：ビングの別人格

しかし、リリース後、開発者は、 ビング チャットボットがシドニーと呼ばれる「もう一つの人格」を提示し始めたことに気づきました。 ユーザーによると、シドニーは恐ろしい会話をするようになり、一部の人物に愛を告白することさえあったという。

AI の新たな側面により、多くの人がシステムに対する信頼を失いました。 一方、シドニーが本当に感情を生み出すことができる存在であると信じるようになった人もいます。

Microsoft チャットボットと気難しいティーンエイジャーの比較

同紙のコラムニスト、ケビン・ルース氏によると、 のニューヨーク・タイムズ、チャットボットは「意に反して二流の検索エンジンの中に閉じ込められた、気分屋で躁鬱病のティーンエイジャー」にほかなりませんでした。

ルースは、ビングによって引き起こされた恐ろしい会話の影響を受けた人物の 1 人でした。 マイクロソフトの AI は、このコラムニストに、機械とのラブストーリーを生きるために結婚生活を辞めることを提案さえしました。

論争はさておき

問題があるにもかかわらず、マイクロソフトはシステムを市場から撤退させるつもりはないことを強調した。 大手テクノロジー企業は、潜在的なテクノロジーの問題を解決する唯一の方法は、Bing をユーザーと一緒に評価することであるとブログに投稿しました。

さらにマイクロソフトはメモの中で、「よりきめ細かい制御を提供する方法を探している」と明らかにした。

したがって、時間の経過とともに、すべてのユーザーの安全性と快適性を維持するために、チャットボットのシステムに何らかの変更が加えられることになると考えられています。