OpenAI のリーダーたちは、AI の規制機関の必要性についてコメントしています。

人工知能は時代のツールです。 急速な進化により、驚異的な ChatGPT の記録は短期間で破られました。 しかし、その指導者たちは、原子力エネルギーを管理するものと同様の国際的な規制機関が必要であると信じている。 誤った情報を作成するためのツールの悪意のある使用について強い懸念があり、 ディープフェイク.

同社のブログへの投稿では、OpenAIの創設者サム・アルトマン氏、社長のグレッグ・ブロックマン氏、主任研究員のイリヤ・サツケヴァー氏が集まり、何ができるかについてさらに詳しく説明した。

OpenAI のブログ投稿には何と書かれていますか?

OpenAI を率いる人々は、今がいわゆる「スーパーインテリジェンス ガバナンス」について考える最適な時期であると信じています。 同社は、超知能、つまり今後 10 年間の AI システムは、人類がこれまで扱ってきた他のテクノロジーよりもはるかに強力になると強く信じています。

私たちは劇的に豊かな未来を手に入れることができるが、そこに到達するためにはリスクを管理する方法を知る必要があると言われています。 著者らは次のようにコメントしています。 あ 核エネルギーは、この特性を持つテクノロジの一般的に使用されている歴史的な例です。 合成生物学も別の例です。」

この本の最初のセクションは、今日の AI テクノロジーのリスクを軽減する必要があるが、超知能には特別な扱いと調整が必要であると述べて終了しています。

彼は続けて、国連の既存の国際原子力機関と同様に規制機関の必要性との関係について話します。

「私たちは、主要な開発作業の間である程度の調整を行って、確実に開発を進める必要があります。 スーパーインテリジェンスは、セキュリティを維持し、これらのシステムと地球とのスムーズな統合を支援することを可能にする方法で発生します。 社会。"

「最終的には、スーパーインテリジェンスの取り組みのために[国際原子力機関]のようなものが必要になる可能性があります。 一定の能力（またはコンピューティングなどのリソース）のしきい値を超える取り組みは、国際当局の規制を受ける必要があります。 システムを検査し、監査を要求し、セキュリティ標準への準拠をテストし、展開の程度とセキュリティ レベルに制限を課します。 等"。

会社はそのプロセスにおいて公共貢献が重要であると考えています

強力なシステムのガバナンスには国民の監視が伴わなければならないと言われています。 私は、世界中の人々が、社会の限界や基準を民主的に決定する権限を与えられるべきだと信じています。 AIシステム 同社は、そのようなメカニズムをどのように設計するかはまだ分かっていないが、開発は進行中であると指摘している。 計画中。

最後に、超知性の創造を阻止することは危険であることが強調される。 これは、それらの利点と、それらを構築するアクターの数が急速に増加しており、本質的に技術的な道の一部であることを強調しています。 同社は測定が正確であることを求めている。

元の出版物にアクセスするには、クリックしてください ここ.