OpenAI-Führungskräfte kommentieren die Notwendigkeit einer Regulierungsbehörde für KI.

Künstliche Intelligenz ist das Werkzeug der Gegenwart. Dank seiner rasanten Entwicklung wurden mit dem phänomenalen ChatGPT in kurzer Zeit Rekorde gebrochen. Allerdings sind ihre Führer davon überzeugt, dass eine internationale Regulierungsbehörde erforderlich ist, ähnlich derjenigen, die die Kernenergie regelt. Es bestehen große Bedenken hinsichtlich der böswilligen Verwendung des Tools zur Erstellung von Fehlinformationen und Deepfakes.

In einem Beitrag im Blog des Unternehmens kamen OpenAI-Gründer Sam Altman, Präsident Greg Brockman und Chefwissenschaftler Ilya Sutskever zusammen, um weitere Details darüber zu geben, was getan werden kann.

Was sagt der OpenAI-Blogbeitrag?

Die Verantwortlichen von OpenAI glauben, dass jetzt der beste Zeitpunkt ist, über die sogenannte „Superintelligenz-Governance“ nachzudenken. Das Unternehmen ist fest davon überzeugt, dass Superintelligenz – KI-Systeme in den nächsten 10 Jahren – viel leistungsfähiger sein werden als andere Technologien, mit denen sich die Menschheit befasst hat.

Es wird gesagt, dass wir eine wesentlich wohlhabendere Zukunft haben können, aber dass wir wissen müssen, wie wir mit den Risiken umgehen müssen, um dorthin zu gelangen. Die Autoren kommentieren: „Angesichts der Möglichkeit eines existenziellen Risikos können wir nicht einfach reagieren.“ A Kernenergieist ein häufig verwendetes historisches Beispiel einer Technologie mit dieser Eigenschaft; Die synthetische Biologie ist ein weiteres Beispiel.“

Am Ende der ersten Abschnitte heißt es, dass wir die Risiken der heutigen KI-Technologie mindern müssen, Superintelligenz jedoch einer besonderen Behandlung und Koordination bedarf.

Er spricht weiter über diesen Zusammenhang zwischen der Notwendigkeit einer Regulierungsbehörde sowie der bereits bestehenden Internationalen Atomenergiebehörde der Vereinten Nationen, der UN.

„Wir brauchen ein gewisses Maß an Koordination zwischen den großen Entwicklungsbemühungen, um sicherzustellen, dass die Entwicklung des Superintelligenz geschieht auf eine Weise, die es uns ermöglicht, die Sicherheit aufrechtzuerhalten und die reibungslose Integration dieser Systeme in das System zu unterstützen Gesellschaft."

„Es ist wahrscheinlich, dass wir irgendwann so etwas wie eine [Internationale Atomenergiebehörde] für Superintelligenzbemühungen brauchen werden; Jeder Aufwand, der einen bestimmten Kapazitätsschwellenwert (oder Ressourcen wie Computer) überschreitet, muss einer internationalen Behörde unterliegen, die dies kann Systeme inspizieren, Audits fordern, Einhaltung von Sicherheitsstandards testen, Einschränkungen für Einsatzgrade und Sicherheitsniveaus festlegen, usw".

Das Unternehmen sieht dabei den öffentlichen Beitrag als wichtig an

Es wird gesagt, dass die Verwaltung mächtiger Systeme mit der öffentlichen Aufsicht einhergehen muss. Ich glaube, dass Menschen auf der ganzen Welt die Möglichkeit haben sollten, demokratisch über die Grenzen und Standards zu entscheiden KI-Systeme Das Unternehmen weist darauf hin, dass man noch nicht wisse, wie man einen solchen Mechanismus konzipieren soll, die Entwicklung sei aber im Gange. Planung.

Abschließend wird betont, dass es riskant sei, die Entstehung einer Superintelligenz zu verhindern. Es hebt ihre Vorteile hervor und zeigt, dass die Zahl der Akteure, die sie aufbauen, rapide zunimmt und von Natur aus Teil des technologischen Weges ist. Das Unternehmen fordert, dass die Maßnahmen genau sein müssen.

Um auf die Originalveröffentlichung zuzugreifen, klicken Sie auf Hier.