Лідери OpenAI коментують необхідність створення регулюючого органу для ШІ.

Штучний інтелект – інструмент сучасності. Завдяки його швидкому розвитку феноменальний ChatGPT за короткий час побив рекорди. Однак її керівники вважають, що потрібен міжнародний регулюючий орган, подібний до того, який керує атомною енергетикою. Існує серйозне занепокоєння щодо зловмисного використання інструменту для створення дезінформації та deepfakes.

У публікації в блозі компанії засновник OpenAI Сем Альтман, президент Грег Брокман і головний науковий співробітник Ілля Суцкевер зібралися разом, щоб надати більше деталей про те, що можна зробити.

Про що йдеться в дописі в блозі OpenAI?

Керівники OpenAI вважають, що зараз найкращий час подумати про так зване «управління суперінтелектом». Компанія твердо вірить, що суперінтелект — системи штучного інтелекту в найближчі 10 років — буде набагато потужнішим за інші технології, з якими стикалося людство.

Кажуть, що ми можемо мати значно більш процвітаюче майбутнє, але нам потрібно знати, як управляти ризиками, щоб досягти цього. Автори коментують, що «зважаючи на можливість існування ризику, ми не можемо просто реагувати. А атомна енергіяє загальновживаним історичним прикладом технології з цією властивістю; синтетична біологія — інший приклад».

Перші розділи завершуються тим, що ми повинні пом’якшити ризики, пов’язані з сучасними технологіями штучного інтелекту, але суперінтелект потребуватиме особливого ставлення та координації.

Далі він розповідає про зв’язок необхідності регулюючого органу, а також про вже існуюче Міжнародне агентство з атомної енергії, Організацію Об’єднаних Націй, ООН.

«Нам потрібен певний ступінь координації між основними зусиллями щодо розвитку, щоб забезпечити розвиток суперінтелект відбувається таким чином, що дозволяє нам підтримувати безпеку та сприяти плавній інтеграції цих систем із суспільство».

«Цілком імовірно, що врешті-решт нам знадобиться щось на зразок [Міжнародного агентства з атомної енергії] для суперрозвідки; будь-які зусилля, що перевищують певний поріг потужності (або ресурсів, таких як обчислювальна техніка), повинні бути підпорядковані міжнародному органу, який може перевіряти системи, вимагати аудитів, перевіряти відповідність стандартам безпеки, накладати обмеження на ступінь розгортання та рівні безпеки, тощо".

Компанія вважає внесок громадськості важливим у цьому процесі

Кажуть, що управління потужними системами має супроводжуватися громадським наглядом. Я вважаю, що люди в усьому світі повинні мати можливість демократично вирішувати, які обмеження та стандарти системи ШІ У компанії зазначають, що поки не знають, як сконструювати такий механізм, але його розробка триває. планування.

Нарешті, підкреслюється, що ризиковано перешкоджати створенню суперінтелекту. Це підкреслює їхні переваги та те, що кількість учасників, які їх створюють, швидко зростає та є невід’ємною частиною технологічного шляху. Компанія просить, щоб заходи були точними.

Щоб отримати доступ до оригінальної публікації, натисніть тут.