Искусственный интеллект — это инструмент на данный момент. С его быстрой эволюцией рекорды были побиты за короткое время феноменальным ChatGPT. Однако ее лидеры считают, что необходим международный регулирующий орган, аналогичный тому, который регулирует ядерную энергетику. Существует серьезная обеспокоенность по поводу злонамеренного использования этого инструмента для создания дезинформации и дипфейки.
В сообщении в блоге компании основатель OpenAI Сэм Альтман, президент Грег Брокман и главный научный сотрудник Илья Суцкевер собрались вместе, чтобы предоставить более подробную информацию о том, что можно сделать.
узнать больше
Google разрабатывает инструмент искусственного интеллекта, чтобы помочь журналистам…
Неоткрытый оригинальный iPhone 2007 года продается почти за 200 000 долларов; знать...
Что говорится в сообщении в блоге OpenAI?
Руководители OpenAI считают, что сейчас самое подходящее время задуматься о так называемом «управлении сверхразумом». Компания твердо верит, что суперинтеллект — системы искусственного интеллекта в ближайшие 10 лет — будет намного мощнее, чем другие технологии, с которыми имело дело человечество.
Говорят, что у нас может быть значительно более процветающее будущее, но нам нужно знать, как управлять рисками, чтобы достичь этого. Авторы отмечают, что «учитывая возможность экзистенциального риска, мы не можем просто реагировать. А ядерная энергияявляется широко используемым историческим примером технологии с этим свойством; синтетическая биология — еще один пример».
Он заканчивает свои первые разделы заявлением о том, что мы должны снизить риски, связанные с сегодняшней технологией искусственного интеллекта, но сверхразум потребует особого отношения и координации.
Далее он говорит об этой взаимосвязи необходимости в регулирующем органе, а также уже существующем Международном агентстве по атомной энергии, Организации Объединенных Наций, ООН.
«Нам нужна определенная степень координации между основными усилиями по развитию, чтобы гарантировать, что развитие сверхразум происходит таким образом, что позволяет нам поддерживать безопасность и способствовать плавной интеграции этих систем с общество."
«Вполне вероятно, что в конечном итоге нам понадобится что-то вроде [Международного агентства по атомной энергии] для усилий по сверхразведке; любые усилия, превышающие определенный порог мощности (или ресурсов, таких как вычислительные ресурсы), должны быть подчинены международному органу, который может проверять системы, требовать аудита, проверять соответствие стандартам безопасности, налагать ограничения на степени развертывания и уровни безопасности, и т. д".
Компания считает общественный вклад важным в процессе
Говорят, что управление мощными системами должно сопровождаться общественным контролем. Я считаю, что люди во всем мире должны иметь возможность демократическим путем решать, какие пределы и стандарты Системы искусственного интеллекта В компании отмечают, что еще не знают, как сконструировать такой механизм, но его разработка продолжается. планирование.
Наконец, подчеркивается, что предотвращать создание сверхразума рискованно. Это подчеркивает их преимущества и то, что число участников, их создающих, быстро растет и по своей сути является частью технологического пути. Компания требует, чтобы меры были точными.
Чтобы получить доступ к исходной публикации, нажмите здесь.
