인공 지능은 현재의 도구입니다. 빠른 발전으로 경이로운 ChatGPT로 짧은 시간 안에 기록이 깨졌습니다. 그러나 그 지도자들은 원자력 에너지를 관리하는 것과 유사한 국제 규제 기관이 필요하다고 생각합니다. 도구를 악의적으로 사용하여 잘못된 정보를 생성하고 딥페이크.
회사 블로그의 게시물에서 OpenAI 설립자 Sam Altman, 회장 Greg Brockman 및 수석 과학자 Ilya Sutskever가 함께 모여 수행할 수 있는 작업에 대한 자세한 내용을 제공했습니다.
더보기
구글, 언론인 돕는 AI 도구 개발…
개봉하지 않은 오리지널 2007년 iPhone은 거의 $200,000에 판매됩니다. 알다...
OpenAI 블로그 게시물은 무엇을 말합니까?
OpenAI를 이끄는 사람들은 지금이 소위 "초지능 거버넌스"에 대해 반성할 최적의 시기라고 믿고 있습니다. 이 회사는 향후 10년 안에 초지능(AI 시스템)이 인류가 다루어 온 다른 기술보다 훨씬 더 강력할 것이라고 굳게 믿고 있습니다.
우리는 훨씬 더 번영하는 미래를 가질 수 있지만 거기에 도달하기 위해서는 위험을 관리하는 방법을 알아야 한다고 합니다. 저자는 “실존적 위험의 가능성을 감안할 때 우리는 단지 반응만 할 수는 없습니다. ㅏ 원자력 에너지이 속성을 가진 기술의 일반적으로 사용된 역사적 예입니다. 합성 생물학은 또 다른 예입니다.”
오늘날 AI 기술의 위험을 완화해야 하지만 그 초지능에는 특별한 처리와 조정이 필요하다고 말하면서 첫 번째 섹션을 끝냅니다.
그는 계속해서 규제 기관의 필요성과 이미 존재하는 국제 원자력 기구, UN, UN의 관계에 대해 이야기합니다.
“우리는 주요 개발 노력 간에 어느 정도의 조정이 필요합니다. 초지능은 보안을 유지하고 이러한 시스템과 시스템의 원활한 통합을 지원하는 방식으로 발생합니다. 사회."
“결국 우리는 초지능 노력을 위해 [국제원자력기구]와 같은 것이 필요할 것입니다. 특정 용량(또는 컴퓨팅과 같은 리소스)을 초과하는 모든 노력은 다음을 수행할 수 있는 국제 기관의 적용을 받아야 합니다. 시스템 검사, 감사 요구, 보안 표준 준수 테스트, 배포 정도 및 보안 수준에 대한 제한 부과, 등".
회사는 그 과정에서 공공 기여를 중요하게 생각합니다.
강력한 시스템의 거버넌스는 대중의 감독을 수반해야 한다고 합니다. 나는 전 세계 사람들이 어떤 한계와 기준이 무엇인지 민주적으로 결정할 수 있는 권한을 부여받아야 한다고 믿습니다. AI 시스템 회사는 아직 그러한 메커니즘을 설계하는 방법을 모르지만 개발이 진행 중이라고 지적합니다. 계획.
마지막으로 초지능의 생성을 막는 것은 위험하다는 점을 강조한다. 그것은 그들의 장점과 그것을 구축하는 행위자의 수가 급속히 증가하고 있으며 본질적으로 기술 경로의 일부임을 강조합니다. 회사는 조치가 정확해야 한다고 요구합니다.
원본 간행물에 액세스하려면 클릭하십시오. 여기.