Kecerdasan buatan adalah alat saat ini. Dengan evolusinya yang cepat, rekor dipecahkan dalam waktu singkat dengan ChatGPT yang fenomenal. Namun, para pemimpinnya percaya bahwa diperlukan badan pengatur internasional, mirip dengan yang mengatur energi nuklir. Ada kekhawatiran kuat tentang penggunaan alat yang berbahaya untuk membuat informasi yang salah dan deepfake.
Dalam postingan di blog perusahaan, Pendiri OpenAI Sam Altman, Presiden Greg Brockman, dan Kepala Ilmuwan Ilya Sutskever berkumpul untuk memberikan detail lebih lanjut tentang apa yang dapat dilakukan.
lihat lebih banyak
Google mengembangkan alat AI untuk membantu jurnalis di…
IPhone asli tahun 2007 yang belum dibuka dijual seharga hampir $200.000; tahu...
Apa isi postingan blog OpenAI?
Orang-orang yang memimpin OpenAI percaya bahwa sekarang adalah waktu terbaik untuk merenungkan apa yang disebut "tata kelola superintelijen". Perusahaan sangat percaya bahwa kecerdasan super — sistem AI dalam 10 tahun ke depan — akan jauh lebih kuat daripada teknologi lain yang telah ditangani umat manusia.
Dikatakan bahwa kita dapat memiliki masa depan yang jauh lebih sejahtera, tetapi kita perlu mengetahui bagaimana mengelola risiko untuk mencapainya. Penulis berkomentar bahwa, “mengingat kemungkinan risiko eksistensial, kita tidak bisa hanya reaktif. A energi nukliradalah contoh historis yang umum digunakan dari teknologi dengan properti ini; biologi sintetik adalah contoh lainnya.”
Itu mengakhiri bagian pertamanya dengan menyatakan bahwa kita harus memitigasi risiko teknologi AI saat ini, tetapi superintelligence itu akan memerlukan penanganan dan koordinasi khusus.
Dia melanjutkan dengan berbicara tentang hubungan kebutuhan akan badan pengatur, serta Badan Energi Atom Internasional yang sudah ada, Perserikatan Bangsa-Bangsa, PBB.
“Kami membutuhkan beberapa tingkat koordinasi antara upaya pembangunan besar untuk memastikan bahwa pembangunan superintelligence terjadi dengan cara yang memungkinkan kita menjaga keamanan dan membantu kelancaran integrasi sistem ini dengan masyarakat."
“Sepertinya pada akhirnya kita akan membutuhkan sesuatu seperti [Badan Energi Atom Internasional] untuk upaya superintelijen; upaya apa pun di atas ambang kapasitas tertentu (atau sumber daya seperti komputasi) harus tunduk pada otoritas internasional yang dapat melakukannya memeriksa sistem, mewajibkan audit, menguji kepatuhan terhadap standar keamanan, memberlakukan pembatasan pada tingkat penyebaran dan tingkat keamanan, dll".
Perusahaan memandang kontribusi publik sebagai hal yang penting dalam proses tersebut
Dikatakan bahwa tata kelola sistem yang kuat harus menyertai pengawasan publik. Saya percaya bahwa orang-orang di seluruh dunia harus diberdayakan untuk secara demokratis memutuskan apa batasan dan standarnya sistem AI Perusahaan menunjukkan bahwa mereka masih belum tahu bagaimana merancang mekanisme seperti itu, tetapi pengembangannya sedang berlangsung. perencanaan.
Terakhir, ditekankan bahwa sangat berisiko untuk mencegah terciptanya superintelijen. Ini menyoroti keunggulan mereka dan bahwa jumlah aktor yang membangunnya meningkat pesat dan secara inheren merupakan bagian dari jalur teknologi. Perusahaan meminta agar langkah-langkah tersebut harus akurat.
Untuk mengakses publikasi asli, klik Di Sini.