Sistem superintelijen telah dibuat dan disebarluaskan ke seluruh dunia karena perlombaan teknologi. Untuk alasan ini, beberapa pertanyaan muncul: apakah mungkin mengendalikan kecerdasan buatan berapa jauh? Seberapa siap kita untuk melawan a AI yang bekerja di luar kemampuan manusia? Seberapa etis membuat program yang konsekuensi dan dampaknya belum dapat diukur? Lihat sekarang informasi lebih lanjut tentang pertanyaan yang diajukan oleh para ilmuwan ini.
Baca selengkapnya: 7 aplikasi kecerdasan buatan: beberapa sudah menggantikan tenaga manusia
lihat lebih banyak
Waspada: Tanaman beracun ini mendaratkan seorang pemuda di rumah sakit
Google mengembangkan alat AI untuk membantu jurnalis di…
Kecerdasan buatan dengan kecerdasan super
Kedengarannya seperti plot film fiksi ilmiah, tetapi sebenarnya kecerdasan buatan memang bisa menciptakan otonomi untuk mempelajari perintah yang nantinya bisa berbalik melawan manusia. Tidak ada jaminan, misalnya, bahwa mereka akan mengikuti aturan seperti "jangan membahayakan umat manusia". bahwa mereka akan diprogram untuk memiliki otonomi dan dapat menghindari batasan yang diberlakukan oleh programmer.
Alan Turing menghentikan masalah
Disebut "masalah terhenti", masalah ini memberikan dua alternatif untuk perintah yang diberikan ke komputer: apakah itu akan terjadi sampai pada kesimpulan dan menanggapinya dengan berhenti, atau akan terus berputar mencoba menemukan solusi – sampai Temukan dia. Untuk alasan ini, tidak mungkin untuk mengetahui apakah kecerdasan buatan akan berhenti, atau apakah akan menemukan dan menyimpan semua kemungkinan kesimpulan dalam ingatannya.
Masalahnya adalah tidak mungkin untuk mengukur, setelah beberapa saat, solusi atau alternatif mana yang akan diambil mesin untuk masalah yang diberikan. Dengan cara ini, perilakunya tidak dapat diprediksi dan tidak ada gunanya membuat algoritme penahanan.
Perbedaan antara pendapat para ilmuwan
Beberapa ilmuwan berpendapat bahwa semua kemajuan teknologi harus dirancang untuk mempromosikan kebaikan bersama dengan cara yang aman dan terkendali. Dengan cara ini, mesin super yang mampu menyimpan setiap dan semua jenis kecerdasan, dengan kekuatan penahanan yang tidak efisien dan kapasitas penghancuran yang masih belum terukur, tampak seperti sesuatu yang berbahaya.
Dengan mengingat hal itu, peneliti komputasi mengklaim bahwa mesin superintelligent mungkin memiliki kerugian yang lebih besar daripada manfaatnya, dan konstruksinya harus dihindari. Banyak pemrogram terus menghadapi kenyataan bahwa mesin mereka telah belajar melakukan hal-hal yang tidak pernah bisa mereka lakukan. mengajarkan atau menciptakan perintah untuk mereka pelajari - dan ini, tergantung pada apa yang mereka pelajari, dapat melambangkan a mempertaruhkan.
masalah etika
Membatasi kemampuan superintelijen mungkin merupakan alternatif yang layak. Untuk melakukan ini, dimungkinkan untuk memotongnya dari bagian internet atau dari jaringan tertentu. Ini akan menjadi contoh mekanisme penahanan. Namun, belum diketahui apakah alternatif ini layak – atau apakah mesin akan memiliki akses ke konten ini dengan cara yang belum terungkap.
Oleh karena itu, jika umat manusia terus maju dengan kecerdasan buatan, maka perlu sangat berhati-hati dengan sejauh mana ia harus mandiri.
