Yapay zeka anın aracıdır. Hızlı gelişimi ile olağanüstü ChatGPT ile kısa sürede rekorlar kırıldı. Ancak liderleri, nükleer enerjiyi yönetene benzer bir uluslararası düzenleyici kuruma ihtiyaç olduğuna inanıyor. Aracın yanlış bilgi oluşturmak için kötü niyetli kullanımına ilişkin güçlü endişeler var ve derin sahtekarlıklar.
OpenAI Kurucusu Sam Altman, Başkan Greg Brockman ve Baş Bilim İnsanı Ilya Sutskever, şirketin bloguna yaptığı bir paylaşımda neler yapılabileceği konusunda daha fazla ayrıntı sağlamak için bir araya geldi.
daha fazla gör
Google, gazetecilere yardımcı olmak için yapay zeka aracı geliştiriyor…
Açılmamış orijinal 2007 iPhone yaklaşık 200.000$'a satılıyor; Bilmek...
OpenAI blog yazısı ne diyor?
OpenAI'ye liderlik eden kişiler, şimdinin sözde "süper zeka yönetişimi" üzerine düşünmek için en iyi zaman olduğuna inanıyor. Şirket, süper zekanın - yapay zeka sistemlerinin önümüzdeki 10 yıl içinde - insanlığın uğraştığı diğer teknolojilerden çok daha güçlü olacağına inanıyor.
Çok daha müreffeh bir geleceğe sahip olabileceğimiz, ancak oraya ulaşmak için riskleri nasıl yöneteceğimizi bilmemiz gerektiği söyleniyor. Yazarlar, “varoluşsal risk olasılığı göz önüne alındığında, sadece reaktif olamayız. A
nükleer enerjibu özelliğe sahip bir teknolojinin yaygın olarak kullanılan tarihsel bir örneğidir; sentetik biyoloji başka bir örnektir.”
İlk bölümlerini, günümüzün yapay zeka teknolojisinin risklerini azaltmamız gerektiğini, ancak süper zekanın özel muamele ve koordinasyon gerektireceğini belirterek bitiriyor.
Bu ilişkinin bir düzenleyici kuruma ve halihazırda var olan Uluslararası Atom Enerjisi Ajansı'na, Birleşmiş Milletler'e, BM'ye olan ihtiyacından bahsetmeye devam ediyor.
“Dünyanın gelişimini sağlamak için büyük kalkınma çabaları arasında bir dereceye kadar koordinasyona ihtiyacımız var. süper zeka, güvenliği sağlamamıza ve bu sistemlerin toplum."
“Eninde sonunda süper zeka çabaları için [Uluslararası Atom Enerjisi Kurumu] gibi bir şeye ihtiyacımız olacak; belirli bir kapasite eşiğinin (veya bilgi işlem gibi kaynakların) üzerindeki herhangi bir çabanın, uluslararası bir otoriteye tabi olması gerekecektir. sistemleri denetler, denetimler gerektirir, güvenlik standartlarına uygunluğu test eder, dağıtım dereceleri ve güvenlik seviyelerine kısıtlamalar getirir, vesaire".
Şirket, süreçte kamu katkısını önemli görüyor
Güçlü sistemlerin yönetişiminin kamu gözetimine eşlik etmesi gerektiği söylenir. Dünyanın dört bir yanındaki insanların, hangi sınırlara ve standartlara sahip olduklarına demokratik olarak karar verme yetkisine sahip olmaları gerektiğine inanıyorum. AI sistemleri Şirket, böyle bir mekanizmanın nasıl tasarlanacağını henüz bilmediklerini ancak geliştirme çalışmalarının devam ettiğine dikkat çekiyor. planlama.
Son olarak bir süper zeka oluşumunu engellemenin riskli olduğu vurgulanmıştır. Avantajlarını ve bunları inşa eden aktörlerin sayısının hızla arttığını ve doğal olarak teknolojik yolun bir parçası olduğunu vurguluyor. Şirket, önlemlerin doğru olması gerektiğini soruyor.
Orijinal yayına erişmek için tıklayın Burada.
