Muhtemelen ChatGPT kullanıyorsunuz veya en azından duymuşsunuzdur. Yapay Zeka aracı, son aylarda bir "patlama" yaşadı ve soruları yanıtlamak ve hatta daha karmaşık işleri gerçekleştirmek için "direksiyonda el" oldu.
Ancak sistem karanlık bir sır saklıyor ve yaratıcıları bunu biliyor. Sadece bilmekle kalmıyor, bunun sorumluluğunu da üstleniyorlar.
daha fazla gör
Google, gazetecilere yardımcı olmak için yapay zeka aracı geliştiriyor…
Açılmamış orijinal 2007 iPhone yaklaşık 200.000$'a satılıyor; Bilmek...
Göre OpenAIAracı yaratan şirket olan ChatGPT, "halüsinasyonlar" görüyor. Yani zaman zaman yanlış bilgi verebilmektedir.
Durum şirket tarafından geçen 31 Mayıs Çarşamba günü açıklandı. Ayrıca yapay zekayı eğitmek için daha yeni ve daha güçlü bir yöntem duyurdular.
Bu ChatGPT hatalı davranışını düzeltmek neden önemlidir?
Temel açıklama, insanların aracı günlük yaşamlarında çok fazla kullandıklarıdır. Bu nedenle, ChatGPT'nin onu kullananlara güvenilir bilgiler aktarması zorunludur.
Örneğin, AIbir okul çalışması metnini geliştirmek veya belirli tarifler aramak için oradaki bilgilerin doğru olması önemlidir.
Dahası, artan sayıda chatbot kullanıcısı ile yanlış bilgiler, gerçekmiş gibi kolayca yayılabilir.
Ve bu gelecek yıl Amerika Birleşik Devletleri Seçimleri başladığında büyük bir baş ağrısına neden olabilir ve bu Brezilya'ya da sıçrayabilir!
"Son teknoloji modeller bile yalan üretme eğilimindedir - belirsizlik anlarında gerçekleri uydurma eğilimi gösterirler. Bu halüsinasyonlar, çok adımlı muhakeme gerektiren alanlarda özellikle sorunludur. çünkü tek bir mantık hatası çok daha büyük bir çözümü raydan çıkarmaya yeter" dedi OpenAI iletişim
Düzeltmek için ne yapmalı?
OpenAI, "halüsinasyonlarla" mücadele etmek için yeni bir strateji kullanacağını bildirdi. ChatGPT: Her doğru adım için kendilerini ödüllendirmek üzere AI modellerini eğitin. Sonunda onu tam cevapla ödüllendirmek yerine.
"Bir modelin mantıksal hatalarını veya halüsinasyonlarını tespit etmek ve hafifletmek, genel olarak uyumlu bir yapay zeka oluşturmaya yönelik kritik bir adımdır. Bu araştırmanın arkasındaki motivasyon, modelleri daha yetenekli hale getirmek için halüsinasyonları ele almaktır. karmaşık muhakeme problemlerini çözmek,” diye açıkladı matematik araştırmacısı Karl Cobbe şirket.
Goiás Federal Üniversitesi'nde Sosyal İletişim bölümünden mezun oldu. Dijital medya, popüler kültür, teknoloji, politika ve psikanaliz konusunda tutkulu.