თქვენ ალბათ იყენებთ - ან მინიმუმ გსმენიათ - ChatGPT. ხელოვნური ინტელექტის ინსტრუმენტს ჰქონდა "ბუმი" ბოლო თვეებში და იყო "საჭეზე ხელი" კითხვებზე პასუხის გასაცემად ან თუნდაც უფრო რთული სამუშაოების შესასრულებლად.
თუმცა, სისტემა მალავს ბნელ საიდუმლოს - და მისმა შემქმნელებმა ეს იციან. მათ არამარტო იციან, არამედ პასუხისმგებლობაც საკუთარ თავზე იღებენ.
მეტის ნახვა
Google ავითარებს ხელოვნური ინტელექტის ინსტრუმენტს, რათა დაეხმაროს ჟურნალისტებს…
2007 წლის გაუხსნელი ორიგინალი iPhone თითქმის 200 000 დოლარად იყიდება; ვიცი...
მიხედვით OpenAIკომპანია, რომელმაც შექმნა ინსტრუმენტი, ChatGPT განიცდის "ჰალუცინაციებით". ანუ მას შეუძლია ზოგჯერ მცდარი ინფორმაციის მიცემა.
სიტუაცია კომპანიამ გასულ ოთხშაბათს, 31 მაისს გამოაცხადა. გარდა ამისა, მათ ასევე გამოაცხადეს უფრო ახალი და ძლიერი მეთოდი ხელოვნური ინტელექტის მომზადებისთვის.
რატომ არის მნიშვნელოვანი ამ ChatGPT არასწორი ქცევის გამოსწორება?
ძირითადი ახსნა არის ის, რომ ადამიანები ყოველდღიურ ცხოვრებაში ხშირად იყენებენ ხელსაწყოს. ამიტომ, აუცილებელია, რომ ChatGPT გადასცეს სანდო ინფორმაცია მათ, ვინც მას იყენებს.
მაგალითად, თუ იყენებთ AIსასკოლო სამუშაოს ტექსტის გასაუმჯობესებლად ან კონკრეტული რეცეპტების მოსაძებნად აუცილებელია იქ არსებული ინფორმაცია იყოს სწორი.
უფრო მეტიც, ჩატბოტის მომხმარებელთა მზარდი რაოდენობის გამო, ყალბი ინფორმაცია შეიძლება ადვილად გავრცელდეს, თითქოს ეს სიმართლე იყოს.
და ამან შეიძლება გამოიწვიოს დიდი თავის ტკივილი მომავალ წელს, როდესაც შეერთებული შტატების არჩევნები დაიწყება - და ეს შეიძლება ასევე გადაიზარდოს აქ, ბრაზილიაში!
„თანამედროვე მოდელებსაც კი აქვთ სიცრუის წარმოქმნის ტენდენცია - ისინი ავლენენ ტენდენციას შეადგინონ ფაქტები გაურკვევლობის მომენტებში. ეს ჰალუცინაციები განსაკუთრებით პრობლემურია იმ სფეროებში, რომლებიც საჭიროებენ მრავალსაფეხურიან მსჯელობას, ა ვინაიდან ერთი ლოგიკური შეცდომა საკმარისია ბევრად უფრო დიდი გადაწყვეტის გადასაჭრელად“, - თქვა OpenAI-ში დაუკავშირდა.
რა უნდა გააკეთოს გამოსასწორებლად?
OpenAI-მ განაცხადა, რომ გამოიყენებს ახალ სტრატეგიას "ჰალუცინაციების" წინააღმდეგ საბრძოლველად ChatGPT: ავარჯიშეთ ხელოვნური ინტელექტის მოდელები, რათა დააჯილდოვონ საკუთარი თავი ყოველი სწორი ნაბიჯისთვის. იმის ნაცვლად, რომ უბრალოდ დააჯილდოოთ იგი ბოლოს სრული პასუხით.
”მოდელის ლოგიკური შეცდომების ან ჰალუცინაციების გამოვლენა და შერბილება გადამწყვეტი ნაბიჯია საერთო გასწორებული AI-ს შესაქმნელად. ამ კვლევის მიღმა მოტივაციაა ჰალუცინაციების მოგვარება, რათა მოდელები უფრო ქმედუნარიანი გახადონ გადაჭრით რთული მსჯელობის ამოცანებს“, - განმარტა კარლ კობმა, მათემატიკის მკვლევარმა კომპანია.
დაამთავრა გოიასის ფედერალური უნივერსიტეტის სოციალური კომუნიკაცია. გატაცებულია ციფრული მედიით, პოპ-კულტურით, ტექნოლოგიებით, პოლიტიკითა და ფსიქოანალიზით.
