Вештачка интелигенција је оруђе тренутка. Са његовом брзом еволуцијом, рекорди су оборени за кратко време са феноменалним ЦхатГПТ-ом. Међутим, њени челници сматрају да је потребно међународно регулаторно тело, слично оном које управља нуклеарном енергијом. Постоји велика забринутост због злонамерне употребе алата за стварање дезинформација и деепфакес.
У посту на блогу компаније, оснивач ОпенАИ Сем Алтман, председник Грег Брокман и главни научник Иља Сутскевер окупили су се да пруже више детаља о томе шта се може учинити.
види више
Гоогле развија АИ алат за помоћ новинарима у…
Неотворени оригинални иПхоне из 2007. продаје се за скоро 200.000 долара; знам...
Шта каже ОпенАИ блог пост?
Људи који воде ОпенАИ верују да је сада најбоље време за размишљање о такозваном „суперобавештајном управљању“. Компанија снажно верује да ће суперинтелигенција — системи вештачке интелигенције у наредних 10 година — бити много моћнија од других технологија са којима се човечанство бавило.
Речено је да можемо имати драматично просперитетнију будућност, али да морамо знати како да управљамо ризицима да бисмо тамо стигли. Аутори коментаришу да, „с обзиром на могућност егзистенцијалног ризика, не можемо само да реагујемо. А
нуклеарна енергијаје уобичајен историјски пример технологије са овим својством; синтетичка биологија је још један пример.”
Своје прве одељке завршава изјавом да морамо ублажити ризике данашње АИ технологије, али да ће суперинтелигенција захтевати посебан третман и координацију.
Он даље говори о овом односу потребе за регулаторним телом, као и већ постојећом Међународном агенцијом за атомску енергију, Уједињених нација, УН.
„Потребан нам је одређени степен координације између главних развојних напора како бисмо осигурали да развој суперинтелигенција се јавља на начин који нам омогућава да одржавамо безбедност и помажемо у несметаној интеграцији ових система са друштво“.
„Вероватно ће нам на крају требати нешто попут [Међународне агенције за атомску енергију] за суперобавештајне напоре; сваки напор изнад одређеног прага капацитета (или ресурса као што је рачунарство) мораће да буде предмет међународног органа који може прегледају системе, захтевају ревизије, тестирају усклађеност са безбедносним стандардима, намећу ограничења на степене примене и нивое безбедности, итд“.
Компанија види јавни допринос као важан у процесу
Речено је да управљање моћним системима мора да прати јавни надзор. Верујем да би људи широм света требало да буду оснажени да демократски одлучују које су границе и стандарди АИ системи У компанији истичу да још не знају како да дизајнирају такав механизам, али да је у току његова израда. планирање.
На крају, истиче се да је ризично спречити стварање суперинтелигенције. Истиче њихове предности и да се број актера који их граде брзо повећава и да је инхерентно део технолошког пута. Компанија тражи да мере морају бити тачне.
Да бисте приступили оригиналној публикацији, кликните овде.