Изкуственият интелект е инструментът на момента. С бързата си еволюция, рекордите бяха счупени за кратко време с феноменалния ChatGPT. Лидерите му обаче смятат, че е необходим международен регулаторен орган, подобен на този, който управлява ядрената енергетика. Има силна загриженост относно злонамереното използване на инструмента за създаване на дезинформация и deepfakes.
В публикация в блога на компанията, основателят на OpenAI Сам Олтман, президентът Грег Брокман и главният учен Иля Сутскевер се събраха, за да предоставят повече подробности за това какво може да се направи.
виж повече
Google разработва AI инструмент, за да помогне на журналистите в...
Неотварян оригинален iPhone от 2007 г. се продава за близо $200 000; зная...
Какво казва публикацията в блога на OpenAI?
Хората, ръководещи OpenAI, вярват, че сега е най-доброто време за размисъл върху така нареченото „суперинтелигентно управление“. Компанията силно вярва, че суперинтелигентността - системите за изкуствен интелект през следващите 10 години - ще бъде много по-мощна от другите технологии, с които човечеството се е сблъсквало.
Твърди се, че можем да имаме драматично по-проспериращо бъдеще, но трябва да знаем как да управляваме рисковете, за да стигнем дотам. Авторите коментират, че „като се има предвид възможността за екзистенциален риск, не можем просто да реагираме. А ядрена енергияе често използван исторически пример за технология с това свойство; синтетичната биология е друг пример.
Той завършва първите си раздели, като заявява, че трябва да смекчим рисковете от днешната AI технология, но че суперинтелигентността ще изисква специално отношение и координация.
Той продължава да говори за тази връзка на необходимостта от регулаторен орган, както и вече съществуващата Международна агенция за атомна енергия, на ООН, ООН.
„Нуждаем се от известна степен на координация между основните усилия за развитие, за да гарантираме, че развитието на суперинтелигентността възниква по начин, който ни позволява да поддържаме сигурността и да подпомагаме гладкото интегриране на тези системи с общество."
„Вероятно е в крайна сметка да имаме нужда от нещо като [Международна агенция за атомна енергия] за суперразузнавателни усилия; всяко усилие над определен праг на капацитет (или ресурси като изчислителни) ще трябва да бъде предмет на международен орган, който може проверяват системи, изискват одити, тестват съответствието със стандартите за сигурност, налагат ограничения върху степените на разгръщане и нивата на сигурност, и т.н.".
Компанията вижда публичния принос като важен в процеса
Казва се, че управлението на мощни системи трябва да придружава публичен надзор. Вярвам, че хората по света трябва да бъдат овластени да решават демократично какви са границите и стандартите на AI системи От компанията посочват, че все още не знаят как да проектират подобен механизъм, но разработването му е в ход. планиране.
Накрая се подчертава, че е рисковано да се предотврати създаването на суперинтелект. Той подчертава техните предимства и че броят на участниците, които ги изграждат, се увеличава бързо и е присъща част от технологичния път. Компанията моли мерките да са точни.
За достъп до оригиналната публикация щракнете тук.
