Kunstmatige intelligentie is de tool van dit moment. Met zijn snelle evolutie werden in korte tijd records gebroken met de fenomenale ChatGPT. De leiders zijn echter van mening dat er een internationale regelgevende instantie nodig is, vergelijkbaar met degene die kernenergie regelt. Er bestaat grote bezorgdheid over het kwaadwillige gebruik van de tool om verkeerde informatie te creëren en deepfakes.
In een bericht op de blog van het bedrijf kwamen OpenAI-oprichter Sam Altman, president Greg Brockman en hoofdwetenschapper Ilya Sutskever samen om meer details te geven over wat er kan worden gedaan.
Bekijk meer
Google ontwikkelt AI-tool om journalisten te helpen bij…
Ongeopende originele iPhone uit 2007 wordt verkocht voor bijna $ 200.000; weten...
Wat zegt de OpenAI-blogpost?
De mensen die OpenAI leiden, zijn van mening dat dit het beste moment is om na te denken over het zogenaamde "superintelligentiebeheer". Het bedrijf is er sterk van overtuigd dat superintelligentie – de AI-systemen in de komende 10 jaar – veel krachtiger zal zijn dan andere technologieën waarmee de mensheid te maken heeft gehad.
Er wordt gezegd dat we een dramatisch welvarender toekomst kunnen hebben, maar dat we moeten weten hoe we de risico's moeten beheersen om daar te komen. De auteurs merken op dat, "gezien de mogelijkheid van existentiële risico's, we niet zomaar reactief kunnen zijn. A kernenergieis een veelgebruikt historisch voorbeeld van een technologie met deze eigenschap; synthetische biologie is een ander voorbeeld.”
Het beëindigt de eerste secties door te stellen dat we de risico's van de huidige AI-technologie moeten verkleinen, maar dat superintelligentie een speciale behandeling en coördinatie vereist.
Hij gaat verder met praten over deze relatie van de behoefte aan een regelgevende instantie, evenals de reeds bestaande Internationale Organisatie voor Atoomenergie, van de Verenigde Naties, de VN.
“We hebben een zekere mate van coördinatie nodig tussen grote ontwikkelingsinspanningen om ervoor te zorgen dat de ontwikkeling van de superintelligentie vindt plaats op een manier die ons in staat stelt de veiligheid te handhaven en te helpen bij de soepele integratie van deze systemen met de maatschappij."
“Het is waarschijnlijk dat we uiteindelijk zoiets als een [International Atomic Energy Agency] nodig zullen hebben voor superintelligentie-inspanningen; elke inspanning boven een bepaalde capaciteitsdrempel (of middelen zoals computers) moet worden onderworpen aan een internationale autoriteit die dat wel kan systemen inspecteren, audits vereisen, naleving van beveiligingsnormen testen, beperkingen opleggen aan de mate van implementatie en beveiligingsniveaus, enz".
Bedrijf beschouwt publieke bijdrage als belangrijk in het proces
Er wordt gezegd dat het bestuur van krachtige systemen gepaard moet gaan met openbaar toezicht. Ik geloof dat mensen over de hele wereld in staat moeten worden gesteld om democratisch te beslissen wat de grenzen en normen zijn AI-systemen Het bedrijf wijst erop dat ze nog steeds niet weten hoe ze zo'n mechanisme moeten ontwerpen, maar dat de ontwikkeling ervan in volle gang is. planning.
Tot slot wordt benadrukt dat het riskant is om het ontstaan van een superintelligentie te voorkomen. Het benadrukt hun voordelen en dat het aantal actoren dat ze bouwt snel toeneemt en inherent deel uitmaakt van het technologische pad. Het bedrijf vraagt dat de maatregelen nauwkeurig moeten zijn.
Klik op om toegang te krijgen tot de originele publicatie hier.