Kunstig intelligens er øjeblikkets værktøj. Med sin hurtige udvikling blev rekorder slået på kort tid med det fænomenale ChatGPT. Dets ledere mener dog, at der er behov for et internationalt tilsynsorgan, der ligner det, der styrer atomenergi. Der er stor bekymring over den ondsindede brug af værktøjet til at skabe misinformation og deepfakes.
I et indlæg på virksomhedens blog kom OpenAI-stifter Sam Altman, præsident Greg Brockman og Chief Scientist Ilya Sutskever sammen for at give flere detaljer om, hvad der kan gøres.
se mere
Google udvikler AI-værktøj til at hjælpe journalister i...
Uåbnet original 2007 iPhone sælges for næsten $200.000; ved godt...
Hvad siger OpenAI blogindlægget?
De personer, der leder OpenAI, mener, at det nu er det bedste tidspunkt at reflektere over såkaldt "superintelligens-styring". Virksomheden er overbevist om, at superintelligens - AI-systemer i de næste 10 år - vil være meget stærkere end andre teknologier, som menneskeheden har beskæftiget sig med.
Det siges, at vi kan få en dramatisk mere velstående fremtid, men at vi skal vide, hvordan vi håndterer risiciene for at nå dertil. Forfatterne kommenterer, at "i betragtning af muligheden for eksistentiel risiko kan vi ikke bare være reaktive. EN
Atomenergier et almindeligt anvendt historisk eksempel på en teknologi med denne egenskab; syntetisk biologi er et andet eksempel."
Den afslutter sine første afsnit med at fastslå, at vi skal mindske risiciene ved nutidens kunstig intelligens-teknologi, men at superintelligens vil kræve særlig behandling og koordinering.
Han fortsætter med at tale om dette forhold mellem behovet for et regulerende organ, såvel som det allerede eksisterende Internationale Atomenergiagentur, i De Forenede Nationer, FN.
”Vi har brug for en vis grad af koordinering mellem større udviklingsindsatser for at sikre, at udviklingen af superintelligens opstår på en måde, der giver os mulighed for at opretholde sikkerheden og bistå med en smidig integration af disse systemer med samfund."
"Det er sandsynligt, at vi i sidste ende får brug for noget i retning af et [International Atomic Energy Agency] til superintelligens indsats; enhver indsats over en vis tærskel for kapacitet (eller ressourcer såsom computere) skal være underlagt en international myndighed, der kan inspicere systemer, kræve revisioner, teste overholdelse af sikkerhedsstandarder, pålægge restriktioner på udrulningsgrader og sikkerhedsniveauer, etc".
Virksomheden ser offentligt bidrag som vigtigt i processen
Det siges, at styringen af magtfulde systemer skal ledsage offentligt tilsyn. Jeg mener, at mennesker rundt om i verden bør bemyndiges til demokratisk at bestemme, hvad grænserne og standarderne for AI systemer Virksomheden påpeger, at de stadig ikke ved, hvordan man designer sådan en mekanisme, men at udviklingen af den er i gang. planlægning.
Endelig understreges det, at det er risikabelt at forhindre oprettelsen af en superintelligens. Det fremhæver deres fordele, og at antallet af aktører, der bygger dem, stiger hurtigt og i sagens natur er en del af den teknologiske vej. Virksomheden beder om, at foranstaltningerne skal være nøjagtige.
Klik på for at få adgang til den originale publikation her.
