Umělá inteligence je nástrojem současnosti. S jeho rychlým vývojem byly v krátké době překonány rekordy s fenomenálním ChatGPT. Její lídři se však domnívají, že je zapotřebí mezinárodní regulační orgán, podobný tomu, který řídí jadernou energetiku. Panují silné obavy ze škodlivého použití nástroje k vytváření dezinformací a deepfakes.
V příspěvku na blogu společnosti se zakladatel OpenAI Sam Altman, prezident Greg Brockman a hlavní vědec Ilya Sutskever spojili, aby poskytli další podrobnosti o tom, co lze udělat.
vidět víc
Google vyvíjí nástroj AI, který má novinářům pomoci v…
Neotevřený původní iPhone z roku 2007 se prodává za téměř 200 000 $; vědět...
Co říká příspěvek na blogu OpenAI?
Vedoucí OpenAI věří, že nyní je nejlepší čas zamyslet se nad takzvaným „superinteligenčním řízením“. Společnost pevně věří, že superinteligence – systémy umělé inteligence v příštích 10 letech – budou mnohem výkonnější než jiné technologie, se kterými se lidstvo potýkalo.
Říká se, že můžeme mít dramaticky úspěšnější budoucnost, ale musíme vědět, jak řídit rizika, abychom se tam dostali. Autoři komentují, že „vzhledem k možnosti existenčního rizika nemůžeme být jen reaktivní. A
nukleární energieje běžně používaný historický příklad technologie s touto vlastností; syntetická biologie je dalším příkladem.
Své první části končí konstatováním, že musíme zmírnit rizika dnešní technologie AI, ale že superinteligence bude vyžadovat zvláštní zacházení a koordinaci.
Dále hovoří o tomto vztahu potřeby regulačního orgánu, stejně jako již existující Mezinárodní agentury pro atomovou energii, Organizace spojených národů, OSN.
„Potřebujeme určitou míru koordinace mezi hlavními vývojovými snahami, abychom zajistili, že rozvoj bude superinteligence probíhá způsobem, který nám umožňuje udržovat bezpečnost a pomáhat při hladké integraci těchto systémů s společnost."
„Je pravděpodobné, že nakonec budeme potřebovat něco jako [Mezinárodní agenturu pro atomovou energii] pro superinteligenční úsilí; jakékoli úsilí nad určitou prahovou hodnotu kapacity (nebo zdrojů, jako je výpočetní technika) bude muset podléhat mezinárodnímu úřadu, který může kontrolovat systémy, vyžadovat audity, testovat shodu s bezpečnostními standardy, ukládat omezení na stupně nasazení a úrovně zabezpečení, atd".
Společnost považuje veřejný příspěvek v tomto procesu za důležitý
Říká se, že řízení výkonných systémů musí doprovázet veřejný dohled. Věřím, že lidé na celém světě by měli mít pravomoc demokraticky rozhodovat o tom, jaké jsou hranice a normy systémy AI Firma upozorňuje, že zatím neví, jak takový mechanismus navrhnout, ale že jeho vývoj probíhá. plánování.
Nakonec je zdůrazněno, že je riskantní bránit vytvoření superinteligence. Zdůrazňuje jejich výhody a to, že počet aktérů, kteří je budují, rychle roste a je neodmyslitelnou součástí technologické cesty. Společnost požaduje, aby opatření byla přesná.
Pro přístup k původní publikaci klikněte tady.
