I leader di OpenAI commentano la necessità di un organismo di regolamentazione per l'IA.

L'intelligenza artificiale è lo strumento del momento. Con la sua rapida evoluzione, i record sono stati battuti in breve tempo con il fenomenale ChatGPT. Tuttavia, i suoi leader ritengono che sia necessario un organismo di regolamentazione internazionale, simile a quello che governa l'energia nucleare. C'è una forte preoccupazione per l'uso dannoso dello strumento per creare disinformazione e deepfake.

In un post sul blog dell'azienda, il fondatore di OpenAI Sam Altman, il presidente Greg Brockman e il capo scienziato Ilya Sutskever si sono riuniti per fornire maggiori dettagli su cosa si può fare.

Cosa dice il post sul blog di OpenAI?

Le persone che guidano OpenAI credono che ora sia il momento migliore per riflettere sulla cosiddetta "governance della superintelligenza". L'azienda crede fermamente che la superintelligenza - i sistemi di intelligenza artificiale nei prossimi 10 anni - sarà molto più potente di altre tecnologie con cui l'umanità ha avuto a che fare.

Si dice che possiamo avere un futuro drammaticamente più prospero, ma che dobbiamo sapere come gestire i rischi per arrivarci. Gli autori commentano che, “data la possibilità del rischio esistenziale, non possiamo essere solo reattivi. UN energia nucleareè un esempio storico comunemente usato di una tecnologia con questa proprietà; la biologia sintetica è un altro esempio”.

Conclude le sue prime sezioni affermando che dobbiamo mitigare i rischi dell'odierna tecnologia AI, ma che la superintelligenza richiederà un trattamento e un coordinamento speciali.

Continua parlando di questo rapporto della necessità di un organismo di regolamentazione, oltre alla già esistente Agenzia internazionale per l'energia atomica, delle Nazioni Unite, l'ONU.

“Abbiamo bisogno di un certo grado di coordinamento tra i principali sforzi di sviluppo per garantire che lo sviluppo del la superintelligenza si verifica in un modo che ci consente di mantenere la sicurezza e assistere nella regolare integrazione di questi sistemi con il società."

“È probabile che alla fine avremo bisogno di qualcosa come un'[Agenzia internazionale per l'energia atomica] per gli sforzi di superintelligenza; qualsiasi sforzo al di sopra di una certa soglia di capacità (o risorse come l'informatica) dovrà essere soggetto a un'autorità internazionale che può farlo ispezionare i sistemi, richiedere audit, testare la conformità agli standard di sicurezza, imporre restrizioni sui gradi di implementazione e sui livelli di sicurezza, eccetera".

L'azienda considera importante il contributo pubblico nel processo

Si dice che il governo dei sistemi potenti debba accompagnare il controllo pubblico. Credo che le persone in tutto il mondo dovrebbero avere il potere di decidere democraticamente quali sono i confini e gli standard di Sistemi di intelligenza artificiale L'azienda sottolinea di non sapere ancora come progettare un tale meccanismo, ma che il suo sviluppo è in corso. pianificazione.

Infine, si sottolinea che è rischioso impedire la creazione di una superintelligenza. Mette in evidenza i loro vantaggi e che il numero di attori che li costruiscono sta aumentando rapidamente ed è intrinsecamente parte del percorso tecnologico. L'azienda chiede che le misure siano accurate.

Per accedere alla pubblicazione originale, fare clic su Qui.