Los líderes de OpenAI comentan sobre la necesidad de un organismo regulador para la IA.

La inteligencia artificial es la herramienta del momento. Con su rápida evolución, se batieron récords en poco tiempo con el fenomenal ChatGPT. Sin embargo, sus líderes creen que se necesita un organismo regulador internacional, similar al que rige la energía nuclear. Existe una gran preocupación por el uso malicioso de la herramienta para crear información errónea y falsificaciones profundas.

En una publicación en el blog de la compañía, el fundador de OpenAI, Sam Altman, el presidente Greg Brockman y el científico jefe Ilya Sutskever se unieron para brindar más detalles sobre lo que se puede hacer.

¿Qué dice la publicación del blog de OpenAI?

Las personas que lideran OpenAI creen que ahora es el mejor momento para reflexionar sobre el llamado "gobierno de superinteligencia". La compañía cree firmemente que la superinteligencia, los sistemas de IA en los próximos 10 años, serán mucho más poderosos que otras tecnologías con las que se ha enfrentado la humanidad.

Se dice que podemos tener un futuro dramáticamente más próspero, pero que necesitamos saber cómo manejar los riesgos para llegar allí. Los autores comentan que, “dada la posibilidad de riesgo existencial, no podemos ser simplemente reactivos. A energía nucleares un ejemplo histórico de uso común de una tecnología con esta propiedad; la biología sintética es otro ejemplo”.

Termina sus primeras secciones afirmando que debemos mitigar los riesgos de la tecnología de inteligencia artificial actual, pero que la superinteligencia requerirá un tratamiento y coordinación especiales.

Continúa hablando de esta relación de la necesidad de un organismo regulador, así como la ya existente Agencia Internacional de Energía Atómica, de las Naciones Unidas, la ONU.

“Necesitamos cierto grado de coordinación entre los principales esfuerzos de desarrollo para garantizar que el desarrollo de la la superinteligencia se produce de una manera que nos permite mantener la seguridad y asistir en la integración fluida de estos sistemas con el sociedad."

“Es probable que eventualmente necesitemos algo como una [Agencia Internacional de Energía Atómica] para los esfuerzos de superinteligencia; cualquier esfuerzo por encima de un cierto umbral de capacidad (o recursos como la informática) deberá estar sujeto a una autoridad internacional que pueda inspeccionar sistemas, requerir auditorías, probar el cumplimiento de los estándares de seguridad, imponer restricciones en los grados de implementación y niveles de seguridad, etc".

La empresa considera que la contribución pública es importante en el proceso

Se dice que la gobernanza de los sistemas poderosos debe acompañar a la fiscalización pública. Creo que las personas de todo el mundo deberían estar facultadas para decidir democráticamente cuáles son los límites y las normas de sistemas de IA La empresa señala que aún no saben cómo diseñar un mecanismo de este tipo, pero que su desarrollo está en curso. planificación.

Finalmente, se enfatiza que es arriesgado impedir la creación de una superinteligencia. Destaca sus ventajas y que la cantidad de actores que los construyen está aumentando rápidamente y es inherentemente parte del camino tecnológico. La empresa pide que las medidas tengan que ser precisas.

Para acceder a la publicación original, haga clic en aquí.