Una comisión especial del Parlamento Europeo aprobó recientemente la versión inicial de un proyecto de ley que pretende tiene como objetivo establecer lineamientos para el desarrollo y uso de sistemas de inteligencia artificial en el Continente Europeo.
La aprobación de esta fase preliminar marca un importante paso adelante en la búsqueda de regulaciones diseñadas para controlar el rápido avance de las tecnologías de IA. Estas leyes son necesarias debido a la rápida evolución de estas tecnologías.
vea mas
Amenaza para Netflix: el servicio gratuito de Google compite con el streaming
Google desarrolla una herramienta de IA para ayudar a los periodistas en…
La nueva legislación, titulada “Ley Europea de Inteligencia Artificial”, es una primicia en Occidente, como en el China y otros países asiáticos ya tienen regulaciones que empresas de IA generativa como OpenAI con su ChatGPT, debe seguir.
La regulación europea para la inteligencia artificial adopta un enfoque basado en el riesgo potencial de cada sistema de IA. Cuanto mayor sea el peligro que representan, más estrictamente serán controlados.
Las reglas también establecen requisitos específicos que deben seguir los desarrolladores, conocidos como "modelos básicos".
Las categorías de riesgo de las inteligencias artificiales
La Ley Europea de Inteligencia Artificial también clasifica las IA por sus niveles de riesgo. Ellos son: riesgo mínimo o nulo, riesgo limitado, riesgo alto y riesgo inaceptable.
Incluso la IA de alto riesgo puede funcionar bajo regulación, pero las herramientas clasificadas como de riesgo inaceptable ni siquiera pueden funcionar en Europa. Los AI de riesgo inaceptable son:
- Sistemas que usan técnicas subliminales, manipuladoras o engañosas para distorsionar su propio comportamiento;
- Inteligencias artificiales que explotan las vulnerabilidades de individuos o grupos específicos;
- Sistemas de categorización biométrica basados en atributos o características sensibles;
- IA utilizadas para puntuación social o evaluación de confiabilidad;
- Sistemas de IA utilizados para evaluaciones de riesgo que predicen infracciones penales o administrativas;
- Sistemas que crean o amplían bases de datos de reconocimiento facial a través de raspado no dirigido;
- Mecanismos que infieren emociones en la aplicación de la ley, la gestión de fronteras, el lugar de trabajo y la educación.
Para evitar la proliferación de inteligencias artificiales dañinas, como las de alto riesgo y las de riesgo inaceptable, la nueva Ley Europea de Inteligencia Artificial obligará a los desarrolladores a seguir estándares predeterminado.
Uno de los aspectos de esta base de datos es el ensayo previo de las inteligencias artificiales, que deberá producirse en todos los casos, so pena de sanción al desarrollador que se niegue a realizar los ensayos.
“Los proveedores de estos modelos de IA deberán tomar medidas para evaluar y mitigar los riesgos para los derechos fundamentales, salud, seguridad, medio ambiente, democracia y estado de derecho”, dijo Ceyhun Pehlivan, un abogado europeo entrevistado por la emisora. CNBC.
En una palabra, expertos en Inteligencia Artificial
Como no podía ser de otra manera, la noticia de que se está creando una ley para regular la IA en Europa cayó como una bomba entre los especialistas en la materia y algunas industrias tecnológicas.
De antemano, cabe señalar que la Ley Europea de Inteligencia Artificial aún está en desarrollo y que la reciente aprobación es solo preliminar. Aún así, algunos actores importantes expresan preocupación.
Según la Asociación de la Industria de la Computación y las Comunicaciones de Europa, el alcance de la nueva ley se ha extendido demasiado, lo que podría hacer que "atrape IA inofensivas".
“Es preocupante ver que grandes categorías de aplicaciones útiles de IA, que presentan riesgos muy limitados, si es que los hay, ahora pueden enfrentar requisitos estrictos, o incluso pueden ser prohibidos en Europa", dijo Boniface de Champris, gerente de políticas de la organización, en un comunicado enviado a CNBC. por e-mail.
Según Dessi Savova, jefe de tecnología de la reconocida firma de abogados Clifford Chance, dijo que las leyes de control de IA que surjan en Europa influirán en el mundo.
"El alcance de las reglas de IA propuestas en Europa llegará a los desarrolladores de IA de todo el mundo", dijo.
“Sin embargo, la pregunta central es si la Ley Europea de Inteligencia Artificial establecerá un estándar para la IA en el mundo. Eso se debe a que China, EE. UU. y el Reino Unido, por nombrar algunos, están definiendo sus propias políticas de IA y enfoques regulatorios”, cuestiona Savova.
“Pero, sin duda, todos seguirán de cerca las negociaciones que se están llevando a cabo en Europa para adaptar sus propios enfoques”, concluyó.
Finalmente, Sarah Chander, asesora principal de políticas de European Digital Rights, destacó que las nuevas leyes europeas de IA requerirán que los desarrolladores demuestren su "poder".
“Si bien estos requisitos de transparencia [contenidos en el proyecto de ley] no erradican las preocupaciones sobre la infraestructura y la economía, con el desarrollo de estos vastos Los sistemas de IA requieren que las empresas tecnológicas divulguen las cantidades de potencia computacional necesarias para desarrollarlos”, recordó, en conversación con el CNBC.
Hasta el momento, el Parlamento Europeo aún no ha publicado los próximos pasos de la Ley Europea de Inteligencia Artificial.
Licenciada en Historia y Tecnología de los Recursos Humanos. Apasionado por la escritura, hoy vive el sueño de actuar profesionalmente como Redactor de Contenidos para la Web, escribiendo artículos en diferentes nichos y diferentes formatos.
