Los sistemas superinteligentes ya se están creando y difundiendo en todo el mundo debido a la carrera tecnológica. Por ello, surgen algunas preguntas: ¿es posible controlar la inteligencia artificial ¿Hasta qué punto? ¿Qué tan listos estamos para luchar contra un AI que funciona más allá de la capacidad humana? ¿Qué tan ético es crear un programa cuyas consecuencias e impactos aún no se pueden medir? Vea ahora más información sobre estas preguntas hechas por los científicos.
Lea mas: 7 aplicaciones de la inteligencia artificial: algunas ya reemplazan al trabajo humano
vea mas
Alerta: ESTA planta venenosa llevó a un joven al hospital
Google desarrolla una herramienta de IA para ayudar a los periodistas en…
Inteligencia artificial con superinteligencia
Suena a trama de película de ciencia ficción, pero la verdad es que una inteligencia artificial sí puede crear autonomía para aprender comandos que luego pueden volverse en contra de los humanos. No se garantiza, por ejemplo, que seguirán reglas como “no causar daño a la humanidad”, ya que que estarán programados para tener autonomía y poder sortear los límites impuestos por programadores
Problema de detención de Alan Turing
Llamado el "problema de detención", este problema da dos alternativas para un comando dado a una computadora: llegar a una conclusión y responder deteniéndose, o continuará en un bucle tratando de encontrar una solución, hasta que Encuéntrala. Por esta razón, es imposible saber si la inteligencia artificial se detendrá o si encontrará y almacenará todas las conclusiones posibles en su memoria.
El problema de esto es que no es posible medir, después de un tiempo, qué solución o alternativa tomará la máquina para un problema dado. De esta forma, su comportamiento será impredecible y no tendrá sentido crear un algoritmo de contención.
Divergencias entre las opiniones de los científicos
Algunos científicos argumentan que todos los avances tecnológicos deben estar diseñados para promover el bien común de manera segura y controlada. De esta forma, una supermáquina capaz de almacenar todo tipo de inteligencia, con poderes de contención ineficientes y una capacidad de destrucción aún sin medir, parece algo peligroso.
Con eso en mente, los investigadores informáticos afirman que las máquinas superinteligentes pueden tener daños que superan los beneficios y que se debe evitar su construcción. Muchos programadores lidian constantemente con el hecho de que sus máquinas han aprendido a hacer cosas que ellos nunca pudieron. les enseñó o creó comandos para que los aprendan, y esto, dependiendo de lo que aprendan, puede simbolizar un riesgo.
cuestiones éticas
Limitar las capacidades de superinteligencia puede ser una alternativa viable. Para hacer esto, es posible desconectarlo de partes de Internet o de ciertas redes. Estos serían ejemplos de mecanismos de contención. Sin embargo, aún no se sabe si estas alternativas son viables o si la máquina tendría acceso a estos contenidos de una manera que aún no se ha revelado.
Por tanto, si la humanidad sigue avanzando con la inteligencia artificial, hay que tener mucho cuidado con la medida en que esta debe ser autónoma.
