Des systèmes superintelligents sont déjà créés et diffusés à travers le monde en raison de la course technologique. Pour cette raison, certaines questions se posent: est-il possible contrôler l'intelligence artificielle jusqu'à quel point? Dans quelle mesure sommes-nous prêts à combattre un IA qui fonctionne au-delà de la capacité humaine? Dans quelle mesure est-il éthique de créer un programme dont les conséquences et les impacts ne peuvent pas encore être mesurés? Voir maintenant plus d'informations sur ces questions posées par les scientifiques.
En savoir plus: 7 applications de l'intelligence artificielle: certaines remplacent déjà le travail humain
voir plus
Alerte: CETTE plante vénéneuse a débarqué un jeune homme à l'hôpital
Google développe un outil d'IA pour aider les journalistes à…
Intelligence artificielle avec superintelligence
Cela ressemble à une intrigue de film de science-fiction, mais la vérité est qu'une intelligence artificielle peut en effet créer une autonomie pour apprendre des commandes qui peuvent ensuite se retourner contre les humains. Il n'est pas garanti, par exemple, qu'ils suivront des règles telles que "ne pas nuire à l'humanité", car qu'ils seront programmés pour avoir de l'autonomie et pouvoir contourner les limites imposées par programmeurs.
Problème d'arrêt d'Alan Turing
Appelé « problème d'arrêt », ce problème propose deux alternatives pour une commande donnée à un ordinateur: soit il arriver à une conclusion et soit y répondre en s'arrêtant, soit continuer en boucle en essayant de trouver une solution - jusqu'à ce que trouve-la. Pour cette raison, il est impossible de savoir si l'intelligence artificielle s'arrêtera, ou si elle trouvera et stockera toutes les conclusions possibles dans sa mémoire.
Le problème avec ceci est qu'il n'est pas possible de mesurer, après un certain temps, quelle solution ou alternative la machine prendra pour un problème donné. De cette façon, son comportement sera imprévisible et il sera inutile de créer un algorithme de confinement.
Divergences entre les opinions des scientifiques
Certains scientifiques soutiennent que toutes les avancées technologiques doivent être conçues pour promouvoir le bien commun de manière sûre et contrôlée. De cette façon, une supermachine capable de stocker n'importe quel type d'intelligence, avec des pouvoirs de confinement inefficaces et une capacité de destruction encore non mesurée, apparaît comme quelque chose de dangereux.
Dans cet esprit, les chercheurs en informatique affirment que les machines superintelligentes peuvent avoir des inconvénients qui l'emportent sur les avantages, et leur construction doit être évitée. De nombreux programmeurs sont constamment confrontés au fait que leurs machines ont appris à faire des choses qu'ils n'ont jamais pu faire. enseigné ou créé des commandes pour qu'ils apprennent - et cela, selon ce qu'ils apprennent, peut symboliser un risque.
questions éthiques
Limiter les capacités de superintelligence peut être une alternative viable. Pour cela, il est possible de le couper de certaines parties d'internet ou de certains réseaux. Ce seraient des exemples de mécanismes de confinement. Cependant, on ne sait pas encore si ces alternatives sont viables - ou si la machine aurait accès à ces contenus d'une manière qui n'a pas encore été révélée.
Par conséquent, si l'humanité continue d'avancer avec l'intelligence artificielle, il faut faire très attention à la mesure dans laquelle elle doit être autonome.