La leçon sur l'IA qu'un précurseur de ChatGPT nous a laissé en 1966

"J'existe."

C'est ainsi que Cortana, l'assistant virtuel de Microsoft, a été chargé de répondre en 2014 lorsqu'on lui a demandé s'il était vivant.

Avançons dans le temps, et aujourd'hui, nous sommes confrontés à des défis sociaux et philosophiques apportés par les technologies de l'intelligence artificielle, comme le ChatGPT, qui fait partie du moteur de recherche Bing.

Bien que ces technologies aient des capacités avancées, telles que la capacité de collaborer, elles soulèvent également des inquiétudes quant à l'augmentation de l'implication humaine avec les machines.

Cependant, l'histoire montre qu'il est peu probable que nous puissions freiner significativement son développement. En examinant les interactions passées entre les humains et les robots, il est plus probable qu'à l'avenir, nous les accepterons et même nous adapterons à eux en tant que « famille ».

Cela peut avoir des conséquences que nous ne sommes pas encore en mesure de prévoir.

Eliza – la première assistante virtuelle

La technologie des assistants virtuels remonte aux années 1960, lorsque l'informaticien Joseph Weizenbaum du MIT a conçu Eliza. Ce programme de traitement du langage naturel pourrait imiter de manière convaincante de courtes conversations humaines et, dans une application célèbre, il pourrait simuler l'interaction entre un client et un thérapeute.

Photo: Google.

Bien qu'il fonctionnait sur des scripts et des correspondances de modèles, les utilisateurs ont été impressionnés par sa capacité à imiter les conversations humaines. Le programme a été expérimenté par des étudiants et des collègues, dont le Dr. Sherry Turkle, qui a depuis étudié les effets sociaux des machines.

Bien qu'il soit conçu comme une parodie de la relation médecin-patient, les utilisateurs ont parlé à Eliza, lui attribuant intelligence et compassion. Bien que le créateur d'Eliza ait clairement indiqué que le programme manquait de ces capacités, il était suffisamment convaincant. assez pour que la secrétaire de Weizenbaum lui demande de quitter la pièce afin qu'elle puisse parler avec Eliza particulier.

Ce n'est que dans les années 2010 que les assistants virtuels comme Siri, Cortana et Alexa ont été largement adoptés, mais l'histoire des précurseurs de la technologie a commencé avec Eliza il y a plus de cinquante ans.

Dans son application pratique, Eliza était contrainte et non intuitive, nécessitant la programmation de nouveaux schémas d'interaction. Cependant, la tendance des utilisateurs à attribuer des capacités réalistes à Eliza était une découverte importante, contredisant ce que le créateur, Joseph Weizenbaum, espérait montrer.

Comme il l'a écrit plus tard, il n'a pas réalisé que de courtes expositions à un simple programme informatique pouvaient conduire des personnes normales à des pensées délirantes.

Les humains ont tendance à humaniser les machines

Dr. Sherry Turkle explique que cette tendance des humains à attribuer des émotions, de l'intelligence et même de la conscience aux machines est connue sous le nom de effet eliza. C'est le résultat de notre tendance à créer des robots à notre image, à nous connecter facilement avec eux et à nous rendre vulnérables au pouvoir émotionnel de cette connexion.

En bref, les utilisateurs ont donné vie et personnalité à un chatbot rudimentaire qui n'avait aucune capacité d'apprentissage ou de génération.

Les gens ont tendance à repousser les limites des conceptions d'assistants virtuels et à rechercher des interactions pour le qu'ils n'ont pas été conçus, y compris déclarer votre amour, proposer le mariage ou parler de votre jours. Ces besoins humains créent la base des relations avec les chatbots, qui, grâce aux progrès de l'apprentissage automatique, se sentent plus spontanés et sociaux que leurs prédécesseurs.

Jake Rossen écrit à propos de la réception d'Eliza et commente que dans les années 1960, c'était un flirt tentant avec l'intelligence artificielle, mais son créateur, Joseph Weizenbaum, n'était pas préparé à la conséquences. Maintenant, alors que nous entrons dans une période de l'histoire où les assistants virtuels sont de plus en plus courants et accessibles, nous sommes toujours pas préparés aux conséquences non seulement de leurs capacités mais aussi de notre tendance à les accueillir et à les accommoder, parfois au détriment de posséder.

Source: salon