Ces dernières semaines, il y a eu une série de débats sur la place qu'occupera la production de textes à l'avenir, après la création de la ChatGPT. Dans ce cas, il s'agit d'un outil qui peut préparer des textes à partir d'informations précédentes grâce à l'utilisation de l'intelligence artificielle. Comme ChatGPT peut rendre le plagiat possible, il était nécessaire de créer un détecteur de texte généré par l'IA.
Le "classificateur" ChatGPT
voir plus
La recherche révèle que le cerveau des adolescents est "câblé" pour...
PicPay facturera désormais des frais d'inactivité; voir comment cela fonctionnera
Le logiciel développé par OpenAI s'appelait "Classifier" et son objectif principal est de détecter quand le texte a été créé par l'Intelligence Artificielle. Pour cela, les programmeurs ont développé un mécanisme entraîné à partir de textes rédigés par des êtres humains et aussi par des robots qui utilisent l'Intelligence Artificielle.
De cette façon, il pourra reconnaître les modèles de langage artificiel et ensuite reconnaître un cas de copie. Pourtant, OpenAI rapporte que le moteur est encore nouveau et contient un certain nombre de limitations sur son utilisation. Cela signifie qu'il est possible que le logiciel se trompe sur le verdict d'authenticité.
Pour éviter ces erreurs, il faut que le Classifieur ne soit utilisé que pour les textes en anglais, du moins pour l'instant. De plus, il est plus susceptible de tirer le verdict lors de l'analyse de textes longs, car il y a une perte de capacité analytique dans les textes courts. Enfin, le classificateur ne peut pas non plus être le seul critère qui indique l'utilisation de l'IA.
Controverses impliquant ChatGPT
Depuis sa création, ChatGPT a suscité des débats houleux sur l'avenir de la production de texte après les outils d'IA. En effet, il existe déjà des cas confirmés d'utilisation du programme pour contourner les règles des établissements d'enseignement. Après tout, il est possible d'utiliser ChatGPT pour créer de longs textes de dissertation dans les règles de la production académique.
Mais ce n'est pas tout, car ChatGPT peut créer différents types de textes, comme des chansons, des blagues, des poèmes et même des livres de fiction. De cette manière, la nécessité de construire un mécanisme capable de reconnaître quand l'intelligence artificielle est utilisée pour la production d'un texte a déjà été soulignée.