Imagine une enseignante qui doute de l'origine d'une dissertation. Elle peut passer le texte dans un « détecteur », un programme qui essaie de deviner si une personne ou une machine l'a écrit. Mais selon MIT News, le site d'actualité du Massachusetts Institute of Technology (MIT), aux États-Unis, ces détecteurs sont eux-mêmes des intelligences artificielles, et on peut les tromper.
Le problème de départ
Des chercheurs du MIT et de l'université Cornell ont montré qu'un texte produit par une machine peut être maquillé pour ressembler à celui d'une personne. Le détecteur passe alors à côté. Il peut aussi se tromper pour d'autres raisons : les habitudes d'écriture évoluent avec le temps, et de nouveaux programmes capables de rédiger des textes apparaissent régulièrement. Un détecteur réglé un jour peut donc être dépassé quelque temps plus tard.
Comment ça marche
Dans un nouvel article scientifique, l'équipe présente une technique d'entraînement appelée « adaptation en cours d'usage ». L'idée est simple : au lieu de figer le détecteur une fois pour toutes, on lui permet de continuer à apprendre pendant qu'il travaille.
Il observe de nouveaux textes, sans qu'on lui dise à l'avance lesquels viennent d'un humain ou d'une machine. Il ajuste alors son fonctionnement interne au fur et à mesure. Pas besoin de tout reprendre à zéro pour qu'il s'adapte à ce qu'il n'a encore jamais vu.
Ce que ça change
Les chiffres donnés par MIT News sont parlants. Lors des expériences, un détecteur commercial ne repérait qu'environ 27 % des textes d'IA déguisés. Avec la nouvelle approche, l'exactitude atteint 93 %.
Selon les chercheurs, cela pourrait aider les enseignants, les éditeurs, les maisons de publication et les recruteurs à repérer des textes de machine que l'on fait passer pour humains. Les spécialistes de la sécurité informatique pourraient aussi s'en servir contre les courriels d'hameçonnage, ces faux messages qui cherchent à te piéger. Ils pourraient aussi l'utiliser contre les fraudes au référencement, où des sites trichent pour apparaître en tête des moteurs de recherche.
D'après Manish Raghavan, professeur à la MIT Sloan School of Management et coauteur de l'étude, l'identité de l'auteur compte beaucoup dans de nombreux cas importants, de la publication scientifique aux concours de nouvelles. Le chercheur affirme que cette adaptation rend le détecteur bien plus robuste, même face à des utilisateurs d'IA qui changent sans cesse de stratagème.
Le travail est signé avec Kevin Ren, doctorant à Cornell Tech, et Nikhil Garg, professeur assistant à Cornell Tech. Il sera présenté à la Conference on Neural Information Processing Systems.
Les limites
Ces résultats viennent d'expériences menées en laboratoire, avec la comparaison d'un détecteur commercial. L'article ne dit pas quand cette méthode pourrait arriver dans des outils accessibles à tous.
Il rappelle aussi une précaution de bon sens : un enseignant qui soupçonne un devoir écrit par une IA peut s'aider d'un détecteur, mais il a intérêt à y réfléchir à deux fois avant de lui faire entièrement confiance. Un tel outil reste une aide pour confirmer un doute, pas un juge.