Texte écrit par une IA : peut-on vraiment le détecter ?

Ce texte que je lis est-il issu de l’IA ? Depuis 2022, la question semble tarauder tout le monde. Tout récemment, j’ai publié un article sur Facebook, que le réseau s’est empressé de compléter d’une étiquette « contenu IA » et qu’il expliquait de la manière suivante : « Le contenu de cette publication est susceptible d’avoir été créé à l’aide de l’IA ». Problème, il n’en était rien, sauf naturellement pour l’illustration, ce qui se voyait comme le nez au milieu de la figure.

Plus récemment, nous avons eu droit à un psychodrame impliquant Théélison Orélien, aspirant au prix Goncourt. L’affaire a fait grand bruit et, malgré les dénégations de l’auteur, l’éditeur a fini par résilier le contrat. Il faut dire que l’analyse des différentes versions du texte laissait apparaître la présence de balise d’IA dans les métadonnées. Orélien a lui fini par reconnaître l’usage de l’IA, mais juste pour effectuer des recherches historiques, par pour rédiger l’ouvrage concerné à sa place.

Mais on voit bien que le sujet est très sensible. D’ailleurs, l’UE impose par l’IA Act un marquage technique choisi par l’éditeur de la solution (métadonnée ou signature numérique). ChatGPT emploie TextGrain, tandis que Google s’appuie sur SynthID. Claude emploie une variante de ce dernier, tandis que le premier pourrait se retrouver dans le domaine public.

Ai Ai Detected GIFfrom Ai GIFs

Toutefois, ces systèmes invisibles sont plus ou moins contournables par une réécriture partielle du texte, ou en les traduisant dans une autre langue. Et ils ne sont obligatoires qu’en Europe. Tout dépend de la volonté des éditeurs concernés… dans d’autres pays. Deux solutions existent pour vérifier l’usage de l’IA (mais surtout sur des contenus texte), mais seule celle pour SynthID est accessible au commun des mortels, l’autre restant pour l’instant réservée aux chercheurs pour les contenus textes, tandis que la vérification de graphiques et audio est ouverte à tous.

Nombre d’autres services, dont Pangram (qui propose des versions gratuites et payantes), GPTZero ou encore Copyleaks (qui propose aussi les deux). Mais gardez à l’esprit qu’aucun ne peut en l’état prétendre à l’infaillibilité, disons 60% environ à la louche. Open AI avait lancé début 2023 AI Text Classifier, avant de le retirer faute de résultats probants.

Je pense que le débat sur le sujet ne fait que commencer, et que rien ne vaut un mélange de méfiance ainsi que de bon sens. Au-delà des deep fakes évidents, qui s’identifient maintenant généralement d’eux-mêmes, vérifiez-vous-mêmes les sources quand il y a un enjeu.