« Il vaut mieux prévenir que guérir, surtout quand on peut utiliser une intelligence artificielle pour tricher! » Voilà le nouveau casse-tête d’OpenAI.
Il semblerait que l’équipe d’OpenAI soit sur le point de sortir une technologie révolutionnaire. Une méthode de marquage de texte pour identifier ceux qui auraient la mauvaise idée de laisser ChatGPT rédiger leurs dissertations. Mais avant de crier « Aha! pris en flagrant délit! », la société réfléchit encore à la question.
Un porte-parole de l’entreprise a partagé avec TechCrunch que le marquage de texte est en cours de développement. Toutefois, il faut y aller doucement, car les impacts sur l’écosystème global sont multiples et complexes. D’après eux, ce n’est pas aussi simple que de coller un sticker « Fait par GPT » sur chaque document suspect.
En gros, même si c’est prometteur, il y a encore des obstacles à franchir!
Bon, pourquoi hésiter alors? Eh bien, le diable se cache dans les détails. Le souci, c’est que ces marquages peuvent être facilement contournés par des petits malins. Un simple passage par une traduction ou une reformulation pourrait rendre la méthode complètement inefficace. En plus, grand risque de discriminer les non-anglophones qui utilisent ces outils pour améliorer leur écriture. OpenAI ne veut pas jouer les Professor Snape et stigmatiser qui que ce soit.
Et qu’en est-il des autres détecteurs de texte AI? C’est un peu la bérézina. Même OpenAI avait rangé son précédent détecteur au placard à cause de sa faible précision. Alors cette approche de marquage pourrait bien être leur joker, uniquement pour le contenu généré par ChatGPT.
Les petits génies de chez OpenAI pensent qu’en « modifiant légèrement le choix des mots de ChatGPT », ils pourraient créer une empreinte presque invisible mais reconnaissable. Cette fameuse technique résiste bien jusqu’à être paraphrasée, mais dès qu’il s’agit de traductions ou de manipulations plus complexes, adieu l’empreinte!
Derrière tout cela, OpenAI met à jour son blog pour nous rappeler que cette technologie est prometteuse… mais qu’elle a encore du chemin à parcourir. Alors, avant de lancer les festivités, il va falloir trouver des solutions à ces petits bugs.
En attendant, restez prudents avec vos rédactions et n’oubliez pas: la traduction automatique, c’est parfois risqué! Si tu crois tricher comme un pro, gare à l’eau markup!
Source : Techcrunch
