La start-up californienne a mis en ligne mardi un outil pour déterminer si un texte est écrit par un humain ou ChatGPT. Avec des résultats assez faibles.
Aubaine pour les étudiants, cauchemars pour les enseignants. Conçu pour répondre aux questions des humains, ChatGPT est aussi utilisé pour tricher à des examens. OpenAI, la start-up à l'origine du chatbot est bien consciente des dérives liées à l'utilisation de son robot conversationnel. L'entreprise californienne a donc dévoilé ce mardi un logiciel chargé de déterminer si un texte a été réalisé à l'aide de l'intelligence artificielle (IA). Mais l'efficacité laisse à désirer.
De nombreuses limites
Il est «impossible de détecter de manière certaine tous les textes écrits avec de l'IA», prévient OpenAI dans un communiqué. Selon les premiers essais de la start-up, son détecteur ne repère que 26 % des textes écrits par un chatbot. Dans 9% des cas, il attribue un texte rédigé par un humain à une intelligence artificielle. Les textes modifiés par l'Homme échappent également à sa surveillance. L'efficacité du détecteur s'améliore à mesure que la longueur du texte d'entrée augmente. «Il est donc très peu fiable sur les textes courts inférieurs à 1.000 signes», précise le communiqué.
À lire aussiChatGPT: «Seuls ceux qui maîtrisent correctement la langue devraient l’utiliser»
Le logiciel ne fonctionne qu'en anglais, mais l'entreprise assure que son outil va s'améliorer avec le temps. En attendant, le détecteur «devra être utilisé comme complément à d'autres méthodes afin de déterminer avec certitude l'origine du texte», a déclaré un porte-parole d'OpenAI à TechCrunch. D’autres outils sont disponibles gratuitement sur le marché. À l’instar de GPTZero, un programme dévoilé par un étudiant, ou encore celui de la start-up franco-canadienne Draft&Goal.
Lancée fin 2015 et co-dirigée à ses débuts par les entrepreneurs Sam Altman et Elon Musk, OpenAI se présente comme une entreprise de recherche et de déploiement de l'intelligence artificielle. Après avoir reçu 1 milliard de dollars de Microsoft en 2019, la start-up vient de passer un nouvel accord pour 10 milliards de dollars avec le géant informatique.
