Quelque chose est encore à désirer dans la réponse du nouveau chatbot mis en ligne par Meta. Cependant, les chercheurs pensent que cela a un peu amélioré la sensibilisation du public à ce type de logiciel.
Créer un chatbot public est une action risquée. En 2016, Microsoft brûlait déjà des ailes avecTay. Il est rapidement devenu raciste et sexiste après être entré en contact avec de nombreux humains malveillants. En utilisant " BlenderBot3 " (BB3), Meta pense avoir créé un système qui continue d'apprendre du contact humain tout en ayant une réponse plus civilisée et socialement acceptable. Mais visiblement nous sommes encore loin du compte.
Plus de garanties
Ce logiciel, accessible uniquement aux résidents américains pendant quelques jours, fait certaines déviations importantes (pour l'instant), comme le culte d'Adolf Hitler. ) A éviter. Mais il accepte toujours la théorie du complot. Selon Bloomberg, BB3 a déclaré que Donald Trump est toujours président et le sera toujours. De plus, il a dit que l'économie était dominée par les Juifs parce que les Juifs étaient surévalués parmi les Américains ultra-riches" incroyable " »a déclaré cela. Encore plus anecdotique, BB3 se sent beaucoup mieux après avoir supprimé son compte Facebook, et Mark Zuckerberg se sent" flippant et trop manipulateur ".
Pour éviter ce genre de fake, Meta a tout de même intégré un certain nombre de sauvegardes. La réponse est donc générée par un double circuit, d'une part un modèle de langage et d'autre part un classifieur qui sépare les bonnes et les mauvaises réponses en fonction des retours utilisateurs. Le logiciel prend également en compte le comportement général de l'utilisateur pendant la conversation. La réaction d'une personne agressive ou agressive est automatiquement dépondérée au cours du cycle d'apprentissage. C'est une façon de se débarrasser des trolls. BB3 s'appuie également sur une liste de mots-clés couramment utilisés dans les réponses inappropriées.
Mais il est clair que ce n'est pas suffisant. Meta était également suspect, comme le groupe l'a souligné dans un article de blog que les chatbots pouvaient toujours faire des" commentaires grossiers ou offensants " ". Cependant, lorsque l'on compare BB3 avec d'autres modèles de conversation, les trajets routiers sont moins fréquents. Et avec le temps, il devrait sans doute s'améliorer, grâce aux retours des utilisateurs. Ce dernier peut en effet signaler chaque réponse qui n'est pas appropriée et préciser le motif du signalement. Cela améliorera le modèle. Cependant, la recherche dans ce domaine n'est pas encore terminée.
Source :Méta
