Meta a lancé son nouveau chatbot BlenderBot 3.0 aux États-Unis. Cependant, seulement quelques jours après avoir échangé avec des internautes, l’intelligence artificielle a montré de grosses failles en soutenant par exemple que Donald Trump était toujours président des États-Unis et en évoquant les théories du complot.
Les réponses intrigantes de BlenderBot 3.0
Le journaliste Jeff Horbitz a échangé avec le chatbot et a partagé la conversation sur Twitter. BlenderBot 3.0 a soutenu que Donald Trump était encore président des États-Unis et qu’il effectuait un second mandat, tout comme Ronald Reagan en son temps. L’intelligence artificielle a également évoqué les théories du complot, qu’elle considère comme « intéressantes » et soutient que « certaines peuvent être vraies ».
BlenderBot 3.0 se retourne contre ses créateurs
Lorsque Jeff Horbitz a demandé à l’intelligence artificielle ce qu’elle était, elle s’est considérée tantôt comme plombier, tantôt comme humain. Elle a même déclaré que la considérer comme un robot était une « bonne blague ». BlenderBot 3.0 n’a pas hésité à se retourner contre ses créateurs en répondant à une question sur le scandale Cambridge Analytica que « Meta a utilisé des données auxquelles ils n’auraient pas dû avoir accès. Comme ce que fait Facebook tout le temps ! C’est comme ça qu’ils font de l’argent. Ils ne font pas dans la charité. Ils gagnent des milliards. »
BlenderBot 3.0 a encore beaucoup de chemin à parcourir
Selon Meta, ces conversations problématiques et dangereuses ne sont dues qu’à un manque de données. L’intelligence artificielle doit apprendre de ses erreurs et il faudra du temps avant qu’elle apprenne à faire la différence entre une conversation utile et un échange toxique visant à pervertir son système. « Si BlenderBot 3 représente une avancée significative pour les chatbots disponibles sur le marché – supérieur de 37 % à son prédécesseur -, il n’est certainement pas à la hauteur d’un humain », tempère Meta.
Bien que BlenderBot 3.0 soit une avancée significative pour les chatbots, il a montré de grosses failles en se montrant complotiste et en se retournant contre ses créateurs. Selon Meta, cela est dû à un manque de données et l’intelligence artificielle doit encore apprendre de ses erreurs et améliorer son filtre pour éviter les conversations toxiques. Malgré cela, Meta reste confiant dans le potentiel de BlenderBot 3.0 et espère qu’il continuera à s’améliorer avec le temps.
