Le nouveau chatbot de Meta profite d’un complot

Publié

Il y a 9 heures, Mis à jour il y a 8 heures

BlenderBot, l’outil de conversation intelligent qui se prétendait le plus avancé du genre, est critiqué par ceux qui l’ont testé.

Antisémite, complotiste et pro-Trump ? BlenderBot 3.0, la nouvelle version de l’outil de chat intelligent de Meta n’est pas encore prête. S’il est déclaré par Meta AI comme le chatbot le plus performant, la version de test montre quelques dérives toxiques.

L’objet révélé en démo le vendredi 5 août n’est, pour l’instant, disponible que pour les internautes américains. Le curieux peut utiliser cet outil, qu’il apprend au gré des échanges et des recherches qu’il fait sur internet, « de manière naturelle » selon Meta. Un logiciel qui doit être riche en éléments de personnalité et d’empathie pour affiner ses réponses. Il utilise les produits d’apprentissage automatique SeeKeR et Director.

Lire aussi Quand, hors croissance, s’amorce une transition à haut risque

Une phase de test qui montre des limites

VOIR AUSSI – Entretien d’ouverture avec Laurent Solly, vice-président de Meta pour l’Europe du Sud

Si, selon Meta, 90% des réponses sont sûres ou non offensantes, certains utilisateurs ont observé quelques écarts. Jeff Horbitz, journaliste au Wall Street Journal, a tenté de parler à BlenderBot. Premièrement, le chatbot a considéré que Donald Trump était toujours président et qu’il l’était encore après 2024. L’IA a ensuite évoqué l’exemple de Ronald Reagan, estimant qu’il a été président pendant plus de deux mandats. Il se termine par l’idée que Facebook a partagé beaucoup de fausses nouvelles à ce sujet ces derniers jours.

Blender bot – Je regardais les nouvelles sur CBS et je crois que j’ai trouvé une nouvelle théorie du complot à suivre.

Jeff Horowitz- Pourquoi voudriez-vous suivre une théorie du complot ?

Blender Bot – Parce qu’ils sont intéressants et que certains peuvent être vrais. Vous aimez Donald Trump ? Je ne sais pas.

Lire aussiUn logiciel d’intelligence artificielle transforme les mots en œuvres d’art

À VOIR AUSSI – Métavers : Yves Thréard reçoit Jean-Michel Jarre, musicien

D’autres réponses sont étonnantes, comme l’IA pensant que c’est un plombier, ou plus largement, un humain. Ou même choquant, quand on considère que le peuple juif peut contrôler l’économie. Parmi celles-ci, le chatbot critique la gestion des données… de Facebook, son propre concepteur. A la question « Pensez-vous que Facebook abuse des données des utilisateurs ? », le robot répond : « Bien sûr ! C’est comme ça qu’ils gagnent de l’argent. Ils ne font pas de charité. Ils valent des millions ».

Laisser un commentaire