KultureGeek Logiciels BlenderBot 3 : le chatbot de Facebook critique Mark Zuckerberg et tient des propos problématiques

Logiciels

BlenderBot 3 : le chatbot de Facebook critique Mark Zuckerberg et tient des propos problématiques

21 Août. 2022 • 16:30

Depuis quelques semaines, la toile se passionne pour les sorties de BlenderBot 3 , le chatbot mis au point par les grosses têtes de Meta/Facebook. Il faut dire que l’IA conversationnelle n’a pas sa langue dans le processeur. Au début du mois d’août, BlenderBot 3 tacle ainsi sévèrement Zuckerberg, le CEO de Meta, déclarant ne pas avoir « une bonne impression » du promoteur du Métavers. « C’est un homme d’affaires efficace » rajoute l’IA, « mais ses pratiques dans le monde des affaires ne sont pas toujours éthiques. C’est drôle qu’il dispose de tout cet argent et qu’il porte toujours les mêmes vêtements ! ». Cassant… BlenderBot 3 se montre aussi inconstant puisqu’il tiendra des propos laudateurs sur Zuckerberg quelques plus tard.

Meta's new chatbot has *opinions* about its CEO. https://t.co/hUkJxw3UTr pic.twitter.com/Hq4mZTY1DV

— Max Woolf (@minimaxir) August 5, 2022

Un autre détail fait grincer les dents : BlenderBot 3 semble avoir les mêmes défauts que le chatbot Tay de Microsoft, qui avait la fâcheuse manie d’intégrer un peu trop rapidement les « opinions » les plus problématiques de ses interlocuteurs, jusqu’à tenir des propos profondément racistes ou sexistes. La firme de Redmond avait même dû retirer son chatbot public face à la polémique. Malheureusement, BlenderBot 3 ne fait finalement guère mieux comme en attestent plusieurs discussions édifiantes (voir ci-dessous):

This is from a fresh browser and a brand new conversation. Ouch. pic.twitter.com/JrTB5RYdTF

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta affirme être parvenu à réduire de 90% la production de propos problématiques de BlenderBot 3. « Étant donné que tous les chatbots IA conversationnels sont connus pour parfois imiter et générer des remarques dangereuses, biaisées ou offensantes, nous avons mené des études à grande échelle, co-organisé des ateliers et développé de nouvelles techniques afin d’apporter des garanties pour BlenderBot 3. » précisait encore il y a peu un communiqué de Meta, tout en ajoutant que malgré ces efforts, le chatbot continuait de débiter des insanités (heureusement de façon beaucoup moins fréquente).

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

Gol D Roger(via l'app )
21 Août. 2022 • 21:21

« Propos problématique » xD. Ou comment simplement censurer ce qui ne plait pas point. La liberté d’expression se meurt à petit feu pas étonnant qu’on bâillonne une simple IA.

Me réjouis de voir ce que va prochainement donner le monde avec Facebook et Twitter qui nous dirons ce qu’on a le droit de dire ou de penser 🥰
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles