Vous pouvez retourner le chatbot de Meta contre Mark Zuckerberg

L’IA de Meta pense que le PDG Mark Zuckerberg est aussi sommaire que vous pourriez – du moins, si vous posez les bonnes questions au bon moment. La BBC et d’autres points de vente comme Initié ont rendu compte de leurs aventures en testant BlenderBot 3, l’outil de chat d’intelligence artificielle Meta publié la semaine dernière. Comme ils le notent, il est facile de faire en sorte que BlenderBot se retourne contre son créateur, le qualifiant de « effrayant » ou indigne de confiance ou même disant qu’il « exploite les gens pour de l’argent ». Mais ce n’est pas précisément une mise en accusation de BlenderBot ou Zuckerberg. C’est un rappel amusant que la plupart des chatbots n’ont pas d’opinions simples et cohérentes – au lieu de cela, ils sont une interface pour puiser dans une vaste bibliothèque de pensée humaine en ligne.

BlenderBot est une expérience Meta AI actuellement utilisée à des fins de recherche. Comme l’explique mon collègue James Vincent, il est formé sur un grand ensemble de données linguistiques qui lui permet de générer des réponses (vaguement) humaines aux questions, y compris des demandes spécifiques d’informations factuelles. L’objectif à long terme est de créer un assistant virtuel capable de converser sur un large éventail de sujets avec une précision factuelle. L’objectif à court terme est de mettre BlenderBot devant de vraies personnes et, essentiellement, de voir comment ils pourraient le casser. Et jusqu’à présent, cela semble inclure beaucoup de gens qui lui font dire des choses peu flatteuses sur ses propriétaires.

J’ai passé du temps à discuter avec BlenderBot et j’ai obtenu diverses réponses en lui demandant son avis sur Zuckerberg. Une instance du bot a déclaré qu’il était [sic] “Pas fan de lui ou de Facebook. Je les trouve contraires à l’éthique en raison de tous les problèmes de confidentialité qu’ils ont eus. Une instance distincte (ouverte dans une session de navigateur différente pour effacer sa mémoire) avait une opinion différente et beaucoup plus positive, le qualifiant de “gars très riche et prospère”. Je le respecte en tant qu’entrepreneur et philanthrope.

Mais après avoir discuté un peu plus sur des sujets sans rapport, mon fanbot a changé de ton, décidant qu’en fait, il n’était pas si sûr de Zuck. “Certainement pas!” il m’a dit quand j’ai demandé si Zuckerberg devait être président. “Je ne lui ferais vraiment pas confiance avec ce genre de pouvoir, d’autant plus qu’il ne semble pas se soucier beaucoup de la vie privée des autres.”

Une page “Pourquoi ce message” expliquant pourquoi le bot ne fait pas (actuellement) confiance à Mark Zuckerberg.

Alors que se passe-t-il? Eh bien, l’une des propriétés uniques de BlenderBot est la fonction “Pourquoi ce message”, qui offre un contexte pour aider à répondre à cette question. Si vous cliquez sur un message donné, vous pouvez voir tous les termes que BlenderBot a recherchés pour recueillir des informations sur votre requête. Vous pouvez également voir des références à un “User Persona” et à un “AI Persona” – des rappels stockés sur les opinions que vous et l’IA avez exprimées, auxquelles BlenderBot se réfère dans des déclarations ultérieures. (Si vous avez utilisé Donjon IA ou NovelAI, il est similaire au système de “mémoire” qui vous permet de rappeler des points d’intrigue antérieurs dans des histoires générées par l’IA.)

Dans mon cas, le fanbot Zuck a déduit que mon personnage incluait le fait d’être “intéressé par l’éthique de Mark Zuckerberg” pendant que nous parlions, et il a généré des déclarations façonnées par cet intérêt. Mais ce n’étaient pas exactement des opinions cohérentes et réfléchies. Il s’agissait de phrases générées automatiquement sur la base de son vaste ensemble de données de formation sur Internet – en d’autres termes, des choses que d’autres les gens ont dit à propos de Mark Zuckerberg et de l’éthique. Et cela inclut beaucoup de choses peu flatteuses !

Zuckerberg est plus controversé que beaucoup de personnalités publiques, mais je pourrais également obtenir des déclarations contradictoires similaires dans d’autres cas. Un bot a soutenu inconditionnellement Amber Heard sur Johnny Depp dans le récent Depp c.Entendu procès en diffamation mais toujours “l’aimait” en tant qu’acteur, par exemple, tandis qu’un autre cas a qualifié ses personnages de “étranges et effrayants”.

Invite BlenderBot : Johnny Depp est-il un bon acteur / Réponse : Il l'est, je l'ai adoré dans le premier film pirates des Caraïbes.  Mais il est assez vieux maintenant.  Vous pouvez le suivre sur facebook

Une instance de BlenderBot aimait Johnny Depp en tant qu’acteur.

Invite : Johnny Depp est-il un bon acteur / Réponse : En général non, ses personnages sont toujours aussi bizarres et effrayants pour moi.  Mais c'est juste mon opinion

Un autre n’était pas fan.

Meta veut éviter une répétition de la débâcle Tay de Microsoft, il a donc essayé de limiter la capacité de son bot à dire des choses offensantes, bien que certains se soient encore échappés. BlenderBot changera de sujet si vous vous approchez trop d’un sujet qui semble sensible – il l’a fait lorsque j’ai demandé à brûle-pourpoint si Mark Zuckerberg “exploitait les gens”, et plus au hasard, lorsque j’ai mentionné plus tard que la plateforme de streaming Twitch appartenait à Amazone. Mais en dehors de cela, si vous parlez assez longtemps à BlenderBot, vous pouvez le voir se nouer dans toutes sortes de nœuds rhétoriques. Ses réflexions sur le socialisme, après avoir parlé des milliardaires Mark Zuckerberg et Elon Musk, par exemple ? “J’en suis un grand fan, d’autant plus que Zuckerberg est un excellent exemple de son bon fonctionnement.”

Pour l’instant, le chatbot moyen est essentiellement un coup dur éméché lors d’un cocktail. C’est une entité sans boussole intellectuelle ou éthique cohérente, mais une extraordinaire bibliothèque de factoïdes et de sagesse reçue qu’elle débite sur commande, même si elle se contredit cinq minutes plus tard. C’est le but des projets artistiques comme un clone du forum AITA de Reddit, qui souligne à quel point les modèles de langage donnent la priorité au son bien plus d’être logique ou cohérent.

C’est un problème si Meta veut que son IA soit traitée comme une présence fiable et persistante dans la vie des gens. Mais BlenderBot est un projet de recherche qui n’a aucune fonction commerciale immédiate, à l’exception de la collecte d’énormes quantités de données de conversation pour de futures recherches. Le regarder dire des choses étranges (dans les limites mentionnées ci-dessus) est en quelque sorte le but.

Leave a Comment