AI Tools Bug Out Parce qu'Internet ne peut jamais oublier [Lunettes roses]

Internet n'oublie jamais.

Ce fameux mème date au moins du début des années 2000. L'internet numérique agit comme une version plus permanente de ce que le philosophe et sociologue Maurice Halbwachs considérait comme la "mémoire collective" dans son livre du même nom il y a près de 100 ans. Il conclut que les sociétés ont une mémoire collective qui dépend du cadre dans lequel elles existent.

En termes simples : dans les groupes, il existe à la fois des souvenirs individuels et de groupe. J'en fais l'expérience lorsqu'un groupe d'amis d'enfance se souvient que j'ai fait des choses dont je n'ai pas le moindre souvenir.

Pour le meilleur et pour le pire, Internet est devenu la mémoire collective de la société. Contrairement à un désaccord entre amis sur la question de savoir dont la mémoire est la plus faillible, Internet n'oublie pas.

Au fil des ans, cette mémoire photographique collective a présenté des défis intéressants pour la société. Les jeunes qui enregistrent leur comportement et leurs opinions - disons simplement formateurs - sur les réseaux sociaux rencontrent de plus grands défis que ceux qui ont fait des choses similaires dans leur jeunesse sans pouvoir les intégrer à la mémoire collective d'Internet. Il en va de même pour les entreprises post-internet. Les gens peuvent récupérer presque chaque mot de tout ce que la marque a dit dans un communiqué de presse ou un canal de marketing et de communication numérique.

Par exemple, si vous me demandiez la semaine dernière si j'avais déjà accordé une interview à Fox News, je rirais et répondrais « non ». Mais en écrivant cet article, j'ai utilisé Internet Archive pour passer en revue un site Web que j'ai écrit en 1998. Un communiqué de presse (dont j'ai été l'auteur) était juste là, soulignant mon apparition sur une filiale locale de Fox News TV parlant de cette nouvelle chose appelée le " World Wide Web » et comment je croyais que les familles, les individus et les entreprises créeraient des sites Web à l'avenir.

J'ai tout oublié de cette interview, mais pas Internet.

La mémoire photographique est un bug, pas une fonctionnalité

Dans ma dernière vidéo hebdomadaire CMI News, j'ai couvert le lancement de l'intégration par Microsoft du ChatGPT d'OpenAI dans la recherche Web. Dans cette histoire, j'ai également parlé de la tentative de Google de détourner l'annonce de Microsoft et de la très mauvaise journée qui en a résulté.

La mauvaise journée de Google découle du fait que le chatbot AI a renvoyé un "fait" inexact selon lequel le télescope James Webb a pris la première photo d'exoplanètes (celles qui se trouvent en dehors de notre système solaire). En fait, le premier télescope à photographier des exoplanètes l'a fait en 2004.

Internet disposait-il de ces informations ? Oui, bien sûr. Internet a-t-il oublié ? Non.

Internet s'en souvenait parfaitement. Ses souvenirs, cependant, sont inexacts. La plupart des moteurs de recherche populaires (y compris Google et Bing) ont renvoyé des résultats avec la réponse Webb-did-it-first alors que des centaines d'articles de médias ont répété la même conclusion inexacte.

L'erreur semble provenir d'un communiqué de la NASA qui a ouvert, "Pour la première fois, les astronomes ont utilisé le télescope spatial James Webb de la NASA pour prendre une image directe d'une planète en dehors de notre système solaire." Dites ce que vous voulez structurellement à propos de cette phrase – le résultat final a conduit toutes ces sociétés de médias à fonctionner avec une interprétation distincte du « fait » – que c'était la première fois que des exoplanètes étaient photographiées.

Le fait est que lorsque la NASA a distribué le communiqué en septembre 2022, presque personne ne se souciait de l'interprétation erronée de la phrase. (Quelques articles contenaient des commentaires pour corriger le dossier ou détailler l'événement plus précisément.) Internet stockait les résultats dans sa mémoire. Lorsqu'un outil d'intelligence artificielle a utilisé la mémoire collective pour répondre à une question sur le télescope spatial James Webb, il s'en est consciencieusement rappelé. À la perfection.

Internet est notre mémoire collective. Plus nous serons nombreux à nous souvenir de manière inexacte, plus le collectif fera de même.

L'oubli est une fonctionnalité, pas un bug

Les scientifiques ont depuis longtemps montré que le trait humain de l'oubli est une bonne chose. Cela aide les gens à établir des priorités, à mieux réfléchir, à prendre de meilleures décisions et à être plus créatifs. La « mémoire » humaine n'est pas conçue pour extraire des faits d'une base de données, mais pour aider les gens à conserver ce qui est précieux pour prendre des décisions intelligentes. Votre cerveau n'est pas brisé lorsque vous oubliez quelque chose. Il ignore souvent délibérément les informations pour vous permettre de vous concentrer sur la conservation d'informations plus importantes, de simplifier un concept ou de vous permettre de trouver de nouvelles informations sur ce que vous pensez déjà comprendre.

Pensez au moment où vous avez regardé un film pour la deuxième fois et avez oublié à quel point il était génial ou l'avez vu d'une nouvelle manière. Ou pensez au moment où vous dites à quelqu'un : « Ce que vous dites ne sonne pas juste, mais j'oublie pourquoi », et recherchez quelque chose que vous pensez que vous devriez déjà savoir.

Les humains ont la capacité d'oublier les informations non pertinentes. Maintenant, votre cerveau n'est pas le juge parfait de ce qui n'est pas pertinent. Parfois, ils jugent à tort quelles informations ne sont pas pertinentes. Lorsque j'ai oublié quelque chose à l'épicerie après que ma femme l'ait explicitement demandé, mon cerveau a soit décidé que la demande était une information non pertinente, soit il a fait de la place pour autre chose (comme ce que j'allais écrire pour mon article hebdomadaire). Croyez-moi quand je dis que ma justification juteuse pour mon oubli est la dernière, pas la première.

Dans l'ensemble, les failles de l'IA - et plus particulièrement du contenu génératif à ce stade de son développement - démontrent pourquoi l'oubli peut être une fonctionnalité à intégrer dans votre processus. Les concepteurs d'IA ont du pain sur la planche pour concevoir des systèmes qui peuvent oublier et "ne pas savoir" des choses afin qu'ils puissent recadrer l'apprentissage de l'IA pour comprendre quelles informations sont pertinentes et non pertinentes.

N'oubliez pas d'oublier votre contenu

En tant que praticiens du marketing et de la communication, vous avez vos défis de mémoire collective. N'oubliez pas que votre référentiel de contenu numérique agit comme Internet. Lui aussi n'oublie jamais.

Les outils d'IA peuvent présenter une opportunité attrayante d'apprendre à partir de votre site Web, de votre système de gestion des actifs numériques, de vos données de mesure, de votre plateforme CRM, etc. et créer de nouveaux contenus et informations pour l'équipe marketing.

C'est une merveilleuse expérience, mais n'oubliez pas (jeu de mots) que simplement parce que vous l'avez créée, l'information peut toujours être inexacte, non pertinente ou quelque chose que la marque préférerait oublier. Lorsque vous déployez des outils orientés IA, soyez plus attentif à ces deux choses :

1. Rappelez-vous que vous êtes l'IA

Un outil basé sur l'IA prédit qu'un sujet de contenu ne fonctionnera pas en raison de ses mauvaises performances dans le passé. L'IA rappelle consciencieusement chaque image, mot et ponctuation de la campagne de contenu que vous avez oubliée depuis longtemps. Il se souvient à quel point tout s'est mal passé.

L'outil d'IA renvoie des réponses basées sur cette mémoire collective. Cependant, bien que la mémoire ne soit pas fausse, vous l'avez peut-être été. Il est possible que, tout comme les journalistes qui ont mal lu le communiqué de la NASA et créé des centaines d'articles avec une description inexacte, vous ayez créé des tonnes de données de messagerie, de contenu, d'analyse et de mesure basées sur quelque chose d'aussi inexact. (La même réflexion s'applique lorsque l'outil d'IA suggère des sujets de contenu basés sur des performances positives.)

Ce n'est pas parce que la machine a appris correctement qu'elle a appris quelque chose de correct.

2. Rappelez-vous pourquoi les gens oublient des choses

Les gens oublient des choses pour laisser de la place pour se concentrer sur ce qui est important. Ce n'est pas parce qu'ils ne peuvent pas "insérer" plus d'informations dans leur cerveau ; c'est parce que les souvenirs des gens sont censés les aider à se concentrer sur les informations qu'ils jugent les plus importantes et à faire de meilleurs choix.

L'IA peut aider à développer du contenu basé sur l'apprentissage à partir d'une mémoire collective parfaite de tout ce qui a été créé. Mais parfois, oublier des détails permet aux gens de voir une nouvelle forêt. Parfois, c'est parce que vous avez oublié pourquoi vous aimiez tellement cet ancien contenu que vous pouviez voir quelque chose de familier d'une nouvelle manière.

Si vous mettez toute votre confiance dans la mémoire photographique pour écrire du contenu ou suggérer une création basée principalement sur des informations non pertinentes ou (pire) inexactes, vous pouvez parier qu'il sera toujours fidèle à ce dont vous vous souvenez mais ne bénéficiera jamais de ce que vous avez oublié.

N'oublie pas ça

N'oubliez pas que tout ce qui est pertinent vaut toujours la peine d'être rappelé, mais tout se souvenir n'est pas toujours pertinent.

Parfois, avoir une perte de mémoire peut être une bonne chose pour prendre de meilleures décisions créatives.

C'est votre histoire. Dites-le bien.

Obtenez le point de vue de Robert sur l'actualité de l'industrie du marketing de contenu en seulement cinq minutes :

Regardez les épisodes précédents ou lisez les transcriptions légèrement modifiées.

Image de couverture par Joseph Kalinowski/Content Marketing Institute