Ferramentas de IA falham porque a Internet nunca pode esquecer [óculos cor-de-rosa]

A internet nunca esquece.

Esse famoso meme data pelo menos do início dos anos 2000. A internet digital funciona como uma versão mais permanente do que o filósofo e sociólogo Maurice Halbwachs chamou de “memória coletiva” em seu livro de mesmo nome há quase 100 anos. Ele conclui que as sociedades têm uma memória coletiva que depende da estrutura dentro da qual elas existem.

Simplificando: em grupos, existem memórias individuais e de grupo. Eu experimento isso quando um grupo de meus amigos de infância lembra de mim fazendo coisas que eu não tenho a menor lembrança de ter feito.

Para o bem e para o mal, a internet se tornou a memória coletiva da sociedade. Ao contrário de um desentendimento entre amigos sobre qual memória é mais falível, a internet não esquece.

Ao longo dos anos, essa memória fotográfica coletiva apresentou desafios interessantes para a sociedade. Os jovens que registram seus comportamentos e opiniões – digamos formativos – nas mídias sociais enfrentam maiores desafios do que aqueles que fizeram coisas semelhantes na juventude sem a capacidade de torná-los parte da memória coletiva da internet. O mesmo vale para empresas pós-internet. As pessoas podem recuperar quase todas as palavras de qualquer coisa que a marca já disse em um comunicado de imprensa ou marketing digital e canal de comunicação.

Por exemplo, se você me perguntasse na semana passada se eu já dera uma entrevista na Fox News, eu riria e diria “não”. Mas, ao escrever este artigo, usei o Internet Archive para revisar um site que escrevi em 1998. Um comunicado à imprensa (de minha autoria) estava bem ali, destacando minha aparição em uma afiliada local da Fox News TV falando sobre essa coisa nova chamada “ world wide web” e como eu acreditava que famílias, indivíduos e empresas construiriam sites no futuro.

Esqueci tudo sobre aquela entrevista, mas a internet não.

A memória fotográfica é um bug, não um recurso

No meu último vídeo semanal do CMI News, cobri o lançamento da integração da Microsoft do ChatGPT da OpenAI na pesquisa na web. Nessa história, também falei sobre a tentativa do Google de fraudar o anúncio da Microsoft e o péssimo dia resultante.

O dia ruim do Google resultou do chatbot de IA retornando um “fato” impreciso de que o Telescópio James Webb tirou a primeira foto de exoplanetas (aqueles que ficam fora do nosso sistema solar). Na verdade, o primeiro telescópio a fotografar exoplanetas o fez em 2004.

A internet tem essa informação? Sim, claro que sim. A internet esqueceu? Não.

A internet lembrava perfeitamente. Suas memórias, porém, são imprecisas. A maioria dos mecanismos de busca populares (incluindo Google e Bing) retornou resultados com a resposta Webb-fiz-primeiro, já que centenas de artigos de meios de comunicação repetiram a mesma conclusão imprecisa.

O erro parece ter se originado de um lançamento da NASA que dizia: “Pela primeira vez, os astrônomos usaram o Telescópio Espacial James Webb da NASA para obter uma imagem direta de um planeta fora do nosso sistema solar”. Diga o que quiser estruturalmente sobre essa frase – o resultado final levou todas aquelas empresas de mídia a correr com uma interpretação distinta do “fato” – que foi a primeira vez que exoplanetas foram fotografados.

O fato é que, quando a NASA distribuiu o release em setembro de 2022, quase ninguém se importou com a interpretação errônea da frase. (Alguns artigos continham comentários para corrigir o registro ou detalhar o evento com mais precisão.) A internet armazenou os resultados em sua memória. Quando uma ferramenta de inteligência artificial usou a memória coletiva para responder a uma pergunta sobre o Telescópio Espacial James Webb, ela se lembrou obedientemente. Perfeitamente.

A internet é a nossa memória coletiva. Quanto mais de nós lembrarmos imprecisamente, maior a probabilidade de o coletivo fazer o mesmo.

O esquecimento é um recurso, não um bug

Os cientistas há muito mostram que o traço humano de esquecimento é uma coisa boa. Ajuda as pessoas a priorizar, pensar melhor, tomar decisões melhores e ser mais criativas. A “memória” humana não é projetada para recuperar fatos de um banco de dados, mas para ajudar as pessoas a reter o que é valioso para tomar decisões inteligentes. Seu cérebro não está quebrado quando você esquece algo. Muitas vezes, desconsidera as informações de propósito para permitir que você se concentre em reter informações mais importantes, simplificar um conceito ou permitir que você encontre novas informações sobre o que você já acredita entender.

Pense em quando você assistiu a um filme pela segunda vez e esqueceu como era bom ou o viu de uma nova maneira. Ou pense em quando você diz a alguém: “O que você está dizendo não parece certo, mas eu esqueci o porquê”, e procure algo que você acha que já deveria saber.

Os seres humanos têm a capacidade de esquecer informações irrelevantes. Agora, seus cérebros não são o juiz perfeito do que é irrelevante. Às vezes, eles julgam erroneamente quais informações são irrelevantes. Quando esqueci algo no supermercado depois que minha esposa pediu explicitamente, meu cérebro decidiu que o pedido era uma informação irrelevante ou abria espaço para outra coisa (como o que eu escreveria em meu artigo semanal). Acredite em mim quando digo que minha suculenta racionalização para meu esquecimento é o último, não o primeiro.

No geral, as falhas na IA – e especificamente no conteúdo generativo neste ponto de seu desenvolvimento – demonstram por que o esquecimento pode ser um recurso a ser incorporado ao seu processo. Os designers de IA têm muito trabalho para projetar sistemas que podem esquecer e “não saber” coisas para que possam reformular o aprendizado de IA para entender quais informações são relevantes e irrelevantes.

Não se esqueça de esquecer o seu conteúdo

Como praticantes de marketing e comunicação, você tem seus desafios de memória coletiva. Não se esqueça de que seu repositório de conteúdo digital funciona como a Internet. Ele também nunca esquece.

As ferramentas de IA podem apresentar uma oportunidade atraente para aprender com seu site, sistema de gerenciamento de ativos digitais, dados de medição, plataforma de CRM etc. e criar novos conteúdos e insights para a equipe de marketing.

Essa é uma experiência maravilhosa, mas não se esqueça (trocadilho intencional) que só porque você a criou, a informação ainda pode ser imprecisa, irrelevante ou algo que a marca preferiria esquecer. Ao implantar ferramentas orientadas a IA, esteja mais atento a estas duas coisas:

1. Lembre-se de que você é a IA

Uma ferramenta baseada em IA prevê que um tópico de conteúdo não funcionará devido ao desempenho ruim no passado. A IA recorda obedientemente cada imagem, palavra e pontuação da campanha de conteúdo que você esqueceu há muito tempo. Ele se lembra de como tudo acabou mal.

A ferramenta AI retorna respostas com base nessa memória coletiva. No entanto, embora a memória não esteja errada, você pode estar. É possível que, assim como os repórteres que interpretaram mal o comunicado da NASA e criaram centenas de artigos com uma descrição imprecisa, você tenha criado toneladas de mensagens, conteúdo, análise e dados de medição com base em algo igualmente impreciso. (O mesmo raciocínio se aplica quando a ferramenta de IA sugere tópicos de conteúdo com base em desempenhos positivos.)

Só porque a máquina aprendeu corretamente não significa que aprendeu algo correto.

2. Lembre-se de por que as pessoas esquecem as coisas

As pessoas esquecem as coisas para dar espaço para se concentrar no que é importante. Isso não é porque eles não podem “encaixar” mais informações dentro de seus cérebros; é porque as memórias das pessoas servem para ajudá-las a se concentrar nas informações que acreditam ser mais importantes e fazer escolhas melhores.

A IA pode ajudar a desenvolver conteúdo com base no aprendizado de uma memória coletiva perfeita de tudo o que foi criado. Mas, às vezes, esquecer detalhes permite que as pessoas vejam uma nova floresta. Às vezes, é porque você esqueceu por que amava tanto aquele conteúdo antigo que pôde ver algo familiar de uma nova maneira.

Se você colocar toda a sua confiança na memória fotográfica para escrever conteúdo ou sugerir criativos com base principalmente em informações irrelevantes ou (pior) imprecisas, pode apostar que ela sempre será fiel ao que você lembrou, mas nunca se beneficiará do que você esqueceu.

Não se esqueça disso

Lembre-se, tudo que é relevante sempre vale a pena ser lembrado, mas lembrar de tudo nem sempre é relevante.

Às vezes, ter alguma perda de memória pode ser bom para tomar melhores decisões criativas.

É a sua história. Conte bem.

Obtenha a opinião de Robert sobre as notícias do setor de marketing de conteúdo em apenas cinco minutos:

Assista aos episódios anteriores ou leia as transcrições levemente editadas.

Imagem da capa por Joseph Kalinowski/Content Marketing Institute