Gli strumenti di intelligenza artificiale falliscono perché Internet non può mai dimenticare [occhiali color rosa]

Internet non dimentica mai.

Quel famoso meme risale almeno ai primi anni 2000. L'internet digitale funge da versione più permanente di ciò che il filosofo e sociologo Maurice Halbwachs considerava la "memoria collettiva" nel suo libro omonimo quasi 100 anni fa. Conclude che le società hanno una memoria collettiva che dipende dal quadro in cui esistono.

In parole povere: nei gruppi esistono memorie sia individuali che di gruppo. Lo sperimento quando un gruppo dei miei amici d'infanzia si ricorda di me mentre facevo cose che non ricordo minimamente di aver fatto.

Nel bene e nel male, Internet è diventata la memoria collettiva della società. A differenza di un disaccordo tra amici che nasce sulla cui memoria è più fallibile, Internet non dimentica.

Nel corso degli anni, questa memoria fotografica collettiva ha presentato sfide interessanti per la società. I giovani che registrano il proprio comportamento e le proprie opinioni – chiamiamolo solo formativo – sui social media, affrontano sfide maggiori rispetto a coloro che hanno fatto cose simili in gioventù senza la possibilità di renderle parte della memoria collettiva di Internet. Lo stesso vale per le aziende post-internet. Le persone possono recuperare quasi ogni parola di qualsiasi cosa il marchio abbia mai detto in un comunicato stampa o in un canale di marketing e comunicazione digitale.

Ad esempio, se la scorsa settimana mi chiedessi se avessi mai rilasciato un'intervista su Fox News, riderei e direi "no". Ma nello scrivere questo articolo, ho usato Internet Archive per recensire un sito web che ho scritto nel 1998. Un comunicato stampa (di cui sono autore) era proprio lì, evidenziando la mia apparizione su un'affiliata locale di Fox News TV che parlava di questa nuova cosa chiamata " world wide web” e come credevo che famiglie, individui e aziende avrebbero costruito siti web in futuro.

Ho dimenticato tutto di quell'intervista, ma Internet no.

La memoria fotografica è un bug, non una caratteristica

Nel mio ultimo video settimanale CMI News, ho coperto il lancio dell'integrazione di Microsoft di ChatGPT di OpenAI nella ricerca web. In quella storia, ho anche parlato del tentativo di Google di intercettare l'annuncio di Microsoft e della sua pessima giornata.

La brutta giornata di Google è derivata dal chatbot AI che ha restituito un "fatto" impreciso secondo cui il James Webb Telescope ha scattato la prima foto di esopianeti (quelli che si trovano al di fuori del nostro sistema solare). In effetti, il primo telescopio a fotografare esopianeti lo ha fatto nel 2004.

Internet aveva queste informazioni? Sì, certo, lo ha fatto. Internet ha dimenticato? NO.

Internet ricordava perfettamente. I suoi ricordi, però, sono imprecisi. La maggior parte dei popolari motori di ricerca (inclusi Google e Bing) ha restituito risultati con la risposta Webb-feed-it-first mentre centinaia di articoli dai media hanno ripetuto la stessa conclusione imprecisa.

L'errore sembra aver avuto origine da un comunicato della NASA che ha aperto: "Per la prima volta, gli astronomi hanno utilizzato il James Webb Space Telescope della NASA per acquisire un'immagine diretta di un pianeta al di fuori del nostro sistema solare". Di 'quello che vuoi strutturalmente su quella frase - il risultato finale ha portato tutte quelle società di media a correre con una distinta interpretazione del "fatto" - che era la prima volta che gli esopianeti venivano fotografati.

Il fatto è che, quando la NASA ha distribuito il comunicato nel settembre 2022, a quasi nessuno importava dell'errata interpretazione della frase. (Alcuni articoli contenevano commenti per correggere il record o dettagliare l'evento in modo più preciso.) Internet ha memorizzato i risultati nella sua memoria. Quando uno strumento di intelligenza artificiale ha utilizzato la memoria collettiva per rispondere a una domanda sul telescopio spaziale James Webb, ha diligentemente ricordato. Perfettamente.

Internet è la nostra memoria collettiva. Più di noi ricordiamo in modo impreciso, più è probabile che il collettivo faccia lo stesso.

L'oblio è una caratteristica, non un bug

Gli scienziati hanno da tempo dimostrato che il tratto umano dell'oblio è una buona cosa. Aiuta le persone a stabilire le priorità, pensare meglio, prendere decisioni migliori ed essere più creative. La "memoria" umana non è progettata per recuperare fatti da un database, ma per aiutare le persone a conservare ciò che è prezioso per prendere decisioni intelligenti. Il tuo cervello non si rompe quando dimentichi qualcosa. Spesso ignora volutamente le informazioni per consentirti di concentrarti sulla conservazione di informazioni più importanti, semplificare un concetto o consentirti di trovare nuove informazioni su ciò che già credi di aver compreso.

Pensa a quando hai guardato un film per la seconda volta e hai dimenticato quanto fosse bello o l'hai visto in un modo nuovo. Oppure pensa a quando dici a qualcuno: "Quello che dici non suona bene, ma non ricordo perché" e cerca qualcosa che dovresti già sapere.

Gli esseri umani hanno la capacità di dimenticare informazioni irrilevanti. Ora, il tuo cervello non è il giudice perfetto di ciò che è irrilevante. A volte, giudicano erroneamente quali informazioni sono irrilevanti. Quando ho dimenticato qualcosa al supermercato dopo che mia moglie l'ha chiesto esplicitamente, il mio cervello ha deciso che la richiesta era un'informazione irrilevante o ha fatto spazio a qualcos'altro (come quello di cui avrei scritto per il mio articolo settimanale). Credimi quando dico che la mia succosa razionalizzazione per la mia dimenticanza è la seconda, non la prima.

Nel complesso, i difetti dell'intelligenza artificiale, e in particolare dei contenuti generativi a questo punto del suo sviluppo, dimostrano perché l'oblio può essere una caratteristica da incorporare nel processo. I progettisti di intelligenza artificiale hanno il loro bel da fare per progettare sistemi in grado di dimenticare e "non sapere" le cose in modo che possano riformulare l'apprendimento dell'IA per capire quali informazioni sono rilevanti e irrilevanti.

Non dimenticare di dimenticare i tuoi contenuti

Come professionisti del marketing e della comunicazione, hai le tue sfide di memoria collettiva. Non dimenticare che il tuo archivio di contenuti digitali si comporta come Internet. Anche questo non dimentica mai.

Gli strumenti di intelligenza artificiale possono rappresentare un'interessante opportunità per imparare dal tuo sito Web, dal sistema di gestione delle risorse digitali, dai dati di misurazione, dalla piattaforma CRM, ecc. e creare nuovi contenuti e approfondimenti per il team di marketing.

È un esperimento meraviglioso, ma non dimenticare (gioco di parole) che solo perché l'hai creato tu, le informazioni possono essere ancora imprecise, irrilevanti o qualcosa che il marchio preferirebbe dimenticare. Quando distribuisci strumenti orientati all'intelligenza artificiale, presta maggiore attenzione a queste due cose:

1. Ricorda che sei l'IA

Uno strumento basato sull'intelligenza artificiale prevede che un argomento di contenuto non funzionerà a causa del suo scarso rendimento in passato. L'intelligenza artificiale ricorda diligentemente ogni immagine, parola e punteggiatura della campagna di contenuti che hai dimenticato da tempo. Ricorda quanto sia andato tutto male.

Lo strumento AI restituisce risposte basate su quella memoria collettiva. Tuttavia, mentre la memoria non è sbagliata, potresti esserlo stato. È possibile che, proprio come i giornalisti che hanno interpretato male il comunicato della NASA e creato centinaia di articoli con una descrizione imprecisa, tu abbia creato tonnellate di messaggi, contenuti, analisi e dati di misurazione basati su qualcosa di altrettanto impreciso. (Lo stesso pensiero si applica quando lo strumento AI suggerisce argomenti di contenuto basati su prestazioni positive.)

Solo perché la macchina ha imparato correttamente non significa che abbia imparato qualcosa di corretto.

2. Ricorda perché le persone dimenticano le cose

Le persone dimenticano le cose per lasciare spazio a concentrarsi su ciò che è importante. Questo non perché non possano "adattare" più informazioni all'interno dei loro cervelli; è perché i ricordi delle persone hanno lo scopo di aiutarli a concentrarsi sulle informazioni che ritengono più importanti e fare scelte migliori.

L'intelligenza artificiale può aiutare a sviluppare contenuti basati sull'apprendimento da una perfetta memoria collettiva di tutto ciò che è stato creato. Ma a volte, dimenticare i dettagli permette alle persone di vedere una nuova foresta. A volte è perché hai dimenticato perché amavi così tanto quel vecchio contenuto che potevi vedere qualcosa di familiare in un modo nuovo.

Se riponi tutta la tua fiducia nella memoria fotografica per scrivere contenuti o suggerire creatività basate principalmente su informazioni irrilevanti o (peggio) imprecise, puoi scommettere che sarà sempre fedele a ciò che hai ricordato ma non trarrà mai vantaggio da ciò che hai dimenticato.

Non dimenticarlo

Ricorda, vale sempre la pena ricordare tutto ciò che è rilevante, ma ricordare tutto non è sempre rilevante.

A volte avere una certa perdita di memoria può essere una buona cosa per prendere decisioni creative migliori.

È la tua storia. Dillo bene.

Ottieni l'opinione di Robert sulle notizie del settore del content marketing in soli cinque minuti:

Guarda gli episodi precedenti o leggi le trascrizioni leggermente modificate.

Immagine di copertina di Joseph Kalinowski/Content Marketing Institute