Come ridimensionare l'uso di modelli di linguaggio di grandi dimensioni nel marketing

L'intelligenza artificiale generativa e i modelli di linguaggio di grandi dimensioni sono destinati a cambiare il settore del marketing così come lo conosciamo.

Per rimanere competitivi, è necessario comprendere la tecnologia e il modo in cui influirà sui nostri sforzi di marketing, ha affermato Christopher Penn, Chief Data Scientist di TrustInsights.ai, che ha parlato alla MarTech Conference.

Scopri i modi per ridimensionare l'uso di modelli linguistici di grandi dimensioni, il valore dell'ingegneria rapida e come i professionisti del marketing possono prepararsi per ciò che li aspetta.

La premessa alla base dei grandi modelli linguistici

Dal suo lancio, ChatGPT è stato un argomento di tendenza nella maggior parte dei settori. Non puoi andare online senza vedere l'opinione di tutti. Eppure, non molte persone capiscono la tecnologia che c'è dietro, ha detto Penn.

ChatGPT è un chatbot AI basato sui modelli LLM (large language models) GPT-3.5 e GPT-4 di OpenAI.

Gli LLM sono costruiti su una premessa del 1957 dal linguista inglese John Rupert Firth:

• "Riconoscerai una parola dalla compagnia che frequenta."

Ciò significa che il significato di una parola può essere compreso in base alle parole che in genere compaiono accanto ad essa. In poche parole, le parole sono definite non solo dalla definizione del dizionario, ma anche dal contesto in cui vengono utilizzate.

Questa premessa è la chiave per comprendere l'elaborazione del linguaggio naturale.

Ad esempio, guarda le seguenti frasi:

• "Sto preparando il tè."
• "Sto rovesciando il tè."

Il primo si riferisce a una bevanda calda, mentre il secondo è gergale per spettegolare. “Tè” in questi casi ha significati molto diversi.

Anche l'ordine delle parole è importante.

• "Sto preparando il tè."
• "Il tè che sto preparando."

Le frasi sopra hanno diversi argomenti di messa a fuoco, anche se usano lo stesso verbo, "brewing".

Come funzionano i modelli linguistici di grandi dimensioni

Di seguito è riportato un diagramma di sistema dei trasformatori, il modello di architettura in cui sono costruiti modelli di linguaggio di grandi dimensioni.

In poche parole, un trasformatore prende un input e lo trasforma (cioè lo “trasforma”) in qualcos'altro.

Gli LLM possono essere usati per creare ma sono più bravi a trasformare una cosa in qualcos'altro.

OpenAI e altre società di software iniziano con l'ingestione di un enorme corpus di dati, inclusi milioni di documenti, articoli accademici, articoli di notizie, recensioni di prodotti, commenti di forum e molti altri.

Considera la frequenza con cui la frase "Sto preparando il tè" può apparire in tutti questi testi ingeriti.

Le recensioni dei prodotti Amazon e i commenti di Reddit sopra sono alcuni esempi.

Nota la "compagnia" che questa frase conserva, ovvero tutte le parole che compaiono vicino a "Sto preparando il tè".

"Gusto", "odore", "caffè", "aroma" e altro ancora danno un contesto a questi LLM.

Le macchine non possono leggere. Quindi, per elaborare tutto questo testo, usano gli incorporamenti, il primo passo nell'architettura del trasformatore.

L'incorporamento consente ai modelli di assegnare a ciascuna parola un valore numerico e tale valore numerico ricorre ripetutamente nel corpus di testo.

Anche la posizione delle parole è importante per questi modelli.

Nell'esempio precedente, i valori numerici rimangono gli stessi ma sono in una sequenza diversa. Questa è la codifica posizionale.

In termini semplici, i modelli di linguaggio di grandi dimensioni funzionano in questo modo:

• Le macchine prendono i dati di testo.
• Assegna valori numerici a tutte le parole.
• Guarda le frequenze statistiche e le distribuzioni tra le diverse parole.
• Cerca di capire quale sarà la parola successiva nella sequenza.

Tutto ciò richiede notevole potenza di calcolo, tempo e risorse.

Ingegneria rapida: un'abilità da imparare

Più contesto e istruzioni forniamo agli LLM, più è probabile che restituiscano risultati migliori. Questo è il valore dell'ingegneria tempestiva.

Penn pensa ai prompt come guardrail per ciò che le macchine produrranno. Le macchine raccoglieranno le parole nel nostro input e le attaccheranno per il contesto mentre sviluppano l'output.

Ad esempio, quando scrivi i prompt di ChatGPT, noterai che le istruzioni dettagliate tendono a restituire risposte più soddisfacenti.

In un certo senso, i suggerimenti sono come brief creativi per gli scrittori. Se vuoi che il tuo progetto sia fatto correttamente, non darai al tuo scrittore un'istruzione di una riga.

Invece, invierai un brief di dimensioni decenti che copre tutto ciò di cui vuoi che scrivano e come vuoi che vengano scritti.

Scalare l'uso degli LLM

Quando pensi ai chatbot AI, potresti pensare immediatamente a un'interfaccia web in cui gli utenti possono inserire prompt e quindi attendere la risposta dello strumento. Questo è ciò che tutti sono abituati a vedere.

“Questo non è affatto il gioco finale per questi strumenti. Questo è il parco giochi. È qui che gli umani possono armeggiare con lo strumento ", ha detto Penn. "Non è così che le aziende lo porteranno sul mercato".

Pensa alla scrittura rapida come alla programmazione. Sei uno sviluppatore che scrive istruzioni a un computer per fargli fare qualcosa.

Dopo aver perfezionato i prompt per casi d'uso specifici, puoi sfruttare le API e convincere sviluppatori reali a racchiudere tali prompt in codice aggiuntivo in modo da poter inviare e ricevere dati a livello di programmazione su larga scala.

Questo è il modo in cui gli LLM scaleranno e cambieranno le aziende in meglio.

Poiché questi strumenti vengono implementati ovunque, è fondamentale ricordare che tutti sono sviluppatori.

Questa tecnologia sarà in Microsoft Office – Word, Excel e PowerPoint – e molti altri strumenti e servizi che usiamo quotidianamente.

"Poiché stai programmando in linguaggio naturale, non sono necessariamente i programmatori tradizionali ad avere le idee migliori", ha aggiunto Penn.

Poiché gli LLM sono alimentati dalla scrittura, i professionisti del marketing o delle pubbliche relazioni, non i programmatori, possono sviluppare modi innovativi per utilizzare gli strumenti.

In che modo gli LLM influiranno sul marketing per la ricerca e cosa puoi fare al riguardo

Stiamo iniziando a vedere l'impatto dei grandi modelli linguistici sul marketing, in particolare sulla ricerca.

A febbraio, Microsoft ha presentato il nuovo Bing, alimentato da ChatGPT. Gli utenti possono conversare con il motore di ricerca e ottenere risposte dirette alle loro domande senza fare clic su alcun collegamento.

"Dovresti aspettarti che questi strumenti diano un morso alla tua ricerca senza marchio perché rispondono alle domande in modi che non richiedono clic", ha affermato Penn.

"Abbiamo già affrontato questo come professionisti SEO, con snippet in primo piano e risultati di ricerca a zero clic... ma per noi peggiorerà".

Consiglia di andare su Bing Webmaster Tools o Google Search Console e di esaminare la percentuale di traffico che il tuo sito riceve da ricerche informative senza marchio, poiché è l'area di rischio maggiore per la SEO.

Costruisci il tuo marchio

"Se la costruzione del marchio non è una delle tue principali priorità strategiche per il 2023 e oltre, deve esserlo", ha sottolineato Penn.

Devi costruire il tuo marchio e convincere le persone a chiederti per nome nella ricerca.

Quando gli utenti chiedono idee o consigli su un argomento, gli LLM probabilmente li indirizzeranno a informazioni sintetizzate, non a te.

Ma se le persone chiedono espressamente il tuo marchio per nome, arriveranno comunque dove vogliono andare.

Rendi la presenza online del tuo marchio il più forte possibile.

Utilizzare una piattaforma di pubblicazione "immune" all'IA

Penn ha anche sottolineato l'importanza di utilizzare una piattaforma in cui si ha accesso diretto e non mediato al proprio pubblico.

Canali come e-mail o SMS (anche posta diretta) ti consentono di raggiungere direttamente i clienti e assicurarti di raggiungerli senza essere mediato dall'intelligenza artificiale.

La ricerca organica e i social media sono già fortemente mediati dall'intelligenza artificiale. Pertanto, la probabilità di raggiungere in modo affidabile anche solo una frazione del tuo pubblico è scarsa.

Anche i marchi più grandi possono ottenere visualizzazioni sufficienti solo se spendono in campagne a pagamento.

Concentrati sulla comunità

Servizi come Slack, Telegram e Discord ti consentono di riunirti con persone che la pensano allo stesso modo e sviluppare connessioni significative.

Quando fornisci valore ai tuoi utenti, puoi raggiungerli in modo affidabile, guadagnare la loro lealtà e costruire il valore del marchio.

Guarda: La singolarità del marketing: grandi modelli linguistici e la fine del marketing come lo conoscevi

Penn ha condiviso ulteriori approfondimenti sull'impatto degli LLM sui lavori di marketing alla MarTech Conference. Guarda la sua presentazione completa qui: