Błędy w narzędziach AI, ponieważ Internet nigdy nie zapomni [Różowe okulary]

Internet nigdy nie zapomina.

Ten słynny mem pochodzi co najmniej z początku 2000 roku. Internet cyfrowy działa jako trwalsza wersja tego, co filozof i socjolog Maurice Halbwachs nazwał „pamięcią zbiorową” w swojej książce pod tym samym tytułem prawie 100 lat temu. Dochodzi do wniosku, że społeczeństwa mają pamięć zbiorową, która zależy od ram, w których istnieją.

Mówiąc prościej: w grupach istnieją zarówno indywidualne, jak i grupowe wspomnienia. Doświadczam tego, gdy grupa moich przyjaciół z dzieciństwa pamięta, jak robiłem rzeczy, o których nie mam mglistego wspomnienia.

Na dobre i na złe internet stał się zbiorową pamięcią społeczeństwa. W przeciwieństwie do nieporozumień między przyjaciółmi, które powstają w związku z tym, czyja pamięć jest bardziej zawodna, internet nie zapomina.

Z biegiem lat ta zbiorowa pamięć fotograficzna stanowiła dla społeczeństwa interesujące wyzwania. Młodzi ludzie rejestrujący swoje – nazwijmy to po prostu formatywne – zachowania i opinie w mediach społecznościowych doświadczają większych wyzwań niż ci, którzy robili podobne rzeczy w młodości bez możliwości wpisania ich w zbiorową pamięć internetu. To samo dotyczy firm post-internetowych. Ludzie mogą odzyskać prawie każde słowo ze wszystkiego, co marka kiedykolwiek powiedziała w komunikacie prasowym lub cyfrowym kanale marketingowym i komunikacyjnym.

Na przykład, gdybyś zapytał mnie w zeszłym tygodniu, czy kiedykolwiek udzieliłem wywiadu dla Fox News, zaśmiałbym się i powiedziałbym „nie”. Ale pisząc ten artykuł, skorzystałem z Internet Archive, aby przejrzeć stronę internetową, którą napisałem w 1998 roku. Informacja prasowa (którego byłem autorem) była właśnie tam, podkreślając mój występ w lokalnym stowarzyszeniu Fox News TV, mówiącym o tej nowej rzeczy zwanej „ World Wide Web” i jak wierzyłem, że rodziny, osoby prywatne i firmy będą w przyszłości tworzyć strony internetowe.

Zupełnie zapomniałem o tym wywiadzie, ale internet nie.

Pamięć fotograficzna to błąd, a nie funkcja

W moim ostatnim cotygodniowym filmie CMI News omówiłem rozpoczęcie integracji przez Microsoft ChatGPT OpenAI z wyszukiwarką internetową. W tej historii mówiłem również o próbie Google przechwycenia ogłoszenia Microsoftu i wynikającym z tego bardzo złym dniu.

Zły dzień Google wynikał z tego, że chatbot AI zwrócił niedokładny „fakt”, że Teleskop Jamesa Webba zrobił pierwsze zdjęcie egzoplanet (tych, które leżą poza naszym Układem Słonecznym). W rzeczywistości pierwszy teleskop do fotografowania egzoplanet zrobił to w 2004 roku.

Czy internet zawierał takie informacje? Tak, oczywiście, że tak. Internet zapomniał? NIE.

Internet zapamiętał doskonale. Jednak jego wspomnienia są niedokładne. Większość popularnych wyszukiwarek (w tym Google i Bing) zwracała wyniki z odpowiedzią Webb-zrób to pierwszy, ponieważ setki artykułów z mediów powtarzały ten sam niedokładny wniosek.

Błąd wydaje się pochodzić z wydania NASA, które otworzyło się: „Po raz pierwszy astronomowie wykorzystali Kosmiczny Teleskop Jamesa Webba NASA, aby zrobić bezpośrednie zdjęcie planety poza naszym Układem Słonecznym”. Powiedz, co chcesz strukturalnie o tym zdaniu – końcowy wynik doprowadził wszystkie te firmy medialne do jednej odrębnej interpretacji „faktu” – że po raz pierwszy sfotografowano egzoplanety.

Rzecz w tym, że kiedy NASA dystrybuowała komunikat we wrześniu 2022 roku, prawie nikogo nie obchodziła błędna interpretacja zdania. (Kilka artykułów zawierało komentarze mające na celu poprawienie zapisu lub dokładniejsze uszczegółowienie wydarzenia). Internet zapisał wyniki w swojej pamięci. Kiedy narzędzie sztucznej inteligencji wykorzystało pamięć zbiorową, aby odpowiedzieć na pytanie dotyczące Kosmicznego Teleskopu Jamesa Webba, posłusznie zapamiętało. Doskonale.

Internet to nasza zbiorowa pamięć. Im więcej z nas pamięta niedokładnie, tym większe prawdopodobieństwo, że kolektyw zrobi to samo.

Zapominalstwo to cecha, a nie błąd

Naukowcy od dawna wykazali, że ludzka cecha zapominania jest dobrą rzeczą. Pomaga ludziom ustalać priorytety, lepiej myśleć, podejmować lepsze decyzje i być bardziej kreatywnymi. Ludzka „pamięć” nie jest zaprojektowana do wyszukiwania faktów z bazy danych, ale do pomagania ludziom w zachowywaniu tego, co wartościowe, w celu podejmowania inteligentnych decyzji. Twój mózg nie pęka, gdy o czymś zapomnisz. Często celowo pomija informacje, aby pozwolić ci skupić się na zachowaniu ważniejszych informacji, uproszczeniu koncepcji lub umożliwieniu znalezienia nowych informacji o tym, co już uważasz, że rozumiesz.

Pomyśl o tym, kiedy oglądałeś film po raz drugi i zapomniałeś, jaki był wspaniały, lub zobaczyłeś go w nowy sposób. Albo pomyśl o tym, kiedy mówisz do kogoś: „To, co mówisz, nie brzmi dobrze, ale nie pamiętam dlaczego”, i wyszukaj coś, co powinieneś już wiedzieć.

Ludzie mają zdolność zapominania nieistotnych informacji. Twój mózg nie jest idealnym sędzią tego, co nieistotne. Czasami błędnie oceniają, które informacje są nieistotne. Kiedy zapomniałem czegoś w sklepie spożywczym po tym, jak moja żona wyraźnie o to poprosiła, mój mózg albo uznał, że prośba jest nieistotną informacją, albo zrobił miejsce na coś innego (na przykład to, o czym zamierzałem napisać w moim cotygodniowym artykule). Uwierz mi, kiedy mówię, że moja soczysta racjonalizacja mojego zapomnienia jest tym drugim, a nie pierwszym.

Ogólnie rzecz biorąc, wady sztucznej inteligencji – a zwłaszcza treści generatywnych na tym etapie ich rozwoju – pokazują, dlaczego zapominanie może być cechą, którą należy włączyć do swojego procesu. Projektanci sztucznej inteligencji mają za zadanie zaprojektować systemy, które mogą zapomnieć i „nie wiedzieć” rzeczy, aby mogli przeformułować uczenie się sztucznej inteligencji, aby zrozumieć, które informacje są istotne, a które nieistotne.

Nie zapomnij zapomnieć treści

Jako praktycy marketingu i komunikacji masz wyzwania związane z pamięcią zbiorową. Nie zapominaj, że Twoje repozytorium treści cyfrowych działa jak Internet. To też nigdy nie zapomina.

Narzędzia sztucznej inteligencji mogą stanowić atrakcyjną okazję do uczenia się z Twojej strony internetowej, systemu zarządzania zasobami cyfrowymi, danych pomiarowych, platformy CRM itp. Jeden z dyrektorów ds. i tworzyć nowe treści i spostrzeżenia dla zespołu marketingowego.

To wspaniały eksperyment, ale nie zapominaj (zamierzona gra słów), że tylko dlatego, że go stworzyłeś, informacje mogą nadal być niedokładne, nieistotne lub coś, o czym marka wolałaby zapomnieć. Wdrażając narzędzia zorientowane na sztuczną inteligencję, pamiętaj o tych dwóch rzeczach:

1. Pamiętaj, że jesteś sztuczną inteligencją

Narzędzie oparte na sztucznej inteligencji przewiduje, że temat treści nie zadziała z powodu jego słabych wyników w przeszłości. Sztuczna inteligencja sumiennie przywołuje każdy obraz, słowo i znak interpunkcyjny kampanii treści, o której dawno zapomniałeś. Pamięta, jak źle się to wszystko potoczyło.

Narzędzie AI zwraca odpowiedzi na podstawie tej pamięci zbiorowej. Jednak chociaż pamięć nie jest błędna, być może byłeś. Możliwe, że podobnie jak reporterzy, którzy błędnie odczytali komunikat NASA i stworzyli setki artykułów z niedokładnymi opisami, stworzyliście tony komunikatów, treści, analiz i danych pomiarowych w oparciu o coś równie niedokładnego. (To samo myślenie ma zastosowanie, gdy narzędzie AI sugeruje tematy treści na podstawie pozytywnych wyników).

To, że maszyna nauczyła się poprawnie, nie oznacza, że ​​nauczyła się czegoś poprawnie.

2. Pamiętaj, dlaczego ludzie zapominają o różnych rzeczach

Ludzie zapominają o rzeczach, aby dać miejsce na skupienie się na tym, co ważne. Nie dzieje się tak dlatego, że nie mogą „zmieścić” większej ilości informacji w swoich mózgach; dzieje się tak dlatego, że wspomnienia ludzi mają pomóc im skoncentrować się na informacjach, które uważają za najważniejsze, i dokonywać lepszych wyborów.

Sztuczna inteligencja może pomóc w opracowywaniu treści opartych na uczeniu się z doskonałej pamięci zbiorowej wszystkiego, co zostało stworzone. Ale czasami zapominanie szczegółów pozwala ludziom zobaczyć nowy las. Czasami dzieje się tak dlatego , że zapomniałeś , dlaczego tak bardzo kochałeś te stare treści, że możesz zobaczyć coś znajomego w nowy sposób.

Jeśli całkowicie zaufasz pamięci fotograficznej, aby pisać treści lub sugerować kreacje oparte głównie na nieistotnych lub (co gorsza) niedokładnych informacjach, możesz założyć się, że zawsze będzie ona dokładna do tego, co zapamiętałeś, ale nigdy nie skorzystasz z tego, o czym zapomniałeś.

Nie zapomnij o tym

Pamiętaj, że wszystko, co istotne, jest zawsze warte zapamiętania, ale pamiętanie wszystkiego nie zawsze jest istotne.

Czasami utrata pamięci może pomóc w podejmowaniu lepszych kreatywnych decyzji.

To twoja historia. Powiedz to dobrze.

Zapoznaj się z opinią Roberta na temat wiadomości z branży content marketingu w ciągu zaledwie pięciu minut:

Obejrzyj poprzednie odcinki lub przeczytaj lekko zredagowane transkrypcje.

Zdjęcie okładki autorstwa Józefa Kalinowskiego/Content Marketing Institute