마케팅에서 대규모 언어 모델 사용을 확장하는 방법
게시 됨: 2023-05-18생성 AI와 대규모 언어 모델은 우리가 알고 있는 마케팅 산업을 변화시킬 것입니다.
MarTech 컨퍼런스에서 연설한 TrustInsights.ai의 수석 데이터 과학자 크리스토퍼 펜(Christopher Penn)은 경쟁력을 유지하려면 기술과 그것이 우리의 마케팅 활동에 어떤 영향을 미칠지 이해해야 한다고 말했습니다.
대규모 언어 모델의 사용을 확장하는 방법, 신속한 엔지니어링의 가치, 마케터가 미래에 대비할 수 있는 방법을 알아보세요.
대규모 언어 모델의 전제
출시 이후 ChatGPT는 대부분의 산업 분야에서 유행하는 주제였습니다. 모든 사람의 의견을 보지 않고는 온라인에 접속할 수 없습니다. 그러나 그 이면에 있는 기술을 이해하는 사람은 많지 않다고 Penn은 말했습니다.
ChatGPT는 OpenAI의 GPT-3.5 및 GPT-4 대규모 언어 모델(LLM)을 기반으로 하는 AI 챗봇입니다.
LLM은 1957년 영국 언어학자인 John Rupert Firth가 전제로 구축했습니다.
- "당신은 그것이 유지하는 회사에 의해 단어를 알게 될 것입니다."
이것은 단어의 의미가 일반적으로 단어 옆에 나타나는 단어를 기반으로 이해할 수 있음을 의미합니다. 간단히 말해서, 단어는 사전적 정의뿐만 아니라 사용되는 문맥에 의해서도 정의됩니다.
이 전제는 자연어 처리를 이해하는 데 핵심입니다.
예를 들어 다음 문장을 보십시오.
- "나는 차를 끓이고 있습니다."
- "차를 쏟고 있어요."
전자는 뜨거운 음료를 의미하고 후자는 험담을 뜻하는 속어입니다. 이 경우 "차"는 매우 다른 의미를 갖습니다.
단어 순서도 중요합니다.
- "나는 차를 끓이고 있습니다."
- “내가 끓이는 차.”
위의 문장들은 "brewing"이라는 동일한 동사를 사용하더라도 초점이 다른 주제를 가지고 있습니다.
대규모 언어 모델의 작동 방식
아래는 대형 언어 모델이 구축된 아키텍처 모델인 트랜스포머의 시스템 다이어그램입니다.
간단히 말해 변환기는 입력을 받아 다른 것으로 변환(즉, "변환")합니다.
LLM은 창작에 사용될 수 있지만 한 가지를 다른 것으로 바꾸는 데 더 좋습니다.
OpenAI 및 기타 소프트웨어 회사는 수백만 개의 문서, 학술 논문, 뉴스 기사, 제품 리뷰, 포럼 댓글 등을 포함하여 막대한 양의 데이터를 수집하는 것으로 시작합니다.
"I'm brewing the tea"라는 문구가 이러한 모든 섭취 텍스트에 얼마나 자주 나타날 수 있는지 고려하십시오.
위의 Amazon 제품 리뷰 및 Reddit 댓글은 몇 가지 예입니다.
이 구가 유지하는 "the company"에 주목하십시오. 즉, "I'm brewing the tea" 근처에 나타나는 모든 단어입니다.
"맛", "냄새", "커피", "아로마" 등은 모두 이러한 LLM에 컨텍스트를 제공합니다.
기계는 읽을 수 없습니다. 따라서 이 모든 텍스트를 처리하기 위해 트랜스포머 아키텍처의 첫 번째 단계인 임베딩을 사용합니다.
임베딩을 통해 모델은 각 단어에 숫자 값을 할당할 수 있으며 해당 숫자 값은 텍스트 말뭉치에서 반복적으로 발생합니다.
단어 위치도 이러한 모델에 중요합니다.
위의 예에서 숫자 값은 동일하게 유지되지만 순서는 다릅니다. 이것은 위치 인코딩입니다.
간단히 말해서 대규모 언어 모델은 다음과 같이 작동합니다.
- 기계는 텍스트 데이터를 사용합니다.
- 모든 단어에 숫자 값을 할당합니다.
- 다른 단어 사이의 통계적 빈도와 분포를 살펴보십시오.
- 시퀀스의 다음 단어가 무엇인지 알아내십시오.
이 모든 작업에는 상당한 컴퓨팅 성능, 시간 및 리소스가 필요합니다.
검색 마케터가 의존하는 일일 뉴스레터를 받으세요.
용어를 참조하십시오.
신속한 엔지니어링: 반드시 배워야 하는 기술
LLM에 더 많은 컨텍스트와 지침을 제공할수록 더 나은 결과를 반환할 가능성이 높아집니다. 이것이 신속한 엔지니어링의 가치입니다.
Penn은 프롬프트를 기계가 생산할 제품에 대한 난간으로 생각합니다. 기계는 우리의 입력에서 단어를 선택하고 출력을 개발할 때 컨텍스트에 대해 래치합니다.
예를 들어 ChatGPT 프롬프트를 작성할 때 자세한 지침이 더 만족스러운 응답을 반환하는 경향이 있음을 알 수 있습니다.
어떤 면에서 프롬프트는 작가를 위한 크리에이티브 브리핑과 같습니다. 프로젝트를 올바르게 수행하려면 작가에게 한 줄 지시를 내리지 않을 것입니다.
대신, 그들이 작성하기를 원하는 모든 내용과 작성 방법을 다루는 적절한 크기의 브리핑을 보낼 것입니다.
LLM 사용 확장
AI 챗봇을 생각할 때 사용자가 프롬프트를 입력한 다음 도구의 응답을 기다릴 수 있는 웹 인터페이스를 즉시 생각할 수 있습니다. 이것은 모두가 보는데 익숙한 것입니다.
“이것은 결코 이러한 도구의 최종 게임이 아닙니다. 여기는 놀이터입니다. 이것은 인간이 도구를 만지는 곳입니다.”라고 Penn이 말했습니다. "이것은 기업이 이것을 시장에 내놓는 방법이 아닙니다."
프롬프트 쓰기를 프로그래밍이라고 생각하십시오. 당신은 컴퓨터가 어떤 일을 하도록 하기 위해 컴퓨터에 명령을 쓰는 개발자입니다.
특정 사용 사례에 대한 프롬프트를 미세 조정한 후에는 API를 활용하고 실제 개발자가 이러한 프롬프트를 추가 코드로 래핑하여 프로그래밍 방식으로 규모에 맞게 데이터를 보내고 받을 수 있습니다.
이것이 LLM이 비즈니스를 더 나은 방향으로 확장하고 변화시키는 방법입니다.
이러한 도구는 모든 곳에서 배포되고 있기 때문에 모든 사람이 개발자라는 사실을 기억하는 것이 중요합니다.
이 기술은 Microsoft Office(Word, Excel 및 PowerPoint)와 우리가 매일 사용하는 다른 많은 도구 및 서비스에 포함될 것입니다.
Penn은 "자연어로 프로그래밍하기 때문에 전통적인 프로그래머가 반드시 최고의 아이디어를 가질 필요는 없습니다."라고 덧붙였습니다.
LLM은 글쓰기로 구동되기 때문에 프로그래머가 아닌 마케팅 또는 PR 전문가가 도구를 사용하는 혁신적인 방법을 개발할 수 있습니다.
LLM이 검색 마케팅에 미치는 영향과 그에 대해 할 수 있는 일
대규모 언어 모델이 마케팅, 특히 검색에 미치는 영향을 보기 시작했습니다.
2월에 Microsoft는 ChatGPT로 구동되는 새로운 Bing을 공개했습니다. 사용자는 검색 엔진과 대화하고 링크를 클릭하지 않고도 쿼리에 대한 직접적인 답변을 얻을 수 있습니다.
Penn은 "이러한 도구는 클릭이 필요 없는 방식으로 질문에 답하기 때문에 브랜드 없는 검색에서 약간의 이점을 얻을 수 있을 것입니다."라고 말했습니다.
"우리는 SEO 전문가로서 추천 스니펫과 제로 클릭 검색 결과를 통해 이미 이 문제에 직면했습니다. 하지만 상황은 더 나빠질 것입니다."
그는 Bing 웹마스터 도구 또는 Google 검색 콘솔로 이동하여 검색엔진 최적화의 가장 큰 위험 영역인 브랜드 없는 정보 검색에서 사이트가 얻는 트래픽의 비율을 살펴볼 것을 권장합니다.
브랜드 구축
Penn은 "브랜드 구축이 2023년 이후의 최우선 전략적 우선순위가 아니라면 그렇게 해야 합니다."라고 강조했습니다.
브랜드를 구축하고 사람들이 검색에서 이름을 물어보게 해야 합니다.
사용자가 주제에 대한 아이디어나 권장 사항을 요청하면 LLM은 귀하가 아닌 합성된 정보로 사용자를 안내할 가능성이 높습니다.
그러나 사람들이 구체적으로 브랜드 이름을 묻는다면 원하는 곳에 도착할 것입니다.
브랜드의 온라인 존재감을 가능한 한 강력하게 만드십시오.
AI에 '면역' 퍼블리싱 플랫폼 활용
Penn은 또한 청중에게 직접적이고 매개 없이 접근할 수 있는 플랫폼을 사용하는 것의 중요성을 강조했습니다.
이메일 또는 SMS(다이렉트 메일 포함)와 같은 채널을 사용하면 고객에게 직접 연락하고 AI의 중재 없이 고객에게 도달할 수 있습니다.
유기적 검색과 소셜 미디어는 이미 AI에 의해 크게 중재되고 있습니다. 따라서 청중의 일부라도 안정적으로 도달할 가능성은 희박합니다.
가장 큰 브랜드라도 유료 캠페인에 지출하는 경우에만 충분한 조회수를 얻을 수 있습니다.
커뮤니티에 집중
Slack, Telegram, Discord와 같은 서비스를 통해 같은 생각을 가진 사람들과 함께 모여 의미 있는 관계를 발전시킬 수 있습니다.
사용자에게 가치를 제공하면 안정적으로 도달하고 충성도를 확보하며 브랜드 자산을 구축할 수 있습니다.
보기: 마케팅 특이점: 대규모 언어 모델과 알고 있던 마케팅의 종말
Penn은 The MarTech Conference에서 LLM이 마케팅 작업에 미치는 영향에 대해 더 많은 통찰력을 공유했습니다. 전체 프레젠테이션 보기:
