Как масштабировать использование больших языковых моделей в маркетинге

Генеративный ИИ и большие языковые модели должны изменить маркетинговую индустрию, какой мы ее знаем.

Чтобы оставаться конкурентоспособными, вам необходимо понимать технологию и то, как она повлияет на наши маркетинговые усилия, — сказал Кристофер Пенн, главный специалист по данным в TrustInsights.ai, выступавший на конференции MarTech.

Узнайте о способах масштабирования использования больших языковых моделей, ценности быстрой разработки и о том, как маркетологи могут подготовиться к будущему.

Предпосылка больших языковых моделей

С момента своего запуска ChatGPT был популярной темой в большинстве отраслей. Вы не можете выйти в интернет, не увидев, что все думают об этом. Тем не менее, не многие люди понимают технологию, стоящую за этим, сказал Пенн.

ChatGPT — это чат-бот с искусственным интеллектом, основанный на больших языковых моделях OpenAI GPT-3.5 и GPT-4 (LLM).

LLM построены на предпосылке английского лингвиста Джона Руперта Ферта, сформулированной в 1957 году:

• «Вы узнаете слово по компании, которую оно держит».

Это означает, что значение слова можно понять, основываясь на словах, которые обычно встречаются рядом с ним. Проще говоря, слова определяются не только их определением в словаре, но и контекстом, в котором они используются.

Эта предпосылка является ключом к пониманию обработки естественного языка.

Например, посмотрите на следующие предложения:

• — Я завариваю чай.
• — Я разливаю чай.

Первое относится к горячему напитку, а второе — к сплетням. «Чай» в этих случаях имеет совсем другое значение.

Порядок слов тоже имеет значение.

• — Я завариваю чай.
• «Чай, который я завариваю».

В приведенных выше предложениях акцент делается на разных предметах, хотя в них используется один и тот же глагол «варить».

Как работают большие языковые модели

Ниже приведена системная схема трансформеров, модель архитектуры, в которой строятся большие языковые модели.

Проще говоря, преобразователь принимает входные данные и превращает (т. е. «трансформирует») их во что-то другое.

LLM можно использовать для создания, но они лучше превращают одно во что-то другое.

OpenAI и другие компании-разработчики программного обеспечения начинают с обработки огромного массива данных, включая миллионы документов, научных статей, новостных статей, обзоров продуктов, комментариев на форумах и многого другого.

Подумайте, как часто фраза «Я завариваю чай» может появляться во всех этих проглоченных текстах.

Обзоры продуктов Amazon и комментарии Reddit выше являются некоторыми примерами.

Обратите внимание на «компанию», которую составляет эта фраза, то есть на все слова, стоящие рядом с «Я завариваю чай».

«Вкус», «запах», «кофе», «аромат» и многое другое придают контекст этим LLM.

Машины не умеют читать. Итак, чтобы обработать весь этот текст, они используют встраивания, первый шаг в архитектуре преобразования.

Встраивание позволяет моделям присваивать каждому слову числовое значение, и это числовое значение неоднократно встречается в текстовом корпусе.

Положение слова также имеет значение для этих моделей.

В приведенном выше примере числовые значения остаются прежними, но в другой последовательности. Это позиционное кодирование.

Проще говоря, большие языковые модели работают следующим образом:

• Машины принимают текстовые данные.
• Присвойте числовые значения всем словам.
• Посмотрите на статистические частоты и распределения между разными словами.
• Попробуйте угадать, каким будет следующее слово в последовательности.

Все это требует значительных вычислительных мощностей, времени и ресурсов.

Быстрое проектирование: обязательный навык

Чем больше контекста и инструкций мы предоставим LLM, тем больше вероятность того, что они дадут лучшие результаты. В этом ценность быстрого инжиниринга.

Пенн думает о подсказках как о ограждениях того, что будут производить машины. Машины будут подбирать слова в нашем вводе и цепляться за них для контекста по мере обработки вывода.

Например, при написании подсказок ChatGPT вы заметите, что подробные инструкции, как правило, дают более удовлетворительные ответы.

В некотором смысле подсказки подобны творческим заданиям для писателей. Если вы хотите, чтобы ваш проект был выполнен правильно, вы не будете давать своему писателю однострочную инструкцию.

Вместо этого вы отправите бриф приличного размера, описывающий все, о чем вы хотите, чтобы они написали, и то, как вы хотите, чтобы они были написаны.

Масштабирование использования LLM

Когда вы думаете о чат-ботах с искусственным интеллектом, вы можете сразу же подумать о веб-интерфейсе, в котором пользователи могут вводить подсказки, а затем ждать ответа инструмента. Это то, что все привыкли видеть.

«Это никоим образом не конечная цель этих инструментов. Это детская площадка. Именно здесь люди могут возиться с инструментом», — сказал Пенн. «Это не то, как предприятия собираются вывести это на рынок».

Думайте о написании подсказок как о программировании. Вы — разработчик, который пишет инструкции для компьютера, чтобы заставить его что-то делать.

После того, как вы точно настроите свои подсказки для конкретных случаев использования, вы можете использовать API-интерфейсы и попросить реальных разработчиков обернуть эти подсказки в дополнительный код, чтобы вы могли программно отправлять и получать данные в масштабе.

Именно так LLM будут масштабировать и изменять бизнес к лучшему.

Поскольку эти инструменты внедряются повсеместно, очень важно помнить, что каждый является разработчиком.

Эта технология будет в Microsoft Office — Word, Excel и PowerPoint — и во многих других инструментах и ​​службах, которыми мы ежедневно пользуемся.

«Поскольку вы программируете на естественном языке, не обязательно у традиционных программистов будут самые лучшие идеи», — добавил Пенн.

Поскольку LLM основаны на письме, специалисты по маркетингу или связям с общественностью, а не программисты, могут разрабатывать инновационные способы использования инструментов.

Как LLM повлияют на поисковый маркетинг и что вы можете с этим поделать

Мы начинаем замечать влияние больших языковых моделей на маркетинг, особенно на поиск.

В феврале Microsoft представила новый Bing на базе ChatGPT. Пользователи могут общаться с поисковой системой и получать прямые ответы на свои запросы, не нажимая ни на какие ссылки.

«Вы должны ожидать, что эти инструменты облегчат ваш небрендированный поиск, потому что они отвечают на вопросы способами, которые не требуют кликов», — сказал Пенн.

«Мы уже сталкивались с этим как профессионалы SEO, с избранными фрагментами и результатами поиска без кликов… но для нас это будет только хуже».

Он рекомендует использовать инструменты Bing для веб-мастеров или Google Search Console и посмотреть, какой процент трафика ваш сайт получает от нефирменных информационных поисков, поскольку это область наибольшего риска для SEO.

Создайте свой бренд

«Если создание бренда не является одним из ваших главных стратегических приоритетов на 2023 год и далее, оно должно им стать», — подчеркнул Пенн.

Вам нужно создать свой бренд и заставить людей спрашивать вас по имени в поиске.

Когда пользователи запрашивают идеи или рекомендации по теме, LLM, скорее всего, направят их к синтезированной информации, а не к вам.

Но если люди специально просят назвать ваш бренд по имени, они все равно попадут туда, куда хотят.

Сделайте присутствие вашего бренда в Интернете как можно более сильным.

Используйте издательскую платформу, «невосприимчивую» к ИИ

Пенн также подчеркнул важность использования платформы, на которой у вас есть прямой, непосредственный доступ к вашей аудитории.

Такие каналы, как электронная почта или SMS (даже прямая почтовая рассылка), позволяют вам напрямую обращаться к клиентам и гарантировать, что вы обращаетесь к ним без посредничества ИИ.

Органический поиск и социальные сети уже сильно опосредованы искусственным интеллектом. Таким образом, вероятность надежного охвата даже части вашей аудитории невелика.

Даже самые крупные бренды могут получить достаточно просмотров только в том случае, если они будут тратить деньги на платные кампании.

Сосредоточьтесь на сообществе

Такие сервисы, как Slack, Telegram и Discord, позволяют вам собираться с единомышленниками и развивать значимые связи.

Когда вы предоставляете ценность своим пользователям, вы можете надежно связаться с ними, завоевать их лояльность и повысить ценность бренда.

Смотреть: Маркетинговая сингулярность: большие языковые модели и конец маркетинга, каким вы его знали

Пенн поделился своими мыслями о влиянии LLM на работу в сфере маркетинга на конференции MarTech. Смотрите его полную презентацию здесь: