ChatGPT терпит неудачу: 13 распространенных ошибок и ошибок, о которых вам нужно знать

Я писал о способах использования ChatGPT для SEO и задач, связанных с контент-маркетингом, таких как исследование ключевых слов, создание тегов заголовков и локальное SEO.

Я использую его по крайней мере один раз в день для различных задач. Чем больше вы используете платформу, тем ценнее для вас будет понимание ее ограничений.

Основатель OpenAI (компания, создавшая ChatGPT) назвал этот инструмент «невероятно ограниченным» и «ужасным продуктом» и предупредил пользователей о том, как сильно они на него полагаются:

ChatGPT невероятно ограничен, но достаточно хорош в некоторых вещах, чтобы создать обманчивое впечатление о величии.

Было бы ошибкой полагаться на него в чем-то важном прямо сейчас. это предварительный просмотр прогресса; нам предстоит много работы над надежностью и достоверностью.

— Сэм Альтман (@sama) 11 декабря 2022 г.

Несколько публикаций опубликовали контент с ошибками по значимым темам YMYL («Ваши деньги или ваша жизнь»), таким как личные финансы и здоровье.

В этой статье обсуждаются наиболее распространенные технические ошибки и частые ошибки при использовании ChatGPT, а также способы их устранения.

Распространенные ошибки ChatGPT

Если вы используете ChatGPT в течение «долгого» времени (т. е. с конца 2022 года), вы, вероятно, в какой-то момент видели подсказку ниже.

Очевидно, что новый программный продукт в развивающейся технологической области, пользующейся огромной популярностью, столкнется с проблемами.

Если вы делаете ChatGPT неотъемлемой частью своего ежедневного рабочего процесса, полезно знать общие проблемы, с которыми вы можете столкнуться.

ChatGPT также имеет проблемы, знакомые любому веб-сайту, такие как ошибки 404 not found, внутренние ошибки сервера 5xx, ошибки 403 отказа в доступе и ошибки Cloudflare, такие как ошибки 1020 и 524.

Часто это можно исправить, очистив кеш, используя (или отключив) VPN или убедившись, что вы правильно вводите веб-адрес.

А также есть несколько ошибок, более специфичных для платформы:

1. Проблемы с API

Часто пользователи могут столкнуться с определенными ограничениями на количество символов, токенов или функциональными ограничениями с помощью ChatGPT API.

2. Ограничения по количеству символов

Существуют ограничения на количество символов, которые вы можете ввести в ChatGPT, и на количество символов, которые могут быть в ответах ChatGPT.

Они различаются в зависимости от вашей версии (например, GPT-3.5 имеет ограничение на ввод 2048, а GPT-4 — 4096) и в веб-интерфейсе по сравнению с API.

3. Время ожидания соединения при длинных ответах

Если ChatGPT обрабатывает длинный и сложный ответ, иногда просто истекает время ожидания.

Вы можете увидеть это, когда просите платформу выполнять такие функции, как написание кода или анализ и ответ на длинные входные данные.

4. Незаконченные ответы

Не ошибка сама по себе, но часто, если вы попросите ChatGPT написать код или длинный текст, он просто остановится на полпути.

Вы можете ввести «продолжить», и в этих случаях он завершится в течение следующих нескольких подсказок.

5. Ограниченные сообщения

ChatGPT на момент написания ограничивает количество сообщений, которые вы можете использовать за период времени, даже для платных аккаунтов.

Точно так же существует определенное ограничение скорости для разных версий GPT, инструментов OpenAI и типов учетных записей.

6. Проблемы со входом

В зависимости от требуемого уровня доступа или продолжительности сеанса. ChatGPT может выйти из системы или у вас может не быть доступа к определенным функциям с определенным статусом учетной записи.

Большинство этих проблем можно решить с помощью:

• Переработка подсказок, чтобы они соответствовали ограничениям по количеству символов.
• Убедитесь, что вы вошли в систему и можете получить доступ к функциям, которые вы пытаетесь использовать на уровне вашей учетной записи.
• Запрос ChatGPT на повторную генерацию ответов.
• Начало нового чата.

Распространенные ошибки ChatGPT

ChatGPT допускает множество ошибок, в том числе:

• Неправильное получение проверяемых фактов.
• Детализация процесса, который он «предположительно» использовал для получения ответа, что невозможно, учитывая ограничения платформы.
• Генерация сломанного кода.
• Неправильное форматирование или игнорирование инструкций в выводе.
• И более.

У других пользователей есть подробные примеры платформы, лежащей для решения CAPTCHA, и проблемы с простыми математическими задачами, связанными с возрастом и расстоянием.

Кое-что из этого улучшилось с GPT-4, но не все. Вот подсказка и вывод с использованием последней версии ChatGPT:

Хотя это весело делать подсказки «попался» и ловить ChatGPT, говорящие неправильные или глупые вещи, полезнее знать области, в которых ChatGPT может ошибаться — «категории неправильности», если хотите.

Понимание этого сделает вас лучшим инженером подсказок и редактором вывода. Давайте пройдемся по наиболее распространенным категориям ошибок, которые я знаю.

7. Уверенно, но неправильно

Проблема «галлюцинаций» — серьезная проблема для ChatGPT и других генеративных ИИ-решений.

ChatGPT убедительно ответит на все вопросы, на которые не знает ответа. Это не делает ответ правильным.

Пример снимка экрана выше показывает, что он вообще не использует какой-либо уточняющий язык или хеджирование. Вы получаете решительный ответ без увиливаний.

8. Непонимание количества слов и символов

ChatGPT ужасен в оценке и понимании количества символов любым точным способом.

Если вы выполняете работу, связанную с SEO и контентом, это главный ограничивающий фактор. Возможно, вы захотите написать теги заголовков, метаописания или контент, где необходимо соблюдать количество слов:

Это на самом деле довольно близко. У меня были случаи, когда инструмент был намного дальше.

9. Ошибки в рассуждениях

Я искал «логические головоломки» и взял первый найденный список «простых логических головоломок».

ChatGPT правильно решил первые три головоломки, а затем неправильно понял четвертую:

10. Ошибки кодирования

Сейчас есть несколько реальных примеров людей, использующих ChatGPT для создания веб-сайтов, приложений и расширений браузера или устранения проблем с кодированием.

Тем не менее, ChatGPT также может генерировать код, который не работает. При использовании ChatGPT для справки кода я столкнулся со следующими проблемами:

• Код просто не работает должным образом. (Действия не выполняются, когда пользователи используют инструмент.).
• Расчеты, построенные кодом ChatGPT, неверны.
• Использование неправильного API. (Часто это происходит потому, что он не знает об API, который вы хотите использовать, потому что API вышел или был обновлен после периода обучающих данных для GPT, который закончился в конце 2021 года. Несмотря на это, ChatGPT не сообщает вам об этом. )
• Игнорирование или «забывание» инструкций и требований или ограничений проекта.

Опять же, крайне важно, чтобы вы всегда тщательно проверяли код, который вы развертываете, и тестировали вывод всего, с чем помогает ChatGPT.

Некоторые пользователи также сообщают, что GPT-4 или даже устаревший режим (а не новый режим по умолчанию, Turbo) дает лучшие результаты для задач кодирования.

11. Устаревшая информация

Обучающие данные для ChatGPT могут быть обновлены в какой-то момент, и различные плагины и инструменты начали интегрировать веб-сканирование и данные в реальном времени.

Тем не менее, веб-версия ChatGPT в настоящее время не может сканировать Интернет и не содержит информации до конца 2021 года.

Это важно, особенно в сочетании с проблемой «уверенно, но неправильно».

12. Короткая память

Существует ограничение на количество символов в чате, которое ChatGPT «запомнит», поэтому он часто будет делать ошибки из-за потери контекста ваших первых подсказок или первых ответов.

13. Ошибки форматирования

Как и в случае с кодированием, если вы попросите ChatGPT выполнить такие функции, как создание таблицы или форматирование текста определенным образом, он иногда будет делать ошибки или игнорировать определенные инструкции.

Как избежать и исправить ошибки ChatGPT

Итак, как вы можете получить максимальную отдачу от ChatGPT, имея дело с проблемами и ограничениями платформы?

Сосредоточение внимания на этих ключевых областях может помочь вам избежать многих потенциальных недостатков использования ChatGPT в ваших повседневных задачах:

Помните об ограничениях

Следите за конкретными ограничениями продукта, такими как (например, ограничения на количество символов в подсказках и ответах, дата обучения данных для GPT и т. д.), помогут вам лучше создавать подсказки, которые генерируют хорошие ответы и результаты контроля качества.

OpenAI хорошо обновляет эту информацию новыми выпусками. Некоторые пункты здесь — это вещи, о которых они прямо заявили, что обращаются к ним.

Тщательно просматривайте и редактируйте результаты

Это должно быть довольно очевидно, но вы должны тщательно отредактировать любой текст и код контроля качества перед его публикацией или развертыванием.

Из-за того, насколько убедительно может быть ChatGPT, я настоятельно рекомендую, чтобы контент и код проверял эксперт в предметной области, прежде чем он будет развернут.

Относительно легко быть обманутым некоторым содержанием и утверждениями, выдаваемыми ChatGPT, особенно если тема не является вашей областью знаний.

Но если у вас есть большой опыт в какой-либо теме, вам будет легче уловить вводящие в заблуждение или неточные утверждения.

Инструменты и процессы накладываются поверх API

OpenAI выпустила плагины и сделала доступным API для ChatGPT.

Вы можете устранить некоторые ограничения платформы, используя различные инструменты, созданные другими, или создав некоторые из них самостоятельно.

Теперь, когда вы знаете о потенциальных ловушках ChatGPT, вы можете продолжить и установить барьеры для использования этого инструмента, используя его преимущества и избегая многих недостатков.