AI

Назад

Как устроен ChatGPT и почему он галлюцинирует: разбор OpenAI Academy для IT-команд

Разберём как работают LLM и ChatGPT: архитектура трансформера, токенизация, обучение. Применение генеративного ИИ и рекомендации из OpenAI Academy.

VibeLab

Поделиться

Article imageBase64 view

OpenAI запустили Academy — обучающую платформу о принципах работы больших языковых моделей. Мы разобрали их материалы, дополнили техническими деталями и практикой, чтобы дать разработчикам и продуктовым командам полную картину: от архитектуры трансформера до первого рабочего прототипа.

Что такое LLM и почему это важно понимать прямо сейчас

Большая языковая модель (LLM, Large Language Model) — это нейросеть, обученная на огромном корпусе текста, которая генерирует ответы, предсказывая один токен за другим. ChatGPT, GPT-4, Claude, Gemini — всё это LLM с разной архитектурой и настройками, но общим принципом работы.

Почему недостаточно «просто вызывать API»? Без понимания принципов вы не сможете:

  • Диагностировать, почему модель галлюцинирует в конкретном сценарии
  • Оптимизировать промпты системно, а не методом проб и ошибок
  • Оценить, подходит ли LLM для задачи или нужен классический алгоритм
  • Выбрать между fine-tuning, RAG и промпт-инжинирингом

OpenAI в материалах Academy подчёркивают: генеративный ИИ — это не магия, а инженерия. Модель не «думает» и не «понимает». Она находит статистические паттерны в данных и генерирует наиболее вероятное продолжение. Держите это в голове — и работа с LLM станет предсказуемой.

Отличие LLM от традиционных алгоритмов

Rule-based системы работают по жёстким правилам: if-else, регулярные выражения, деревья решений. Классический ML (Random Forest, SVM, XGBoost) обучается на размеченных данных и решает конкретную задачу — классификацию, регрессию, кластеризацию. Одна модель — одна задача.

Большие языковые модели работают иначе.

ПараметрRule-basedКлассический MLLLM
Входные данныеПравила, написанные человекомРазмеченный датасетТерабайты неразмеченного текста
Как решает задачуСледует правиламНаходит паттерны в признакахПредсказывает следующий токен
ГибкостьТолько заложенные сценарииОдна задача на модельМножество задач без переобучения
ОбъяснимостьПолнаяЧастичнаяНизкая

Ключевое отличие: LLM генерирует текст токен за токеном. Каждый следующий токен — результат вероятностного предсказания на основе всего предыдущего контекста. Модель не ищет ответ в базе данных и не применяет формулу. Она каждый раз «пишет с нуля», опираясь на паттерны, усвоенные при обучении на триллионах слов.

Как ChatGPT устроен под капотом: архитектура трансформера

В основе ChatGPT лежит архитектура трансформер (Transformer), предложенная в 2017 году в статье «Attention Is All You Need». Главная идея — механизм внимания (attention), который позволяет модели учитывать связи между всеми словами в тексте одновременно, а не последовательно, как делали рекуррентные сети.

Для разработчика полезна аналогия: представьте автодополнение в IDE, но масштабированное на несколько порядков. IDE предсказывает следующий токен на основе нескольких строк кода. LLM делает то же самое, но с контекстным окном в 128 000 токенов и знаниями, извлечёнными из триллионов слов при обучении.

Механизм внимания работает так: для каждого токена модель вычисляет, насколько сильно он связан с каждым другим токеном в контексте. Это позволяет правильно разрешить местоимение «оно» в длинном предложении, связав его с нужным существительным за 50 слов до этого. Рекуррентные сети «забывали» далёкие связи. Трансформер видит весь контекст сразу.

Токены, веса и обучение: три этапа до готовой модели

Прежде чем ChatGPT ответит на ваш запрос, модель прошла три этапа обучения.

1. Pre-training (предобучение)

Модель обучается на огромном корпусе текста из интернета, книг, научных статей. Задача: предсказать следующий токен. На этом этапе модель усваивает грамматику, факты, логические паттерны, стили текста. GPT-4 обучался на данных до определённой даты — это knowledge cutoff, после которого модель не знает о новых событиях.

Что такое токен? Это не слово целиком. Токенизатор разбивает текст на подслова по алгоритму BPE (Byte Pair Encoding). Английское «tokenization» — три токена: «token», «iz», «ation». Русский текст токенизируется менее эффективно: одно слово может стоить 2–4 токена. Это влияет на стоимость API-вызовов и на эффективное использование контекстного окна.

2. Fine-tuning (дообучение)

После предобучения модель дообучают на диалогах, инструкциях, примерах качественных ответов. На этом этапе «генератор текста» превращается в «помощника, который отвечает на вопросы». Формат общения, стиль ответов, способность следовать инструкциям — всё это результат fine-tuning.

3. RLHF (обучение с подкреплением от обратной связи человека)

Разметчики оценивают пары ответов модели: какой лучше, какой хуже. На этих оценках обучается reward model, которая направляет дообучение основной модели через алгоритм PPO. Именно RLHF делает ChatGPT «вежливым», «осторожным» и склонным отказывать в потенциально опасных запросах.

Размеры контекстного окна:

  • GPT-3.5 Turbo: 4 096 / 16 385 токенов
  • GPT-4: 8 192 токенов (стандарт), 128 000 токенов (Turbo)
  • GPT-4o: 128 000 токенов

Контекстное окно — рабочая память модели. Всё, что не помещается в окно, модель не видит.

Роль промпта: почему формулировка запроса меняет всё

Промпт — это весь текст, который модель получает на вход: system prompt, история диалога и текущее сообщение пользователя. Модель генерирует ответ как наиболее вероятное продолжение всей этой последовательности.

Два промпта — два результата:

Промпт 1:

Объясни, что такое Docker.

Результат: общее объяснение для новичка, 3–4 абзаца, метафора с контейнерами на корабле.

Промпт 2:



Результат: техническое сравнение с деталями на уровне ядра Linux, таблица, примеры из реальной практики.


Разница в качестве — на порядок. Во втором промпте вы задали контекст (роль), аудиторию (junior), формат (таблица + примеры) и глубину (namespaces, cgroups). Модель подстроила распределение вероятностей под эти ограничения.


Это основа промпт-инжиниринга — системного подхода к формулировке запросов. OpenAI Academy выделяет его как одну из базовых компетенций для работы с LLM.


Ключевые идеи OpenAI Academy: capability vs alignment


OpenAI описывает два способа работы со своими моделями:


    

  1. 

    Прямой доступ через продукты. ChatGPT — для повседневных задач. Codex — для работы с кодом: рефакторинг, отладка, навигация по кодовой базе.
    

    2. 

  2. 

    API как строительные блоки. Программный доступ к моделям для интеграции в собственные продукты. Генерация текста, анализ контента, function calling — основа для кастомных AI-приложений.
    

    3. 



Capability — то, что модель умеет: генерировать код, переводить, анализировать данные.


Alignment — то, насколько модель следует намерениям пользователя и разработчика. Мощная модель без alignment может давать токсичные или нерелевантные ответы.


Что это означает на практике:


    

  • System prompt — основной инструмент alignment на уровне приложения. Чем точнее инструкция, тем предсказуемее поведение.
    • 

  • Не полагайтесь на alignment для безопасности. Модель можно «уговорить» (jailbreak). Критические проверки должны быть в коде.
    • 

  • Temperature и top_p контролируют «креативность». Для кода — temperature 0–0.2. Для маркетинговых текстов — 0.7–0.9.
    • 



Практическое применение LLM в IT-командах


Code review и рефакторинг. LLM находит типовые проблемы: нарушения naming conventions, пропущенные edge cases. По данным GitHub (2024), более 40% команд используют AI-ассистенты для кода.


Генерация документации. Экономия 50–70% времени. Модель генерирует docstrings, README, API-документацию на основе кода.


Поддержка пользователей. RAG-системы обрабатывают 60–80% типовых обращений без оператора. Ключевое условие: актуальная база знаний.


Прототипирование. Первая версия MVP за часы вместо дней. Один из самых заметных эффектов при внедрении AI.


Что ChatGPT делает хорошо, а что — нет


Работает надёжно:


    

  • Генерация boilerplate: CRUD, миграции, конфигурации
    • 

  • Юнит-тесты по существующему коду
    • 

  • Перевод между языками (Python → Go, JS → TypeScript)
    • 

  • Объяснение чужого кода и legacy-систем
    • 

  • Рефакторинг по чётким критериям
    • 



Работает ненадёжно:


    

  • Сложная бизнес-логика — модель не знает ваш домен
    • 

  • Код, зависящий от актуальных версий библиотек (knowledge cutoff)
    • 

  • Security review — LLM пропускает неочевидные уязвимости
    • 

  • Оптимизация производительности — модель угадывает, а не профилирует
    • 

  • Архитектурные решения — LLM реализует, но слабо проектирует
    • 



Относитесь к LLM как к junior-разработчику с энциклопедическими знаниями, но без опыта в вашем проекте. Давайте чёткие спецификации, проверяйте результат.


Ограничения LLM: что нужно знать перед интеграцией


Галлюцинации. LLM генерирует правдоподобный, но фактически неверный текст. Это свойство архитектуры: модель оптимизирована на вероятное продолжение, а не правдивый ответ.


Knowledge cutoff. Модель не знает о событиях после даты окончания обучающих данных. Для актуальной информации нужны RAG, function calling, подключение поиска.


Контекстное окно. Даже 128K токенов — конечный ресурс. Модель хуже обрабатывает информацию из середины длинного контекста (эффект «lost in the middle»).


Стоимость. Один вызов GPT-4 с полным контекстом 128K токенов может стоить $1–2. Оптимизация промптов, кэширование, выбор модели под задачу — необходимость.


Латентность. Генерация занимает секунды. Для real-time приложений это критично. Streaming API помогает, но не устраняет проблему полностью.


Почему ChatGPT «придумывает» факты и как это контролировать


Галлюцинации возникают потому, что модель не различает «знаю» и «не знаю». Она всегда генерирует продолжение — даже если в обучающих данных информации не было. Модель «интерполирует» из похожих паттернов, создавая правдоподобную, но ложную информацию.


Методы контроля:


    

  • RAG (Retrieval-Augmented Generation). Подаём релевантные документы вместе с запросом. Снижает галлюцинации на 40–70%.
    • 

  • Temperature = 0. Максимально детерминированные ответы. Меньше «креативности» — меньше выдумок.
    • 

  • Fact-checking через второй вызов. Отдельный промпт проверяет утверждения. Дороже, но эффективно для критичных данных.
    • 

  • Structured output. JSON mode или function calling заставляют следовать схеме. В рамках структуры сложнее галлюцинировать.
    • 

  • Grounding через поиск. Подключение веб-поиска или базы знаний для верификации в реальном времени.
    • 



Ни один метод не устраняет галлюцинации полностью. Но комбинация RAG + structured output + low temperature доводит точность до приемлемого уровня.


С чего начать: пошаговый план для команды


Неделя 1: разведка


    

  1. Определите 3–5 задач, где команда тратит больше всего времени на рутину.
    2. 

  2. Оцените каждую задачу по частоте и стоимости ошибки. Начинайте с частых задач с низкой ценой ошибки.
    3. 

  3. Протестируйте вручную через ChatGPT или API Playground. Если результат полезен в 70%+ случаев — задача годится для автоматизации.
    4. 



Недели 2–3: прототип


    

  1. Выберите модель: GPT-4o для сложных задач, GPT-4o mini для массовых вызовов, open-source (Llama, Mistral) если критичны приватность или стоимость.
    2. 

  2. Напишите первый прототип через OpenAI API — 20–30 строк на Python.
    3. 

  3. Итерируйте промпты на реальных данных команды.
    4. 



Месяц 1: валидация


    

  1. Измерьте метрики: точность, время отклика, стоимость на запрос.
    2. 

  2. Соберите обратную связь от команды.
    3. 

  3. Если экономия более 30% — внедряйте. Если нет — переходите к следующей задаче.
    4. 



Чего не стоит делать


    

  • Не начинайте с fine-tuning — промпты и RAG закрывают 80% задач.
    • 

  • Не стройте «универсального AI-ассистента» — начните с одной задачи.
    • 

  • Не игнорируйте стоимость — посчитайте unit economics до масштабирования.
    • 

  • Не пропускайте ручное тестирование.
    • 



Итог


LLM — инструмент с понятной архитектурой, измеримыми возможностями и конкретными ограничениями. Не магия, не замена разработчику. Но при грамотном применении — способ убрать рутину, ускорить цикл разработки и дать команде заняться задачами, где нужно человеческое суждение.


OpenAI Academy — хорошая стартовая точка для системного погружения. Дальше — практика на реальных задачах вашей команды.




Подписывайтесь на наш канал: @vibelogia


Поделимся опытом


hello@vibelab.ru


8 800 201 85 68


Написать в Telegram