Приложение 4: ОКНО КОНТЕКСТА: приёмы работы с объёмным текстом
📚 Приложение 4: ОКНО КОНТЕКСТА: приёмы работы с объёмным текстом
Большие произведения — романы, сценарии, сборники рассказов — часто не помещаются в контекстное окно языковой модели. Даже самые продвинутые LLM на 2025 год (вроде GPT-4-turbo или Claude 3 Opus) имеют ограничение в 128k токенов, что примерно равно 300–500 страницам текста.
Если ваш текст превышает эти рамки или вы хотите работать с ним по частям — используйте следующие подходы:
🧩 1. Разбейте текст на логические блоки
LLM прекрасно работает с отдельными главами, сценами, диалогами, описаниями. Подготовьте такие фрагменты заранее:
- По главам (1 файл = 1 глава)
- По функциям: только диалоги, только описания, только экшн
- По героям: сцены, где участвует конкретный персонаж
Промпт:
«Вот сцена из 7-й главы. Проанализируй её стиль и предложи улучшения»
🧠 2. Используйте резюме (summary)
Если вы хотите, чтобы ИИ знал, «что было раньше» — добавьте краткое резюме контекста. Это можно делать вручную или с помощью самой модели.
Примеры:
- «В предыдущих главах герой потерял память и оказался в городе-призраке…»
- «Сюжет в целом: девушка попадает в симуляцию, где…»
Промпт:
«Вот краткое содержание романа. Теперь проанализируй главу 12 с точки зрения ритма»
🔄 3. Работа через итерации
Когда вы редактируете, анализируете или переписываете роман — не пытайтесь сделать всё за один заход. Вместо этого:
- Обрабатывайте сцену за сценой
- Собирайте обратную связь
- Вносите правки, затем переходите дальше
ИИ «не помнит» прошлую сцену, если вы её не вложили, но вы — помните. Используйте это как силу.
🗃 4. Контекстная библиотека: работаем с моделью как с ассистентом
Можно создать собственный формат диалога, где вы храните:
- Основные события сюжета
- Карточки персонажей
- Вехи арок и тем
- Карту мира
И подаёте их в сжатом виде при каждом новом запросе.
Пример:
«Вот карточка героя. Вот краткий план сюжета. На основе этого — напиши альтернативную версию сцены признания»
🤖 5. Разделение ролей: одна модель — для анализа, другая — для генерации
Если вы работаете с несколькими LLM (например, GPT и Claude), можно:
- Одну использовать для создания кратких резюме и структуры
- Другую — для редактуры или генерации на основе этих сжатий
💼 6. Используйте внешние инструменты
Есть решения, которые помогают распределить текст и «кормить» его LLM частями:
- Scrivener / Obsidian / Notion — для подготовки структуры и заметок
- ChatGPT с Code Interpreter — можно загружать большие файлы и резюмировать, разбирать по разделам
- LangChain, LlamaIndex, Pinecone — продвинутые инструменты для создания собственного «памяти»
🧰 7. Рабочий шаблон: «Сжатие + Контекст + Задача»
Формула, которая работает:
🔹 Контекст: (резюме текста + карточки героев)
🔹 Цель: (что нужно сделать)
🔹 Фокус: (конкретный фрагмент, например, сцена)
Промпт:
«На основе этого краткого описания и биографии героя — предложи альтернативный финал для главы 14»
❗️Важно помнить
- LLM не «читает весь роман» — он видит только то, что вы дали в промпте
- Лучше сжать и подготовить, чем «кормить» 50 страниц подряд
- Вы — главный редактор и архитектор. Модель — инструмент, а не архив памяти.
✅ Чеклист: работа с длинными текстами
- Разделил текст на сцены/главы
- Сделал краткое описание сюжета
- Создал карточки персонажей и сеттинга
- Выработал формат работы (по частям, с итерациями)
- Использую LLM для конкретных задач, не «всё сразу»
- Храню промежуточные версии и обратную связь