L09. Запит, токени й межі розмови

Ви уточните запит і створите project-brief.txt — коротку довідку, з якою можна почати нову розмову. Орієнтир — 45 хвилин. Потрібні один доступний чат, about-me.txt, project-list.txt і Блокнот. На тому самому прикладі розберемо токени, контекст і умовний розрахунок витрат.

На занятті

Викладач порівнює нечіткий і конкретний запити, а потім починає нову розмову з короткою довідкою. Разом перевірте, чи збереглися проєкти, обмеження й наступне завдання без старої історії.

Що має дізнатися помічник

Із запиту «Зроби хороший план» незрозуміло, що планувати й скільки часу є на роботу. Олена додає потрібні відомості: три проєкти, один перший крок на кожен, без оплати й публікації. Тепер відповідь можна звірити з конкретними умовами.

У запиті назвіть завдання, додайте потрібні дані й поясніть, за якими ознаками перевірите відповідь. Для цього часто достатньо кількох речень.

• Відкрийте розмову, де складали план. Прочитайте збережений project-list.txt.
• Вставте план після запиту нижче й надішліть його.

Уточни цей план для людини, яка починає навчання.
Залиши три проєкти й по одному кроку на кожен.
Крок займає до 20 хвилин і має видимий результат.
До 12 слів на пункт. Не додавай нових проєктів.
План:

• Перевірте кількість пунктів і назви проєктів. Оберіть зрозумілі дії. Наприклад, «Записати три справи в Блокноті» точніше за «Опрацювати концепцію продуктивності».

> [RESULT] Ви маєте три короткі дії, які можна розпочати зараз: по одній на кожен проєкт.

Чому довжина має значення

Модель обробляє текст частинами — токенами. Токен може бути словом, частиною слова або знаком. Одна українська й одна англійська фраза однакового змісту не обов’язково мають однакову кількість токенів. Точний поділ залежить від моделі; універсальне правило «одне слово — один токен» не працює. [F219]

Контекст — матеріал, доступний моделі під час відповіді: інструкції, переданий текст, частина історії, результати інструментів. Обсяг контексту обмежений. У довгій розмові сервіс може скорочувати або підсумовувати давні повідомлення. Навіть якщо ви можете прокрутити історію до початку, це не означає, що модель зараз отримала всі її рядки. [F220]

[[VIS:f5_prompt_context]]

Збережіть коротку довідку

У Блокноті створіть Documents\AI-practice\project-brief.txt:

Авторка: Олена. Інтереси: книги, прогулянки, порядок удома.
Проєкти: особистий сайт; «Мій день»; відео 30–45 секунд.
Стан: є початкові нотатки. Нічого ще не опубліковано.
Наступне завдання: скласти структуру особистої сторінки.
Умова: не вигадувати контакти або готові досягнення.
Невідоме: контакт для публікації ще не обрано.

Відкрийте нову розмову, вставте довідку й запитайте: «Назви три проєкти та наступне завдання». Очікуйте: особистий сайт, «Мій день», відео; наступне завдання — структура сторінки. Оновлюйте рядок стану після завершених дій у власному проєкті.

> [FIX] Помічник повернув стару назву або забув обмеження. Вставте актуальну довідку, прямо назвіть виправлення й попросіть переробити конкретний пункт. Фраза «ми ж уже говорили» не повертає відсутні дані.

Як токени пов’язані з витратами

У чаті діють умови його плану. В API витрати можуть рахуватися за вхідними й вихідними токенами, а також окремими інструментами; це інший спосіб оплати. [F203][F221]

Навчальний приклад, не чинна ціна: $1 за мільйон вхідних токенів і $5 за мільйон вихідних. Запит із 3000 вхідних і 1000 вихідних коштував би:

3000 / 1 000 000 × $1 = $0.003
1000 / 1 000 000 × $5 = $0.005
Разом: $0.008. Сто таких запитів: $0.80.

До входу може потрапляти й попередній матеріал розмови, тому не можна рахувати лише останнє речення користувача.

Практика вдома

• Зробіть копію project-brief.txt під назвою AI-practice\project-brief-home.txt. У рядку стану додайте лише один реально отриманий результат, наприклад збережене знайомство. Не позначайте весь сайт готовим, якщо маєте тільки текст для нього.
• У новій розмові вставте цю довідку й запитайте: «Що вже зроблено і яке наступне завдання?». Зіставте відповідь із копією; вона має назвати новий стан і зберегти невідомі дані. Початковий файл не змінюйте.

Самотест

• Чи 100 слів завжди дорівнюють 100 токенам?
• У новій розмові помічник не знає плану сайта. Що вставити, щоб продовжити роботу?
• Скільки коштують 100 запитів по $0.008?

Слова, які знадобляться

• Токен — частина даних, яку обробляє модель.
• Контекст — доступний матеріал для поточної відповіді.
• Вхід і вихід — дані, передані моделі, та створена нею відповідь.