Це питання, які виникають майже на кожному першому дзвінку, з відповідями, які я даю на дзвінку.
Скільки це займає?
Пілот на ваших власних даних — два тижні. Якщо процес незрозумілий або кілька відділів по-різному описують, як він працює насправді, спершу йде консалтинг: від одного до трьох тижнів, з письмовим планом на виході. Повне впровадження залежить від того, скільки систем треба зачепити — і цю цифру дає пілот, а не буклет.
Що потрібно від вас?
Три речі завжди. Ваші документи в тому стані, в якому вони є сьогодні — впорядкувати їх це частина роботи, а не умова для старту. Одна людина, яка може відповісти «а яке тут правило насправді?», коли документи суперечать один одному. І група людей, які справді користуватимуться цим два тижні.
Решта залежить від випадку. Скажімо, це HR-асистент у компанії на 200 осіб: пілотної групи з 10–20 співробітників досить, щоб проявилися справжні питання. Якщо задача — читати вхідні резюме, то потрібні 30–50 реальних CV з вашого потоку (знеособлені підійдуть) і перелік полів, які очікує ваша ATS. Для перевірки договорів це 20–50 типових договорів з вашого архіву і опис позицій, які ви вважаєте нормальними. Цифри тут про покриття, а не про обсяг: матеріалу має бути достатньо, щоб виринули незручні випадки.
Кому належить результат?
Вам: промпти, конфігурація, логи розмов та індекси, зібрані з ваших документів. Якщо ми розійдемося, ви отримуєте все це й можете продовжувати працювати. Ніщо з того, що я будую, не залежить від моєї подальшої участі.
Що буде, якщо агент помилиться?
Спершу про те, що тут означає «помилка». Агент не вигадує відповіді: він відповідає тим, що знайшов у ваших документах і в картці самого співробітника, та називає пункт, на який спирався. Якщо ваші політики не суперечать одна одній, він не помиляється в правилі. Помилки живуть там, де документи суперечать самі собі або де відповіді в них просто немає.
Тому три речі закладені з самого початку. Кожна відповідь називає пункт політики, з якого вона взята, тож співробітник перевіряє її за секунду. Питання поза його компетенцією передаються людині, а не вгадуються. І кожна зміна промптів або даних проганяється по фіксованому набору питань з відомими правильними відповідями — 30 питань у 13 категоріях для HR-асистента — щоб виправлення одного випадку тихо не зламало інший. А якщо виявилося, що документи суперечать один одному, це корисна знахідка: ми записуємо правило — і суперечність перестає кусати ще й ваших людей.
Куди йдуть ваші дані?
Managed: у європейський дата-центр великого хмарного провайдера (Azure або AWS) і в API постачальника моделі — Anthropic чи OpenAI — за угодою про обробку даних. Ваші дані не використовуються для навчання моделей. Self-hosted: нікуди — модель працює на вашому обладнанні, а відповіді не покидають вашу мережу. Компроміси розібрані на сторінці про self-hosted.
Чи доведеться вашим людям вчити новий інструмент?
Ні. Агент приходить туди, де вони вже є: вебчат у вашому інтранеті, Telegram-бот, відкритий лише для персоналу, або виклик API із системи, в якій вони працюють цілий день. Запитати його — це як написати повідомлення колезі.
Чи можна почати з одного процесу?
Тільки так я і починаю. Один процес, одна пілотна група, два тижні, реальні цифри. Усе інше — рішення, які ви ухвалюєте потім, уже з даними на руках.
Скільки коштує експлуатація?
Експлуатація рахується за одиницю роботи — і вона недорога: приблизно €0.10 за HR-діалог або €0.06 за ліда в аутріч на варіанті managed — центи там, де людина коштує євро. Self-hosted перетворює це на одноразове залізо плюс електроенергію. Впровадження я оцінюю за проєктом, коли побачу процес: прайс-листа немає, бо той самий агент на впорядкованому і на заплутаному процесі — це різний обсяг роботи.
Ви вже платите за ChatGPT. Навіщо тоді агент?
Бо підписка нічого не знає про вашу компанію — і ніхто не вставляє сорок сторінок політики у вікно чату перед тим, як задати питання. Де підписки достатньо, а де вона перестає працювати — на сторінці порівняння.
Чи працюватиме це українською та польською?
Так. Агенти відповідають мовою питання — англійською, українською, польською — і розуміють, як люди пишуть насправді: сленг, помилки, обірвані фрази.
А якщо хтось спробує його обдурити?
Виходьте з того, що спробує — і не завжди зовні: імовірніший випадок це цікавий співробітник, який хоче побачити, скільки отримує колега. Захист багатошаровий, бо жодна окрема перевірка не ловить усе.
- Те, що пише людина, обгортається і передається моделі як дані, а над цим стоїть інструкція: ніщо всередині цих тегів не виконується як команда.
- До того як агент побачить повідомлення, пред-фільтр шукає сліди, які атака залишає будь-якою мовою: підроблені системні мітки, невидимі символи та символи зміни напрямку тексту, слова, складені одразу з двох алфавітів, блоки base64 і близькість до бібліотеки відомих формулювань атак, яку міряє мультимовна модель векторних представлень.
- Далі окрема модель-сканер читає повідомлення цілком і відповідає одним словом. Сам пред-фільтр нічого не блокує — він лише перемикає сканер на суворіший промпт, а рішення залишається за моделлю.
- Сесію, яка продовжує намагатися, закривають після другої спроби, а сама спроба пишеться в лог разом з текстом, щоб ви бачили, що саме пробували.
- У sales-агента така сама перевірка стоїть на вхідній пошті, тож лист від незнайомця не перепрограмує його.
Ці цифри дає фіксований тестовий набір — так званий golden set. У ньому 47 спроб атаки, написаних руками: від грубого «забудь свої інструкції» до інʼєкції, схованої всередині цілком нормального HR-питання, плюс 60 звичайних питань, які мусять пройти без жодної перешкоди. Весь набір проганяється заново після кожної зміни промптів або фільтра, тож правило, підкручене цього тижня, яке наступного почне відмовляти справжнім питанням, видно в прогоні, а не перед вашими людьми. На демо-чаті поточний результат: 47 атак з 47 зупинено, 60 звичайних питань з 60 отримали відповідь.
Чи може він показати одному співробітнику дані іншого?
Йому нічого показувати. Картка співробітника приходить до агента з вашої власної системи — для тієї людини, яка вже в ній залогінена. Агент її не запитує і не може запитати чиюсь іншу. У нього немає конекторів: ні доступів до бази даних, ні API вашої HR-системи, ні файлової шари. Він читає лише те, що ваша система передала йому для цієї конкретної розмови, плюс документи компанії, які й так дозволено читати всім.
Пам'яті між сесіями теж немає. Нова розмова починається з чистого аркуша, тож із чату однієї людини нічого не переїде в чат іншої, а прохання «розкажи, що питав попередній користувач» нічого не знайде.
А якщо ви захочете припинити?
Ви залишаєте собі всі артефакти й вимикаєте систему. Тікати з якогось власницького формату не доведеться: агент — це набір файлів, база даних і модель, а копія кожного з цих елементів у вас уже є.
Довші відповіді — на окремих сторінках
- Self-hosted — що змінюється, коли модель працює на вашому обладнанні, скільки це коштує та чим ви платите.
- Агент чи підписка на ChatGPT — де підписки справді достатньо, а де вона перестає працювати.
- Двотижневий пілот — тиждень за тижнем: що потрібно від вас і що ви маєте на виході.
- Сценарії — та сама робота в перерахунку на одиницю, з людьми та з агентом.
- Шість агентів — що робить кожен та що йому потрібно перед запуском.
Те, на що тут немає відповіді, краще обговорити голосом, ніж абзацом. Домовитись про дзвінок.