Якось я сходу поламав GPT-бота на сайті IIBA 🤭. Просто почав задавати йому питання про нього самого — результат на екрані.💀Тепер (після відео) розумію, чому так сталося. LLM, як ChatGPT, не має власного “Я” чи пам’яті про минулі розмови. Це не особистість, а статистична машина, яка щоразу запускається “з нуля”: отримує твій запит, аналізує контекстну історію та генерує відповідь. На цьому все, ніякої глибокої самоідентичності.Якщо в тренувальних даних чи системному повідомленні не було спеціально прописано, як відповідати на такі питання, модель просто вигадує відповідь за патернами з інтернету (а там “ChatGPT від OpenAI” — найбільш популярний шаблон). Тому різні LLM можуть представлятись ChatGPT, навіть якщо вони ним не є.💡 Розробники можуть задати “самоідентичність” моделі двома шляхами: - Додати у тренувальний датасет діалоги, де асистент розповідає про себе. - Використати “системне повідомлення”, яке непомітно додається в контекст перед розмовою і містить службову інформацію: назву моделі, дату, знання тощо.Але це лише “ярлик” — модель не отримує від цього жодного усвідомлення себе. Тому, якщо наступного разу ваш бот зламається від простого питання “хто ти?”, знайте — він просто імітує відповідь за ймовірністю, а не розуміє, ким він є насправді 😄#AIforBA