Продакт борщ🔥 | А у вас так бувало - ви витратили хвилин 10 описуючи ідеальний промпт,...

А у вас так бувало - ви витратили хвилин 10 описуючи ідеальний промпт, а на виході отримали повну дурню?Сьогодні розкажу вам цікавинку.Ви самі знаєте, що зараз постійно проводяться дослідження по АІ і ЛЛМкам. Одне з таких досліджень йшло більше 3 років, тестувало більше 50 різних frontier моделей, і нещодавно підтвердили цікаву знахідку...Отже, місце де ви кладете інформацію в промпт, впливає на відповідь більше, ніж те, що в цьому промпті написано. Механіка проста. Моделі читають нерівномірно - початок і кінець контексту отримують більше уваги за замовчуванням. Все що в середині - системно ігнорується. Цікаво, що це не баг якоїсь конкретної моделі, це наслідки існуючої архітектури рішення. І жодна продакшн-модель поки не виправила це повністю. Більше того - є така штука як "context rot": чим довший контекст, тим гірша якість навіть на простих задачах. (але це ви мабуть знаєте)Тобто більше інформації в промпті не дорівнює кращому результату. Іноді(і нажаль достатньо часто) виходить навпаки.Коротше, якщо ви вставляєте ключові вимоги, приклади або обмеження десь у середину великого промпту - існує висока ймовірність, що модель їх або проігнорує, або врахує частково. Напевно більшість з нас це відчувала, тепер от знаємо чому.То шо робить? Ключова інструкція і шо ви хочете - на початку промпта. Приклади і контекст - в середині (вони менш критичні). Найважливіше обмеження або фінальна задача - повторити в кінці(так, як для дитини). Якщо промпт довгий - розбивайте його на секції з явними заголовками, щоб модель мала "якорі" уваги. І, як і казав - ніколи не ховайте критичні параметри в 4-му абзаці з 7-ми - вона, скоріше за все, не спрацює.Крутих промптів!