IT Familia by Олександра Туманенко

⌘57. LLM-доповнений інтелектЯкщо достатньо людей використовують LLMки для того, щоб ставити запитання та відповідно змінювати свою поведінку, ми вже живемо у світі LLM-доповненого інтелекту (LLM-augmented intelligence, or LAI). Оце вже нагальна проблема, що потребує вивчення, а не неіснуючий штучний інтелект.Потенційні наслідки:Люди несвідомо підлаштовуються під мову, логіку та рамки, які задають LLM. Це може призвести до уніфікації мислення та зменшення когнітивної різноманітності.Модифікація поведінки: Якщо люди постійно звертаються до LLM за порадами щодо прийняття рішень, вони можуть почати внутрішньо приймати рекомендовані системами стратегії та алгоритми.Епістемічний зсув: Колективна база знань, на якій навчаються LLM і яку вони ж самі підсилюють через взаємодії з користувачами, може еволюціонувати несподіваними шляхами, створюючи петлі зворотного зв’язку, які можуть посилювати певні наративи, одночасно приглушуючи інші. Тобто мова йде не про вбудовані помилки мислення (biases), а емергентні непередбачувані властивості такого дуету.🧿 @llms_ua