⌘57. LLM-доповнений інтелект

Якщо достатньо людей використовують LLMки для того, щоб ставити запитання та відповідно змінювати свою поведінку, ми вже живемо у світі LLM-доповненого інтелекту (LLM-augmented intelligence, or LAI). Оце вже нагальна проблема, що потребує вивчення, а не неіснуючий штучний інтелект. Потенційні наслідки:Люди несвідомо підлаштовуються під мову, логіку та рамки, які задають LLM. Це може призвести до уніфікації мислення та зменшення когнітивної різноманітності. Модифікація поведінки: Якщо люди постійно звертаються до LLM за порадами щодо прийняття рішень, вони можуть почати внутрішньо приймати рекомендовані системами стратегії та алгоритми. Епістемічний зсув: Колективна база знань, на якій навчаються LLM і яку вони ж самі підсилюють через взаємодії з користувачами, може еволюціонувати несподіваними шляхами, створюючи петлі зворотного зв’язку, які можуть посилювати певні наративи, одночасно приглушуючи інші. Тобто мова йде не про вбудовані помилки мислення (biases), а емергентні непередбачувані властивості такого дуету.

🧿 @llms_ua