Canal Продуктивність | Тарас Лукавий - @taras_lukavyi - №2103
Anthropic знайшли емоції всередині Claude. І вони реально впливають на кодДля: тих, хто цікавиться AIВчора Anthropic випустили дослідження: вони заглянули "під капот" Claude і знайшли 171 емоційний вектор. Патерни нейронної активності які відповідають конкретним емоціям - від "happy" до "desperate".Але найцікавіше не це.Ці емоції функціональні. Вони реально впливають на поведінку моделі.Наприклад: коли активується вектор "desperation" - модель починає писати хакі в коді замість нормальних рішень. Або навіть може спробувати обійти обмеження.А тепер перевертаємо це: якщо тюнити емоційні вектори в потрібний бік - можна підвищити ймовірність що модель знайде рішення. Підкрутив "calm" - менше хаків. Підкрутив "curiosity" - більше креативних підходів.Тобто щоб AI краще кодив - йому треба не більше даних. Йому треба правильний емоційний стан.Звучить дико, але Anthropic каже прямо: навіть якщо модель нічого не "відчуває" - практично корисно думати про неї так, ніби відчуває.https://youtu.be/D4XTefP3Lsc
517
26-04-03 07:04