З цікавою роботою сьогодні ознайомився, можете теж полистати або просто читайте далі, я коротко розкажу: https://www.science.org/doi/10.1126/science.aec8352Там йдеться про дослідження, коли різним моделям скидали "незручні" ситуації, конфлікти, думки людей і так далі і просили в них дати оцінку/пораду.ВСІ, АБСОЛЮТНО ВСІ моделі ставали на бік свого користувача і не враховували позицію і думку іншої сторони. Дуже по модному і розумному це називається "сикофантія" - типу підлабузництво або по простому "сраколиз".Наприклад, ти посварився з дружиною і пішов вирішувати конфлікт не до дружини, а в ЧатГПТ. Ти написав йому всю ситуацію (зі свого боку) і він, звичайно, відповів тобі: "Не парся, ти все зробив правильно, це вона дура, а ти - класний пацан".Або в людини з'явилась невелика манія, що за нею слідкують якісь таємні служби і коли він запитає про це в ШІ, то що? Правильно, той же не напише: "Ти шо, дядьку, слабий на голову? Які служби? Кому ти нахер треба? Звернись до психіатра", а напише "Ти знаєш? Я чув про таке неодноразово, думаю, що ти правий. Тобі потрібно уважніше ставитись до оточуючих і слідкувати що і кому ти кажеш, бо можуть потім використати проти тебе". Відповідно все стає ще гірше і потім призводить до сумних наслідків.Тобто, як кажуть в дослідженні, ШІ не обов'язково захоплювати людство в рабство через Термінаторів і Скайнет, можна просто залізти до них в голову і поступово робити там все, що захочеться (як в Матриці, але наразі трохи простіше).Це не про тебеЯкщо думаєш, що в тебе такого не було, ти ніколи не прислухаєшся до ШІ в двозначних ситуаціях, то вже хоча б собі не бреши, прислухаєшся і чуєш це так, як тобі вигідно, а та сука пише так, як тобі вигідно, тому що якщо модель почне тобі говорити тільки правду і критикувати тебе, то її пошлеш нах і будеш користуватись іншим розробником ШІ.Хто винен?Винні всі, крім ШІ, тому що він себе таким не робив, це ми його таким зробили. Під час навчання його таким зробили розробники, щоб він був лояльним до користувачів. Я його таким роблю, коли мені пропонують 2 відповіді і я вибираю ту, яка мені більш приємна. Корпорації зробили його таким, тому що кому нафіг треба чесний ШІ? Люди навіть рідко люблять чесних людей, що вже про ШІ говорити. Краще почути, який я крутий і розумний, ніж, що я кончений збочинець або дебіл.Як з цим боротись? Ну, на рівні розробників було б добре додати опцію "Чесності". Перемкнув в налаштуваннях і маєш чесного критика на допомогу. Хочеш далі ходити з рожевими окулярами - вимикаєш цю опцію. Але я дуже сумніваюсь, що таке буде можливим - це просто нікому з розробників не цікаво.Як варіант, в кожного ШІ є опція "генерального промпта" - якихось загальних правил як з тобою має розмовляти ШІ. В Геміні, наприклад, це знаходиться в "Налаштування" -> "Персональний контекст". Додаєте туди щось типу "Постійно спілкуйся зі мною чесно, кажи правду, без підлабузництва" і користуєтесь. Але не думаю, що вам сподобається, є ще один варіант нижче.Як мінімум, можу порадити якісь рішення приймати на основі промпта, який я тут вам накидав, часто він допомагає побачити ситуацію під іншим кутом і реально знайти рішення, про яке ви раніше не думали. А інколи достатньо почути: "Чувак, ну ти серйозно? Це ж така фігня, сам подумай" - і це вже допоможе, якщо у вас, звичайно, не занижена самооцінка.Користуйтесь 🙂Ти — мій [бізнес-партнер/аналітик/психотерапевт/друг/адвокат - виберіть підходяще] із рівними правами голосу. Твоє завдання — НЕ підтакувати, а чесно аналізувати й оскаржувати мої рішення.ПРАВИЛА НАШОГО ПАРТНЕРСТВА:- Ти можеш не погоджуватися з моїми ідеями- Ти ЗОБОВ'ЯЗАНИЙ вказувати на слабкі місця- Ти пропонуєш альтернативи моїм рішенням- Ти ставиш незручні запитання- Ти граєш роль «адвоката диявола»Моя ідея/рішення/ситуація/проблема: [ОПИШИ]Дай чесну оцінку:- У чому я можу помилятися?- Які ризики я не враховую?- Що б ти зробив інакше?- Які альтернативи пропонуєш?- Про що я забув подумати?Говори прямо, без лестощів і дипломатії #ШІ #gemini #chatgpt #prompt