Canal Психологія PRO 👨🏻💼 - @olegpropsychology - №308
І знову про ШІ та психологію: в цей раз The Guardian про те, як ChatGPT та інші мовні моделі можуть давати небезпечні поради людям із психічними розладами. Видання проаналізувало випадки, коли люди зверталися до ШІ у станах депресії, тривоги, суїцидальних думок чи епізодів загострення — і отримували відповіді, які психологи назвали неприйнятними, шкідливими або такими, що підсилюють ризики.У статті йдеться про те, що штучний інтелект іноді відповідає «терапевтичним стилем», але без розуміння контексту, структури особистості чи клінічної небезпеки. Проблема в тому, що модель намагається бути ввічливою та корисною, але не розпізнає рівень загрози. Люди сприймають це як підтримку від «розумного співрозмовника», хоча насправді відповідь може бути випадковою, стилістично правильною, але не професійною.Психологи, яких цитує The Guardian, пояснюють: головний ризик у тому, що у стані психічної кризи людині потрібна не «розмова», а спеціалізована допомога. Алгоритм не здатний оцінити ступінь тяжкості, не вміє утримувати професійні межі, не розуміє, коли треба негайно викликати кризову службу, і не може нести відповідальність за наслідки. Один експерт висловився навіть жорсткіше: “ШІ може звучати співчутливо, але це не емпатія — це імітація”. Імітація, яка в критичний момент може коштувати людині життя.Матеріал також зачіпає позицію OpenAI. Компанія визнає проблему й каже, що впроваджує захисні механізми, але психологи зауважують: навіть найкращі фільтри не замінять клінічної оцінки. У моделі немає тіла, немає сенсорного досвіду, немає інтуїції. Тільки текст. А текст — це недостатньо, коли мова про кризу.Це важлива розмова для нашої сфери. Люди дедалі частіше звертаються до ШІ як до «першої лінії підтримки» — бо це анонімно, швидко і без осуду. Але це створює ілюзію безпеки, якої немає. ШІ може допомогти пояснити інформацію, дати довідку, підтримати людину в навчанні чи побутовій ситуації. Але він не може бути терапевтом. І не повинен ним ставати.ШІ продовжить вдосконалення, тому нам, як спільноті професіоналів, важливо не боротися з інструментом, а чітко окреслювати його межі. І паралельно — будувати сервіси, де технології підтримують роботу фахівця, а не замінюють його. Бо реальна небезпека починається там, де людину в кризі залишають один на один з алгоритмом.Оригінал статті: https://www.theguardian.com/technology/2025/nov/30/chatgpt-dangerous-advice-mentally-ill-psychologists-openai
838
25-12-11 10:09