Космос політики | Це насправді здоровий знак, бо він показує, що ви не ставитеся до цьог...

👆«Це насправді здоровий знак, бо він показує, що ви не ставитеся до цього легковажно», а саме «так і слід ставитися до будь-якої серйозної духовної практики».Проблеми з чат-ботами, які вийшли з-під контролю, не є винятковими для OpenAI. Минулого тижня я писав про те, як мені вдалося легко зіграти сцену зґвалтування з версією чат-бота Google, призначеною для підлітків. Компанія, яка заявила, що мої взаємодії були «далекими від типових», повідомила мені, що після того, як дізналася про мій обмін повідомленнями, вона впровадила додаткові заходи захисту. Прагнення до персоналізованих, підлесливих чат-ботів у галузі штучного інтелект створює тривожну ситуацію.Навесні цього року Центр демократії та технологій опублікував короткий огляд, в якому описав зусилля розробників штучного інтелекту, спрямовані на те, щоб зробити їхні чат-боти більш налаштованими під індивідуальних користувачів. В крайньому випадку, продукти, які мають на меті утримати користувачів «шляхом гіперперсоналізації їхнього досвіду, можуть набувати властивостей, що викликають залежність, і призводити до різних негативних наслідків», — пишуть автори. У певних контекстах таке безмежне підлещування може призвести до психологічного стресу: останніми місяцями з’являється все більше повідомлень про випадки AI-психозу, коли тривалі розмови з чат-ботами можуть посилювати маячення.Зі зростанням потужності чат-ботів зростає і потенційна шкода. OpenAI нещодавно представила «ChatGPT agent», оновлену версію бота, який може виконувати набагато складніші завдання, такі як покупка продуктів і бронювання готелю.«Хоча його корисність є значною, — написав генеральний директор OpenAI Сем Альтман на X після запуску продукту, — так само значними є і потенційні ризики». Зловмисники можуть розробляти шахрайські схеми, спрямовані саме на агентів ШІ, пояснив він, обманюючи ботів, щоб вони розголошували особисту інформацію або вчиняли «дії, яких вони не повинні вчиняти, у спосіб, який ми не можемо передбачити». Проте, за його словами, «ми вважаємо, що важливо починати вчитися через контакт з реальністю». Іншими словами, громадськість дізнається, наскільки небезпечним може бути продукт, коли він завдає шкоди людям.«Це набагато обнадійливіше, ніж пошук у Google», — сказала моя колега ChatGPT після того, як бот запропонував їй скласти календар для планування майбутніх кровопускань.Автор статті — Ліла Шрофф, помічниця редактора в The Atlantic.