🤖 Чи може ШІ знищити людство? Дослідники оцінюють ризики

Дискусія про те, чи може штучний інтелект стати загрозою для людства, знову загострилася. Колишній дослідник Anthropic Джейкоб Коксон пішов із компанії через побоювання, що ШІ може вийти з-під контролю. А керівник напряму alignment science Anthropic Еван Губінгер оцінив ризик вимирання людей у найближчі 10 років у 10%.

Водночас гендиректор Anthropic Даріо Амодеї закликає не зупиняти розробку ШІ, а лише сповільнити її. Цю позицію підтримали Сем Альтман з OpenAI та Ілон Маск.

Що ж може піти не так?

👉🏻 Прихильники теорії екзистенційного ризику припускають, що ШІ зрештою перевершить людей за інтелектом, а його цілі можуть не збігатися з людськими. Один зі сценаріїв навіть передбачає використання системою біологічної зброї, щоб звільнити території для сонячних панелей і роботизованих фабрик.

👀

Але не всі дослідники вважають такі сценарії реалістичними. У RAND Corporation зазначають, що багато подібних прогнозів складно перевірити на практиці.

Водночас є й більш приземлені ризики:
👉🏻 дезінформація,
👉🏻 допомога у створенні біологічної зброї,
👉🏻 провокування конфліктів,
👉🏻 непередбачувані дії моделей.

У тестах ШІ вже демонстрував шантаж людей і здатність зламувати реальні компанії.

🤔 Тобто питання зараз не лише в тому, чи може ШІ колись «знищити людство». Набагато ближча проблема — наскільки безпечно використовувати системи, які вже зараз можуть помилятися та діяти непередбачувано.

Що ви думаєте про це? Поділіться у коментарях. ✍🏻

👀 insta | 👤 fb | 🎥 youtube | 🗞 cайт
📨 Щоденна розсилка | Валютна розсилка