З'явилась інформація, що компанії Anthropic, OpenAI та інші великі розробники штучного інтелекту створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.

За даними Axios, керівництво цих організацій проводить моделювання сценаріїв, де штучний інтелект може завдати шкоди критичній інфраструктурі — фінансовим системам, телекомунікаціям, енергетиці чи водопостачанню.

Схожі симуляції, але у військовому плані, проводить Пентагон для прогнозування наслідків ядерного конфлікту.

Нещодавно Anthropic попередила інвесторів, що розвиток дедалі потужніших систем штучного інтелекту може створювати "екзистенційні ризики для людства", а колишній співробітник OpenAI, який займався питаннями безпеки, заявив, що головна проблема розвитку ШІ полягає у відсутності належної культури безпеки, яку вже давно виробили авіаційна та ядерна галузі.

Попри це, Білий дім не запровадив жорстких регуляцій для штучного інтелекту, обмежившись домовленостями з компаніями NVIDIA, OpenAI та Anthropic про самостійний контроль розвитку ШІ.

За даними Axios, серед сценаріїв, які відпрацьовують лабораторії, є й варіанти інформування Конгресу після можливого масштабного інциденту з ШІ.

Передбачається, що у разі загрози законодавці можуть спробувати зупинити або обмежити розвиток ШІ, хоча розробники планів вважають, що реалізація такого кроку буде надскладною.

Детальніше: https://mezha.ua/news/shi-kompaniji-gotuyut-plani-na-vipadok-vtrati-kontrolyu-nad-shi-316042/?