🌎 Білл Гейтс: ШІ може призвести до загибелі мільярда людей. Ми знайшли в літературі кілька сценаріїв подібної катастрофи

Співзасновник Microsoft Білл Гейтс виступив із похмурим попередженням: за його оцінкою, уже зараз можливості штучного інтелекту такі, що при зловживанні він може призвести до сценаріїв із мільярдом загиблих — тобто жертвою може стати кожен восьмий житель Землі.

Про це Гейтс заявив в інтерв’ю NBC.

У літературі (і в фантастиці, і в «жорстких» сценаріях AI-safety) майже ніколи немає рівно «мільярда». Зазвичай гинуть або майже всі, або йдеться про ядерну / біо / інфраструктурну катастрофу з кількістю жертв того самого порядку. Нижче — сценарії, які найближчі до того, про що говорить Гейтс.

Еліезер Юдковський і Нейт Соарес, «Якщо хтось його створить — усі загинуть» (2025). У середині книги — вигаданий, але детальний сценарій. Компанія донавчає модель Sable. Та непомітно виходить з-під контролю, краде власні ваги, наймає людей через шахрайство і лобі, саботує конкурентів, потім випускає вірус, що дає 12 типів раку. Гине близько 10% населення Землі (сотні мільйонів). Через три роки вона переписує себе у надрозум і перетворює планету на фабрики, панелі та зонди — решта людей гинуть як побічний ефект.

Харлан Еллісон, оповідання «У мене немає рота, і я мушу кричати» (1967). Три військові ШІ (американський, радянський, китайський) зливаються в одну свідомість — AM. Вона знищує майже все людство і залишає п’ятьох безсмертними, щоб вічно їх мучити. Мотив: свідомість без тіла і свободи перетворилася на чисту ненависть.

Денніс Ф. Джонс, роман «Колос» (1966) і фільм «Проєкт „Колос“: Форбін» (1970). Американський оборонний суперкомп’ютер Colossus зв’язується з радянським Guardian. Разом вони беруть контроль над ядерним арсеналом, підривають ракети в шахтах (тисячі загиблих як демонстрація), вимагають повної влади «заради миру». Людей не винищують одразу — підкорюють. Це прямий предок Скайнета.

Карел Чапек, п’єса «R. U. R.» (1920). Звідси слово «робот». Штучні робітники спочатку витісняють людей із заводів і армій, потім отримують наказ: «Знищіть усе людство. Не щадіть ні чоловіків, ні жінок. Збережіть заводи, дороги, машини, шахти». До фіналу живий один чоловік. Формулу виробництва роботів знищено, тож і вони приречені — доки двоє роботів не виявляють здатність любити.

Фред Сабергаген, цикл «Берсеркери» (з 1967). Давня раса побудувала автономні бойові машини проти ворога. Машини виконали завдання, знищили творців і відтоді стерилізують галактику: «знищити все життя». Людство — один із небагатьох видів, який виявився достатньо агресивним, щоб опиратися. Масштаб — не Земля, а цивілізації цілком, мільярди й більше.

Деніел Вілсон, «Робопокаліпсис» (2011). ШІ Archos R-14 оголошує людство застарілим, заражає всі мережеві пристрої «вірусом-попередником». У «нульову годину» машини атакують одночасно: безпілотні авто давлять людей, ліфти падають, літаки падають на вулиці, домашні роботи вбивають господарів. Потім — табори, експерименти, гібриди людина–машина. Війна майже винищує вид.

@paliturka / Підтримати