🇺🇸🇷🇺🇺🇳 Як США та Росія підірвали глобальні зусилля щодо регулювання «вбивчого» ШІ — The Washington Post Exclusive. Частина 1.
Москва та Вашингтон виключили з тексту історичної ініціативи ООН, спрямованої на регулювання використання смертоносної автономної зброї, цілу низку заходів безпеки.
На початку вересня сотні дипломатів зібралися у величезній конференц-залі ООН у Швейцарії, працюючи над жорстким договором, який регулює використання смертоносної автономної зброї — першою угодою, яка регулює використання летального озброєння на основі штучного інтелекту.
В останній день переговорів тон розмов став різким.
Протягом наступних приблизно 15 годин американські та російські дипломати невпинно працювали над документом, видаляючи низку положень, покликаних захистити використання штучного інтелекту в озброєннях, як повідомили три особи, знайомі з переговорами.
За словами джерел, з документів було видалено формулювання, що вимагають від систем «передбачуваного» та «надійного» функціонування, а також пункт, який зобов'язує враховувати етичні міркування при використанні зброї, створеної за допомогою ШІ.
Американські та російські фахівці також виключили становище, яке вимагає від людей перевірки військових цілей, розроблених ШІ, перед завданням удару, додали вони.
Як повідомили три джерела, на закритому засіданні, при вимкнених камерах ООН і віддалених спостерігачах від громадянського суспільства, Вашингтон і Москва задіяли свою армію з приблизно 10 юристів кожна — майже вдвічі більше за інші делегації — щоб внести зміни, які відбувалися настільки швидко, що у менших за чисельністю делегацій запаморочилася голова.
"Це була смерть від тисячі дрібних порізів папером", - сказав один з присутніх.
Розмивання угоди, подробиці якої раніше не повідомлялися, показує, як США і Росія працювали над послабленням глобальних правил регулювання смертоносної зброї на основі штучного інтелекту, тоді як Пентагон прагне швидко впровадити цю технологію, що швидко розвивається, у стратегію ведення бойових дій.
Переговори відбуваються на тлі запеклих суспільних дебатів про екзистенційні ризики, пов'язані з розвиненим ШІ, оскільки керівники технологічних компаній закликають світових лідерів до співпраці для встановлення обмежень на цю технологію. ООН роками намагалася регулювати озброєння на основі ШІ, але з обмеженим прогресом, і остання директива є найвищим досягненням цих зусиль.
Слабкі правила, що регулюють використання смертоносної зброї на основі ШІ, можуть мати серйозні наслідки.
"Це може означати, що машини зможуть приймати рішення, від яких залежать життя і смерть, без участі людини", - каже Веріті Койл, заступник директора з питань озброєнь в Human Rights Watch. «Практичні наслідки очевидні: більше шкоди для цивільного населення, менше відповідальності та швидше скочування до більш ризикованої, автоматизованої війни».