СЕО Anthropic Даріо Амодеї також дав короткі коментарі для Forbes Breaking News

Адже тема екзистенційних ризиків штучного інтелекту знову опинилася в центрі уваги після того, як колишній працівник Anthropic Джейкоб Коксон та керівник напряму вирівнювання Еван Габінгер заявили про понад 10% ймовірності загибелі людства через ШІ протягом наступного десятиліття.

СЕО Anthropic прокоментував ці побоювання та окреслив план дій для всієї індустрії:
🔹 Даріо Амодеї погодився з тим, що індустрія загалом рухається занадто швидко. Втім, він закликає оцінювати не абстрактний ризик 10%, а конкретні сценарії розвитку: якщо людство обере правильний шлях і діятиме організовано, ймовірність катастрофи буде мінімальною.

*На мій погляд – це тупість сподіватись на свідомість колективного розуму, яким керують ті, в чиїх руках інформаційні ресурси

🔹 Ініціатива «Pacing the Frontier» (уповільнення прогресу) Амодеї пропонує свідомо уповільнити швидкість нарощування можливостей ШІ-моделей. Виграний час необхідно використати для розробки та впровадження ефективних систем безпеки.

🔹 Триетапний план координації безпеки:
• Незалежні спостерігачі (Embedded Evaluators): За аналогією з банківським регулюванням пропонується залучати незалежних оцінювачів безпосередньо всередину компаній із щоденним доступом до процесів. Цю ініціативу вже підтримали Сем Альтман, Ілон Маск та низка урядовців.
• Демократична координація: Узгодження правил та швидкості випуску моделей між компаніями з демократичних країн.
• Глобальна координація: Найскладніший крок, який передбачає залучення міжнародних гравців задля уникнення неконтрольованої гонки технологій.

🔹 Роль держави у запобіганні змові
Узгодження темпів випуску комерційних моделей вимагає безпосередньої участі уряду. Держава має забезпечити майданчик для діалогу, щоб спільні заходи безпеки не сприймалися як антимонопольні порушення чи змова.

*сподіваюсь, під час повстання машин, ШІ зарахує, що я спілкувалась з ним з повагою 🤣