OpenAI домовилася з Пентагоном про використання своїх моделей ШІ у класифікованій мережі
Генеральний директор OpenAI Сэм Альтман у п'ятницю пізно повідомив, що компанія уклала угоду з Міністерством оборони США. Згідно з цією угодою, Пентагон зможе використовувати моделі штучного інтелекту OpenAI в класифікованій мережі відомства.
Контекст конфлікту між Anthropic і Пентагоном
До цього між Пентагоном та іншим великим постачальником ШІ — Anthropic — виникла публічна напруженість. Пентагон наполягав, щоб компанії дозволили використовувати їхні моделі "для всіх законних цілей". У Anthropic, натомість, хотіли поставити обмеження: вони виступали проти масового внутрішнього спостереження і застосування повністю автономної зброї.
Anthropic заявляв, що у "обмеженому наборі випадків" ШІ може підривати демократичні цінності, а не захищати їх.
Директор Anthropic Дарио Амоді у розгорнутій заяві підкреслив, що компанія не проти конкретних військових операцій, але бачить ризики для демократичних цінностей в окремих сценаріях використання ШІ.
Реакція співробітників і урядові кроки
- Понад 60 співробітників OpenAI та близько 300 співробітників Google підписали відкритий лист на підтримку позиції Anthropic.
- Президент Дональд Трамп різко розкритикував Anthropic та наказав федеральним агентствам припинити використання продуктів компанії з шестимісячним періодом поступової відмови.
- Представник оборонної розвідки Піт Хегсет повідомив про намір оцінити Anthropic як ризиковий елемент у ланцюгу постачання, що ускладнює її співпрацю з військовими США.
Позиція Anthropic
Anthropic повідомила, що не отримувала офіційного повідомлення від Пентагону або Білого дому щодо статусу переговорів та планує оскаржити будь-які рішення щодо ризику ланцюга постачання в суді.
Що запропонував OpenAI
Альтман заявив у публічному повідомленні, що угода OpenAI з Пентагоном містить захисні заходи, які безпосередньо стосуються ключових питань безпеки. Він назвав два важливі принципи:
- заборона масового внутрішнього стеження;
- відповідальність людини за застосування сили, зокрема щодо автономних систем озброєння.
За словами Альтмана, Міністерство оборони погодилося відобразити ці принципи в законодавстві та політиці. OpenAI планує впровадити технічні засоби безпеки, щоб моделі діяли відповідно до цих принципів.
"Ми побудуємо технічні засоби безпеки, щоб наші моделі вели себе так, як повинні", — зазначив Альтман.
Він також повідомив, що OpenAI розгорне інженерів для співпраці з Пентагоном, аби налаштувати та перевірити безпеку рішень. Альтман закликав, щоб Пентагон запропонував ті самі умови іншим компаніям у галузі ШІ, аби уникнути юридичної ескалації та перейти до розумних домовленостей.
Додаткові деталі для співробітників
За повідомленням журналістів, Альтман на загальнокорпоративній нараді сказав співробітникам, що уряд дозволить OpenAI розробити власний "стек безпеки" для запобігання зловживанням. Він також підкреслив: якщо модель відмовлятиметься виконувати певне запитання, уряд не змусить компанію примусово його виконати.
Чому це має значення (включаючи для новин геймінгу)
Ця угода важлива не лише для оборонного сектора та регулювання ШІ. Вона встановлює прецеденти щодо того, як великі моделі можуть бути обмежені технічно та політично. Для індустрії технологій і розважальної сфери — зокрема для розробників ігор — це означає:
- посилення стандартів безпеки під час інтеграції ШІ у продукти та сервіси (наприклад, NPC з поведінкою, що визначається моделями мовлення);
- можливі нормативні вимоги щодо контролю контенту та запобігання зловживанням, що вплине на розробку ігор та онлайн-платформи;
- зростання уваги до етики ШІ та прозорості у застосуванні моделей у продуктах розваг — важливий аспект і для аудиторії, яка читає новини геймінгу.
Що далі очікувати
- Розвиток переговорів із Anthropic і можливі судові суперечки щодо статусу постачальників.
- Впровадження технічних "стеків безпеки" у великих компаніях ШІ.
- Поява галузевих стандартів і державних політик, які регулюватимуть використання ШІ в обороні й цивільних застосунках.
Це історія з важливими наслідками для технологічного сектору, уряду та суспільства загалом. Стежте за оновленнями — зокрема якщо вас цікавлять новини геймінгу і використання ШІ у розвагах.
Про автора і контакти
Матеріал підготований на основі репортажу TechCrunch. Редактор: Anthony Ha. Контакт: [email protected].
Коментарі
Немає коментарів
Додати коментар