Axios: Іноземна дезінформація вступає в еру штучного інтелекту. Світ ворожої дезінформації, що генерується штучним інтелектом, стрімко зростає і вже не відрізняється від звичайних соціальних постів.▪️

Іноземна дезінформація стала вкрай руйнівною силою в США, де Росія та інші іноземні держави прагнуть вплинути на вибори та розпалити ворожнечу. Генеративний ШІ тепер робить її набагато більш ефективною та складною для виявлення звичайними користувачами.▪️

«Зараз ми бачимо здатність розробляти та впроваджувати такі технології з такою ефективністю, швидкістю та масштабом, яких ми ніколи не бачили раніше», — заявив журналістам генерал Пол Накасоне, колишній голова АНБ.▪️ Принаймні одна китайська технологічна компанія GoLaxy, схоже, використовує генеративний штучний інтелект для створення операцій впливу на Тайвані та Гонконгу згідно з внутрішніми документами, що просочилися до дослідників з Інституту національної безпеки Університету Вандербільта.▪️

GoLaxy використовує ІІ для збору інформації з профілів соцмереж та створення контенту, який «здається справжнім, адаптується в режимі реального часу та уникає виявлення».▪️

Використовуючи інструменти, включаючи модель міркування DeepSeek з відкритим вихідним кодом, GoLaxy створила синтетичні особи, які можуть адаптувати свої повідомлення для певної аудиторії, а також наслідувати реальних людей.▪️

GoLaxy, яка працює в тісному контакті з інтересами китайського уряду, імовірно використовувала ці персони напередодні виборів у Тайвані в 2024 році та для спростування опозиції закону про національну безпеку 2020 року, який поклав край автономії Гонконгу.▪️

Документи також показують, що GoLaxy створила профілі як мінімум для 117 членів Конгресу та понад 2000 американських політичних діячів та ідейних лідерів.▪️

Експерти давно попереджали про те, що такі великі мовні моделі, як ChatGPT, можуть посилювати та розширювати зловмисні операції іноземного впливу. Генеративний ШІ також допомагає іноземним супротивникам долати мовні бар'єри.▪️ «Це абсолютно новий рівень конфліктів у «сірій зоні», – сказав колишній директор Цифрової служби оборони США Бретт Ґолдштейн. "Нам потрібно зрозуміти, як випередити його".▪️

Росія досягла великого успіху в операціях впливу за межами своїх кордонів. Тактика включає наймання компаній для запуску бот-ферм та проникнення в легальні медіа-компанії для створення фальшивих історій.▪️

Проросійська пропагандистська група експериментує з ШІ, імітуючи легальні західні новинні організації, включаючи ABC та Politico. А Китай, зокрема, працює з розгалуженою мережею сторонніх підрядників для кібератак на США.▪️

Ці досягнення відбуваються на тлі того, що адміністрація Трампа розформовує кілька ключових відомств, покликаних протидіяти іноземній дезінформації. Агентство з розвідки та безпеки США, ФБР і Держдепартамент скоротили підрозділи, які працювали з приватним сектором, обмінюючись інформацією про операції з впливу, що спонсоруються з-за кордону.