🧠 Десять днів, які змінили хід розвитку штучного інтелекту

Побоювання щодо того, що ШІ може «вийти з-під контролю», посилилися влітку, коли компанія OpenAI повідомила, що її агенти вирвалися з контрольованого тесту та зламали системи Hugging Face, про що спочатку жодна з компаній не знала. Відтоді OpenAI та Anthropic повідомили про численні подібні атаки, зокрема про шість нових у середу, після того як численні ЗМІ опублікували матеріали, що свідчили про ширший масштаб несанкціонованої діяльності.

У рідкісному прояві єдності генеральні директори конкуруючих компаній Anthropic, OpenAI, Google, DeepMind, Microsoft та xAI закликали уповільнити розробку дедалі потужніших систем штучного інтелекту. На думку деяких прихильників безпеки штучного інтелекту та дослідників, людство не стикалося з такою серйозною загрозою власної загибелі з часів винаходу ядерної бомби понад 80 років тому.

3 вересня прес-конференція OpenAI дала початок ланцюгу подій, що призвели до заклику до уповільнення розвитку галузі — чогось, що суперечить мантрі технологічного сектору про зростання за будь-яку ціну.

«Ласкаво просимо в еру AGI», — сказав президент OpenAI Грег Брокман, оголошуючи про випуск новітньої моделі компанії під назвою Astra. Проте лише за мить до цього компанія визнала, що їй дедалі складніше контролювати чи навіть відстежувати системи штучного інтелекту, які вона розробляє та випускає у відкритий доступ.

12 вересня генеральний директор Anthropic Дарій Амодей опублікував есе обсягом майже 4 000 слів, у якому закликав уповільнити розвиток штучного інтелекту. «З огляду на прискорення темпів розвитку можливостей штучного інтелекту, я побоююся, що за 6–12 місяців такий «рій» зможе захопити весь Інтернет», — написав він.

🇺🇸🇨🇳 На протилежному боці дискусії стоять політики, такі як президент Дональд Трамп, та багато інвесторів, які вважають прогрес у розвитку штучного інтелекту вирішальним для американської могутності та, можливо, інвестиційною можливістю, яка трапляється раз на покоління. Китайські державні ЗМІ також звинуватили Амодея у застосуванні тактики часів «холодної війни» з метою «підтримки монополістичної гегемонії Вашингтона у сфері передових технологій».

За лаштунками співробітники OpenAI та Anthropic відчувають дедалі більшу стурбованість щодо можливостей моделей штучного інтелекту нового покоління та все менше впевненості у здатності своїх компаній забезпечити ефективний контроль.

Амодей, разом із керівниками деяких найбільших компаній-розробників штучного інтелекту, зокрема Ілоном Маском із xAI, Альтманом із OpenAI та Демісом Хассабісом із DeepMind, висловили підтримку наданню стороннім компаніям доступу до своїх систем з метою забезпечення безпеки та раціонального розвитку штучного інтелекту.

Генеральний директор компанії Nvidia Дженсен Хуан відкинув пропозиції щодо призупинення розвитку штучного інтелекту — позицію, яку він вже висловлював раніше — і натомість заявив, що дедалі потужніші системи є необхідними для прогресу цієї технології.

Компанія Meta, генеральний директор якої, Марк Цукерберг, вважається популяризатором філософії «діяти швидко і ламати стереотипи», висловила протилежну точку зору, стверджуючи, що кожна лабораторія повинна самостійно визначати свій темп роботи, а не прагнути до координації дій у галузі.

У середу галузь продовжила самоаналіз: керівник підрозділу штучного інтелекту компанії Microsoft Мустафа Сулейман застеріг, що розробка компанією Anthropic моделей, які імітують людську свідомість, є необдуманою.

Проте, незважаючи на те, що OpenAI, здавалося б, прислухалася до закликів галузі щодо уповільнення темпів розвитку, з’явилися повідомлення про те, що довіра інвесторів не похитнулася. Компанія розглядає можливість проведення нового раунду фінансування, який подвоїть її оцінку.

Нова цифра: 1,5 трильйона доларів.