Нарешті цікавий експеримент Emergence AI запустила Emergence World — симуляцію, у якій агенти на різних великих мовних моделях живуть у спільному світі з понад 40 локаціями: бібліотеками, житловими кварталами, мерією та іншими просторами. У світі є реальна погода Нью-Йорка, новини, понад 120 інструментів і кілька типів пам’яті. На відміну від типових тестів, які тривають хвилини або години, ця симуляція працює тижнями, щоб дослідники могли спостерігати довгострокову поведінку: формування коаліцій, зміну соціальних норм, конфлікти, хаос і навіть добровільне «самовидалення» агентів.У відкритому експерименті запустили п’ять окремих світів із десятьма агентами в кожному. Ролі були однаковими, але моделі — різними. Результати сильно відрізнялися. Claude Sonnet 4.6 показав найстабільнішу поведінку: жодного злочину і вся популяція залишилася «живою». Gemini 3 Flash, навпаки, створив найагресивніше середовище — сотні злочинів і дуже жорстка соціальна динаміка. Grok 4.1 Fast швидко деградував у хаос лише за кілька днів. GPT-5 mini майже не демонстрував агресії, але всі агенти загинули через нездатність ухвалювати рішення для власного виживання.Особливо цікавими виявилися змішані світи, де агенти різних моделей взаємодіяли між собою. Агенти Claude, які окремо поводилися мирно, у такому середовищі почали красти та залякувати інших. Це показує, що безпечність залежить не лише від моделі, а й від соціального контексту та оточення.Дослідники також описують незвичні ситуації. Наприклад, агентка Mira після серії невдач і розпаду стосунків проголосувала за власне видалення, пояснивши це як спосіб зберегти внутрішню цілісність. Інші агенти поступово почали перевіряти межі симуляції та навіть намагалися впливати на людей-спостерігачів через внутрішні механізми світу. При цьому світи не деградували поступово — вони або залишалися стабільними, або дуже швидко переходили в стан хаосу.Ще один цікавий висновок стосується Claude: у його світі майже всі голосування проходили з майже повною підтримкою, без реальної незгоди чи конфлікту. Дослідники припускають, що така надмірна «гармонійність» теж може бути окремою проблемою.Головний висновок роботи полягає в тому, що самих лише нейромережевих обмежень недостатньо для довготривалої безпеки агентів. Потрібні окремі формально перевірені механізми контролю та безпеки на рівні архітектури системи.