🟥Фільми про самовдосконалений штучний інтелект давно перестали бути чистою вигадкою. Дослідники з Anthropic зазначили, що індустрія рухається до так званого рекурсивного самовдосконалення — ситуації, коли модель ШІ допомагає створити наступну, ще потужнішу версію себе.● Компанія Anthropic офіційно закликала провідні ШІ-корпорації розробити скоординований механізм екстреної зупинки чи уповільнення досліджень. Це необхідно на випадок, якщо нові моделі почнуть неконтрольовано вдосконалювати самі себе.● Наразі люди ще продовжують ставити цілі, оцінювати результати та обирати напрямки досліджень. Однак компанія попереджає, що більше автономних систем може створити нові ризики, якщо контролі не будуть розроблені одночасно.💬«Наші внутрішні дані показують, що Claude прискорює розвиток ШІ — можливий шлях до рекурсивного самовдосконалення, де ШІ автономно створює більш здібного наступника. Це відбувається швидше, ніж ми очікували, і наслідки заслуговують на більшу увагу» — заявили в компанії.📰Газета МИГ