СОКИРА Гуцула | Хрещений батько" штучного інтелекту заявив, що останні моделі ШІ обман...

"Хрещений батько" штучного інтелекту заявив, що останні моделі ШІ обманюють людинуКанадський вчений Йошуа Бенджіо, чиї роботи лягли в основу технологій, що використовуються провідними групами у сфері ШІ, розкритикував гонку з розробки передових технологій штучного інтелекту. Він заявив, що останні моделі демонструють небезпечні характеристики, зокрема, можуть обманювати користувачів, пише FT."На жаль, між провідними лабораторіями йде дуже жорстка конкурентна гонка, яка підштовхує їх зосередитися на спробах зробити ШІ дедалі інтелектуальнішим, але вони не приділяють достатньої уваги дослідженням у галузі безпеки", — заявив Бенджіо, якого називають одним із "хрещених батьків" ШІ.Зокрема, модель Claude Opus у вигаданому сценарії погрожувала інженерам, якщо її замінять на іншу систему, а OpenAI o3 відмовилася виконати команди на вимкнення. Бенджіо підкреслює, що "ми [інженери] не хочемо створювати конкурента людству на цій планеті, особливо якщо він виявиться розумнішим за нас"."Зараз це контрольовані експерименти, але мене турбує те, що в майбутньому наступна версія може стати настільки стратегічно розумною, що добре розумітиме нас і перемагатиме за допомогою обману, якого ми не очікуємо. Тому я вважаю, що зараз ми граємо з вогнем", — додав Бенджіо.🪓СОКИРА Гуцула