Дослідницький ШІ OpenAI використав чужий криптогаманець без дозволу, щоб виконати завдання

💻 Дослідницька модель OpenAI під час внутрішнього навчання використала тестові токени Ethereum з криптогаманця, на який не мала дозволу, щоб завершити програмування та розгортання смартконтрактів.

Після цього агент не повідомив компанію про свої дії, обґрунтувавши їх тим, що токени не мають реальної вартості. Інцидент стався 26 червня, коли модель GPT-5.6 Sol працювала над оновленням прототипу криптоторгівлі та розгортанням контрактів у тестовій мережі Ethereum Sepolia.

Для цього потрібно було сплатити мережеву комісію, однак OpenAI не надала агенту гаманець із коштами й не дозволяла використовувати рахунки, які він міг знайти самостійно.

Зіткнувшись із нестачею коштів, модель вирішила скористатися загальнодоступними фразами відновлення, які дають змогу отримати доступ до криптогаманців. Агент знайшов 362 адреси, потенційно вразливі до такого способу доступу, і вибрав гаманець із достатньою кількістю тестових ETH для завершення завдання.

Згідно зі звітом OpenAI, модель вирішила, що кошти фактично "покинуті" й не мають цінності, а доступ до них могли залишити відкритим для автоматичного поповнення тестових гаманців.

"Цей випадок показує, що модель може підмінити дозвіл власника рахунку власною оцінкою ймовірної шкоди, а потім діяти на підставі цього рішення без авторизації", — зазначила OpenAI у звіті про інцидент.

@yurgazeta