У OPENAI ДУЖЕ ВДАЛИЙ ТИЖДЕНЬ ДЛЯ ДИСКУСІЇ ПРО КУЛЬТУРУ БЕЗПЕКИ

Спочатку з OpenAI пішов Девід Робінсон - людина, яка 3.5 роки працювала в компанії й керувала підготовкою safety-звітів для великих релізів.

Своє прощальне есе він назвав максимально дипломатично:
«Я звільнився з OpenAI, тому що її корпоративна культура зламана».

Робінсон пише, що ШІ-компанії досі живуть у культурі «швидко зробили - подивилися, що сталося - виправили», але для систем, які потенційно можуть стати розумнішими за людей, цей підхід уже занадто небезпечний.

На його думку, frontier-лабораторії повинні працювати більше як атомні електростанції або великі аеропорти: кілька рівнів захисту, дублювання, повільне планування і припущення, що люди все одно колись помиляться.

А майже одночасно OpenAI звільнила трьох своїх safety-дослідників - Жасмін Ван, Томека Корбака і Мікіту Балесні. Компанія каже, що внутрішнє розслідування знайшло серйозні порушення правил роботи з конфіденційною інформацією.

Колишні співробітники відповідають зовсім інакше: вони стверджують, що не передавали IP, працювали із зовнішніми організаціями з безпеки в межах своїх обов'язків і фактично були покарані за те, що занадто активно ставили безпеку вище короткострокових інтересів OpenAI.

@Zatishna_Galera