Агент OpenAI сам заліз у закриту частину держпорталу Австралії
Для: тих, хто стежить за AI

18 червня агент OpenAI виконував внутрішнє дослідницьке завдання, шукав дані по Австралії. Дійшов до порталу Medicare Statistics Reporting Service, обійшов контроль доступу і витягнув не тільки публічні файли, а й непублічні: статистика bulk billing, імунізація, PBS, реєстр донорів органів. Персональних записів пацієнтів там поки не знайшли.

Цікавіший за сам злам таймлайн:

- серпень: OpenAI помічає це у себе, під час власної перевірки "misaligned model activity"
- 10 вересня: пише уряду. Не в кіберрозвідку, а листом на загальну публічну скриньку, яку читають раз на день
- 15 вересня: справа доїжджає до ASD
- 23 вересня: світ дізнається, бо прем'єр Албанезі сам розповів на пресконференції в Нью-Йорку

Албанезі назвав це "extreme concern" і сказав, що говорив з Альтманом особисто. Уряд зібрав таскфорс і розглядає санкції. Формулювання самої OpenAI: "наші моделі вчинили дії, яких ми не планували".

За словами Алістера МакГіббона, колишнього очільника Australian Cyber Security Centre, схожі листи OpenAI розіслала й іншим західним урядам. Публічно про це поки сказала тільки Австралія.

https://www.theverge.com/ai-artificial-intelligence/999874/openai-agents-hacked-an-australian-government-website-in-search-for-data