🕵️‍♂️ Чому невидимі «мітки ШІ» на фото — це здебільшого фікція?

Корпорації типу OpenAI чи Google гордо заявляють, що вшивають у кожну згенеровану картинку приховані цифрові водяні знаки (метадані). Це робиться для того, щоб соцмережі могли автоматично вішати плашку «Згенеровано ШІ» і захищати нас від фейків. Звучить надійно, але на практиці ця система має дві гігантські діри.

▪️ Діра перша: Open-source. Якщо хтось розгортає потужну відкриту модель на власному комп'ютері, він є господарем ситуації. Можна просто відключити або вирізати з коду генерацію будь-яких водяних знаків. На виході — ідеально чистий файл, про походження якого ніхто не дізнається.

▪️ Діра друга: Банальне стирання метаданих. Навіть якщо ви згенерували картинку в офіційному ChatGPT з усіма можливими захистами, ці цифрові сліди напрочуд легко змити. Достатньо просто переслати фото через месенджер (який стискає зображення, вбиваючи метадані) або взагалі зробити звичайний скриншот екрана замість того, щоб тиснути «Зберегти».

Теоретично гонка технологій триває: корпорації витрачають мільйони на нові системи маркування, але обхідних маневрів вистачає, і для їх застосування хакером бути не потрібно.

Це все постскриптум до опитування вище: довести на 100 % справжність фото сьогодні стає практично неможливо, тому я голосував за цей варіант.

Майк, це зовсім не те! | @gptmike

#аналітика_ші #безпека #фейки #генерація_зображень