​​Як працює удосконалений «Заклинач зображень» для аналізу ШІ-контентуПеревіряти ШІ-зображення найефективніше за допомогою інструментів на основі самого ШІ — переконаний інтернет-дослідник Хенк ван Есс. Саме за цією логікою він створив власний інструмент «Заклинач зображень» (Image Whisperer).В основі його роботи — поєднання двох підходів:◾ Технологія комп’ютерного зору — вивчає зображення на технічному рівні: як розташовані пікселі, як падає світло, де проходять межі об’єктів, чи є сліди штучної обробки.◾ Велика мовна модель (LLM) — аналізує контент на значеннєвому рівні: що саме на картинці зображено, чи виглядає сцена правдоподібно, чи узгоджуються між собою об’єкти, рухи й контекст.За словами ван Есса, цей інструмент поєднує методи «калькулятора» і «детектива»: один рахує статистичні ознаки та оцінює ймовірність штучного походження зображення, інший аналізує, чи загалом правдоподібне саме зображення.🗨️ «Він не прагне бути найідеальнішим інструментом — він прагне бути найчеснішим», — так формулює принцип роботи інструменту ван Есс.Нещодавно масове тестування «Заклинача зображень» виявило його слабкі сторони, а саме:❗ проблеми з розпізнанням гібридних фейків — реальних людей на згенерованому фоні або зі зміненими деталями інструмент ідентифікував як «справжнє зображення»;❗ іноді інструмент помилявся, бо спирався на відсоткову оцінку ймовірності ШІ-генерації, навіть коли візуально ознаки підробки були очевидні.Врахувавши ці недоліки, Хенк ван Есс оновив «Заклинач зображень». Тепер інструмент працює інакше:🔸 перевіряє, чи «зроблені» людина і фон однією й тією ж камерою: якщо їхні цифрові «відбитки» не збігаються, це сигнал можливого монтажу чи підміни;🔸 аналізує, чи виглядають світло, тіні й об’єкти на зображенні фізично правдоподібними та логічно узгодженими між собою;🔸 робить висновок про штучне походження зображення на основі оцінок кількох моделей, а не одного узагальненого відсотка ймовірності;🔸 залучає LLM як візуального експерта: вона не просто описує сцену, а вказує на конкретні місця, у яких щось «не сходиться», і пояснює, чому це суперечить законам фізики або здоровому глузду;🔸 формулює висновок словами, а не лише відсотком ймовірності, та відкрито показує рівень упевненості та сумнівів у штучності контенту.Але для остаточної верифікації ван Есс радить прочитати його посібник з виявлення ШІ-контенту на сайті GIJN (українською). Там же ви знайдете й посилання на оновлений «Заклинач зображень».📷 На колажі одна зі світлин згенерована ШІ. Як думаєте, яка саме?Та, що праворуч — ставте 👍Та, що ліворуч — ставте 🔥