Який ШІ ми виховуємо і як він виховує насОстанній звіт NewsGuard виявив, що російська дезінформаційна мережа «Pravda» ефективно маніпулює результатами відповідей AI-моделей.Статистика некомерційної організації American Sunlight Project показала, що "Правда" заполонила пошукову видачу і веб-сканери проросійською брехнею, опублікувавши 3,6 мільйона оманливих статей тільки в 2024 році.Вона використовує методи SEO для підвищення видимості своїх матеріалів у пошукових системах та web-скрапінгу, що впливає на контент, який обробляють і, відповідно, видають чат-боти.Проблема полягає у взаємодії AI з онлайн-екосистемою, де маніпулятивний контент може підміняти достовірні джерела. За даними NewsGuard, у 33% випадків чат-боти відтворювали фейки, наприклад, про нашумілі «секретні біолабораторії США в Україні». І тут виникає питання, наскільки ШІ-моделі стійкі до інформаційного впливу, особливо, коли вони значною мірою залежать від веб-даних.Проста ситуація, коли західні медіа та видання обмежують доступ ШІ до своїх матеріалів, захищаючи і комерційну основу і авторів, російські (чи інші зацікавлені) видання з радістю таку інформацію нададуть. Звісно, з потрібними наративами. Питання більш жорсткого відбору навчальних даних стоятиме гостро. Без ретельної валідації контенту є ризик перетворення ботів на інформаційну помийку. …І це в час, коли суперечки про те, кому довіряти найбільш гострі.