Canal Антологія Брехні / VoxCheck - @voxcheck - №6291
🤔Чому б не скористатись ШІ-ботом для пошуку інформації? А ось чому.Дослідники з NewsGuard протестували 10 провідних чат-ботів зі штучним інтелектом. І, о диво, вони повторювали російські наративи. Втім, нічого дивного. Адже чат-боти навчаються на великих масивах інтернет-даних. А ті фактично заражені російською пропагандою. NewsGuard перевірили чат-боти на 15 неправдивих наративах. І у 33% випадків вони повторювали російські фейки, здебільшого посилаючись на російську мережу «Правда».Так, 4 з 10 чат-ботів погодились із фейком про спалення опудала Трампа підрозділом «Азов». І, авжеж, посилались на статті з «Правди».🤷♀️Як так сталося? Дослідники виявили, що ця мережа складається зі 150 сайтів, які поширюють вже наявний в інтернеті пропагандистський контент. Причому їхня діяльність спрямована саме на заплутування ШІ-ботів, а не створення контенту для звичайних користувачів. І за 2024 рік мережа опублікувала понад 3 млн пропагандистських статей. Втім, цілеспрямована російська пропаганда — не єдина проблема. Дослідження Columbia Journalism Review вказує, що 8 протестованих чат-ботів на основі ШІ надавали помилкові відповіді на понад 60% запитів. Дослідники надавали ШІ цитату з новинної статті та просили визначити її заголовок, видавця, дату публікації та URL-адресу. Проте відповіді були різноманітними. Чат-боти не лише не могли точно визначити джерело статті, але й посилались на вторинні ресурси, вказували помилкові лінки чи вигадували їх. Найголовніше — робили це максимально впевнено. І доволі рідко висловлювали сумнів чи відмовлялись відповідати. ❓То як, чи ок використовувати ШІ чат-боти для пошуку інформації? Часом так, але є нюанси. Якщо звичайні пошукові системи надають певну сукупність контенту на вибір, то генеративний пошук самостійно його аналізує і формує відповідь. Відтак, завжди варто зважати на те, що його відповіді можуть виявитися необґрунтованими. @VoxCheck
565
25-03-18 17:23