СyberNews | Microsoft створила інструмент для виявлення прихованих бекдорів у відк...

Microsoft створила інструмент для виявлення прихованих бекдорів у відкритих AI-моделях Microsoft повідомила про створення спеціального сканера для виявлення прихованих бекдорів у відкритих великих мовних моделях штучного інтелекту.  Йдеться про випадки, коли під час навчання або модифікації моделі в неї навмисно вбудовують приховану логіку. Вона не проявляється за звичайного використання, але активується певними словами чи запитами.  Така поведінка може призводити до непередбачуваних або небажаних результатів. Новий інструмент аналізує реакції моделі на спеціальні стимули та виявляє нетипові патерни поведінки, що свідчать про можливу компрометацію. Ці зміни складно виявити під час стандартного тестування. Водночас вони можуть становити серйозні ризики для безпеки, надійності AI-систем і коректності рішень, що ухвалюються з їх використанням. Рекомендації для користувачів: • користуйтеся AI-сервісами від відомих і перевірених розробників; • обережно ставтеся до моделей з відкритих джерел, якщо їхня безпека не підтверджена; • не використовуйте результати роботи AI у критично важливих завданнях без додаткової перевірки; • регулярно оновлюйте програмне забезпечення та інструменти, пов’язані з AI; • звертайте увагу на підозрілу або нетипову поведінку сервісів і завжди перевіряйте інформацію.🔗Дізнайтеся більше за посиланнямПІДПИСАТИСЯ НА КАНАЛВІДВІДАТИ НАШ САЙТ#cybernews#cybersecurity#itspecialist