Canal СyberNews - @Cyber_news_ua - №724
OpenAI усунула вразливість ChatGPT, яка дозволяла викрадати дані користувачівКомпанія OpenAI виправила вразливість у ChatGPT, яка дозволяла реалізовувати атаки типу prompt injection та призводила до несанкціонованого витоку даних користувачів. Проблема полягала в тому, що ChatGPT міг виконувати приховані інструкції, вбудовані у зовнішній контент, обходячи базові обмеження безпеки. Це дозволяло зловмисникам отримувати доступ до чутливої інформації —історії діалогів, системних підказок та інших даних, доступних моделі під час сесії. Також існував ризик передачі цієї інформації на сторонні ресурси без згоди користувача.Найбільший ризик виникав під час використання кастомних GPT та браузерних інтеграцій, оскільки в таких сценаріях модель могла мати ширший доступ до даних і виконувати додаткові дії від імені користувача. Оновлення OpenAI посилює ізоляцію даних, обмежує виконання недовірених інструкцій і контролює доступ до зовнішніх джерел, що зменшує ризик подібних атак. 🔗Дізнайтеся більше за посиланнямПІДПИСАТИСЯ НА КАНАЛВІДВІДАТИ НАШ САЙТ#cybernews#cybersecurity#itspecialist
438
26-04-01 09:51