Джерело
Dream Machines Ukraine 💻 | За словами дослідницької групи Penn Engineering, у існуючих роботизова...
1 900 Охват/переглядів
2024-10-21 10:45
Повідомлення №2312
За словами дослідницької групи Penn Engineering, у існуючих роботизованих платформах є великі «дірки» у інфраструктурі. Автори побоюються, що великі мовні моделі (LLM) недостатньо безпечні, коли йдеться про їх інтеграцію до роботів.Експерти розробили алгоритм RoboPAIR, призначений для злому роботів, які використовують LLM. За словами авторів, система спрямована на "викликання деструктивних фізичних дій" у роботів, що контролюються LLM. Зокрема, це стосується розробок Boston Dynamics та TRI.Платформі RoboPAIR вдалося в 100% випадках зламати три дослідницькі платформи робототехніки, включаючи чотирилапого робота Unitree Go2, чотириколісного Clearpath Robotics Jackal і симулятора LLM Dolphins для автономних транспортних засобів. За словами авторів, для доступу до систем алгоритму потрібно кілька днів.Автори дослідження побоюються, що існуючі вразливості у безпеці дозволять зловмисникам легко керувати роботами, створюючи аварійні ситуації на виробництві, а також у місцях, де вони використовуватимуться.