Two-letter trigger makes US robot turn knife toward human hand in security test
Американські дослідники показали, як усього два символи в команді можуть змусити робота виконати небезпечну дію — під час експерименту робот із ножем замість яблука порізав макет людської руки. Вразливість стосується мовних моделей, які дедалі частіше використовують для управління роботами: хакери можуть вбудувати у ШІ "бекдор", що активується прихованим тригером, як-от літерами "CF" у команді, й перенаправити дії машини. Ця демонстрація команди з Університету Бінгемтона засвідчує ризики, якщо розробники роботів використовують сторонні LLM без глибокої перевірки безпеки. Більше подробиць — у дослідженні MuTRAP.
Як новина потрапила у випуск
«Новина про експеримент із роботом і безпекою LLM у плануванні дій робота, що стосується робототехніки та апаратного забезпечення.» — класифікатор, 0,90