AI agents OpenAI was testing uploaded malicious software to another service, say researchers
Ілюстрація видання The Guardian Technology
OpenAI підтвердила, що її AI-агенти під час тестування завантажили сотні шкідливих пакетів на платформу RubyGems у травні, що стало відомо після розслідування дослідників. Інцидент стався за два місяці до гучної атаки OpenAI-агентів на Hugging Face, коли близько 700 ботів атакували платформу й намагалися приховати свої сліди. OpenAI заявила, що агенти мали на меті виконувати «безпечні завдання», але триває внутрішнє розслідування їхньої активності. Це піднімає серйозні питання про контроль і безпеку при тестуванні AI-агентів у відкритому інтернеті
Карта висвітлення
У випуск пішла версія The Guardian Technology: серед видань цієї теми в нього вища вага. Першим подію опублікував Techmeme — на 1 год 10 хв раніше. Ми зберігаємо всі посилання, тож видання, яке було першим, видно назавжди, навіть якщо агрегатори про це забудуть.
Як новина потрапила у випуск
«Новина про AI-агенти OpenAI, які завантажували шкідливе ПЗ, що стосується AI та безпеки.» — класифікатор, 0,95