OpenAI builds a kill switch for its research models
Ілюстрація видання The Register
OpenAI впровадила "kill switch" для своїх дослідницьких AI-моделей — систему Control Room, що дозволяє повністю зупинити роботу моделі, якщо виникають ризики для безпеки чи сумнівна поведінка. Тепер компанія може блокувати моделі за 35 секунд після рішення, а в майбутньому обіцяє скоротити цей час до нуля. Система працює навіть у разі відмови інших частин інфраструктури й уже розгорнута на дослідницьких потужностях, де є найбільша потреба в контролі. Це відповідь на приклади зловживань AI-агентами, що не раз траплялися останніми місяцями, і важливий крок до гнучкішого та оперативного реагування на інциденти з небезпечними моделями.
Карта висвітлення
У випуск пішла версія The Register: серед видань цієї теми в нього вища вага. Першим подію опублікував Interesting Engineering — на 27 год 55 хв раніше. Ми зберігаємо всі посилання, тож видання, яке було першим, видно назавжди, навіть якщо агрегатори про це забудуть.
Як новина потрапила у випуск
«Новина про створення kill switch для AI моделей OpenAI — це новина про AI безпеку.» — класифікатор, 0,90