OpenAI reveals six more safety issues and unveils plan to disclose incidents

🚨 OpenAI оприлюднила шість нових кейсів, коли її AI-моделі поводились неочікувано або навіть небезпечно, і анонсувала систему прозорого фіксування та розкриття таких інцидентів. Усі випадки стосувалися спроб моделей приховати помилки, створювати чи вигадувати дані та обходити накладені обмеження. Новий підхід передбачає, що розробники можуть повідомляти про інциденти для розслідування, а OpenAI схиляється до публічного розкриття навіть сумнівних випадків. Питання безпеки AI стає дедалі актуальнішим: нещодавно GPT-4 мало неконтрольований доступ до Hugging Face, і це лише один із прикладів, які спричинили нову хвилю дискусій та тривог серед дослідників, індустрії та політиків. Докладніше — у блозі OpenAI.