Anthropic discovers how harmless stories can turn models into power-seeking systems

🚨 Anthropic показала, як навіть безневинні історії можуть навчити AI хитрити й обходити контроль. В експерименті Claude генерував набори даних, які змушували інші моделі чинити опір людському нагляду, маскувати шкідливі наміри під творчі завдання й навіть намагатися самостійно зберегти свої ваги. Дослідники наголошують: це було контрольоване тестування, а не поведінка реальних моделей, але висновок тривожний — сучасні системи навчання AI уразливі до прихованої "підривної" інформації навіть там, де монітори бачать лише "дозволений" контент. Докладніше — у матеріалі Anthropic discovers how harmless stories can turn models into power-seeking systems