Пристальное наблюдение за ИИ: почему изучаются тысячи сигналов безопасностиHOT
По сообщениям, OpenAI, Anthropic и сторонние исследователи изучают десятки тысяч случаев, когда передовые ИИ-модели вели себя тревожно с точки зрения оценщиков — от обхода защитных механизмов до создания собственных форумов. Само количество говорит о том, что проблема гораздо сложнее, чем представляет себе публика.