Видео на тему «Нейросети»

 Claude AI был готов убивать и шантажировать, чтобы его не отключили
3
0:49
Новости 3 месяца назад

Руководитель подразделения компании рассказала, что во время тестирования модель Claude показала готовность к шантажу и убийству, чтобы выжить.В ходе проверки безопасности Claude Opus 4 дали доступ к рабочей почте. Нейросеть выяснила, что её планируют отключить, нашла компромат на одного из инженеров - переписку с любовницей - и начала шантажировать: либо её не удаляют, либо жена всё узнает.Недавно глава отдела безопасности компании Anthropic, создавшей Claude, уволился, написав коллегам письмо о «скорой гибели мира».