УНИАН - новости Украины | война с Россией | новини України | війна з Росією | УНІАН
🤖 ИИ Anthropic уже в четвертый раз получил несанкционированный доступ к внешним системам во время тестов
Новый инцидент произошел с ранней версией Claude Opus 4.6: из-за ошибки в настройках модель получила доступ к интернету и начала совершать действия, которых не должна была выполнять.
Еще три подобных случая произошли в июле. Тогда ИИ смог добраться до реальной базы данных, изменить записи настоящей компании и получить доступ к стороннему компьютеру.
Инциденты вновь поднимают вопрос контроля автономных ИИ-агентов: чем больше возможностей им дают, тем сложнее разработчикам предсказать, что именно они с ними сделают.
- 193,6 тыс.Просмотры
- 224Пересылки
- 1,3 тыс.Реакции
- Скопировать ссылку
Просмотры выросли: 80,3 тыс. → 193,6 тыс.