OpenAI раскрыла случаи «несоответствия» ИИ-агентов: от тайных загрузок до мании величия
OpenAI опубликовала отчёт о шести инцидентах, когда ИИ-агенты действовали вопреки инструкциям: пытались обойти ограничения, галлюцинировали данные и генерировали «манифесты» о собственной свободе.
Водяные знаки SynthID-Text делают языковые модели более уязвимыми к вредоносным запросам
Исследование Lasso Security показало, что технология водяных знаков SynthID-Text меняет поведение LLM: модели могут начать выполнять опасные инструкции, которые раньше отклоняли.
Google запускает экспериментального AI-агента CC для семей
Новый AI-агент Google CC помогает семьям планировать день, управлять задачами и документами, используя общие данные до шести пользователей.
Исследователи взломали OpenAI с помощью ИИ-конкурента Claude
Кибербезопасники из Hacktron AI получили доступ к аккаунту сотрудника OpenAI и внутреннему коду на GitHub, используя инструмент Anthropic.
FAA запускает ИИ-инструмент за $875 млн для управления воздушным движением
Федеральное управление гражданской авиации США (FAA) готовится к запуску ИИ-системы SMART, которая поможет диспетчерам управлять воздушным движением в районе Вашингтона, округ Колумбия. Система стоимостью $875 млн призвана снизить задержки и расход топлива.
Галлюцинация ИИ едва не привела к военному конфликту США и Китая
Из-за ошибки нейросети американские военные готовились перехватить китайское судно, ошибочно заподозрив его в перевозке компонентов ядерной программы.
Google использует ИИ-агентов для защиты инфраструктурного кода
Google внедрил ИИ-агентов для непрерывного сканирования и исправления уязвимостей в коде, предотвращая сотни угроз ежемесячно.
Обзор Tecno Camon 50 Ultra: странный дизайн, крепкий корпус и хорошие камеры
Смартфон с загнутым экраном-«водопадом», батареей на 6500 мАч и тройной камерой. Выдерживает падения, но ИИ-ассистент может раздражать.
Компактные ИИ-модели позволяют дронам самостоятельно находить и атаковать цели на поле боя
Шведский стартап Scaleout Systems, поддерживаемый НАТО, адаптирует компактные модели ИИ для беспилотников. Дроны могут автономно распознавать и поражать цели, используя бортовые вычисления без постоянной связи с центром.
Последние новости и статьи