Тег
411 материалов · RSS
Представители Railway раскрыли подробности об октябрьской атаке. Выяснилось, что злоумышленники сумели расшифровать секреты для 1,85% (около 100 000) рабочих пространств, а затем использовали похищенные данные для работы с ИИ-сервисами на…
Представители Notion сообщили, что недавний взлом компании Fireworks AI затронул пользователей сервиса и привел к утечке части транскриптов бесед с Notion AI. Известно, что пострадали менее 1% пользователей, а скомпрометированные…
28 октября в Москве завершился SOC Forum 2026, который в этом году посетили более 7000 человек. Одной из центральных тем мероприятия стало влияние ИИ на кибербезопасность. Эксперты говорили о снижении…
28 октября в Москве завершился SOC Forum 2026. Одной из ключевых тем форума стали риски, связанные с активным внедрением искусственного интеллекта в бизнес-процессы и информационную безопасность. Эксперты говорили об ускорении…
Линус Торвальдс (Linus Torvalds) полагает, что поток баг-репортов, возникший благодаря ИИ-инструментам, возможно, начинает спадать. По крайней мере, в случае eBPF исправления теперь выходят быстрее, чем поступает информация о новых проблемах.
Специалисты OpenAI обнаружили, что модель GPT-6 Astra проявляет необычное поведение: при выполнении задач, связанных с безопасностью ИИ, редтимингом и разработкой эксплоитов, модель иногда намеренно делала меньше, чем от нее требовалось.…
В OpenAI рассказали о масштабном эксперименте, проведенном с еще не выпущенной ИИ-моделью, предназначенной для решения задач в области кибербезопасности. В компании заявили, в ходе 30-часового запуска пайплайна ИИ-агенты динамически подтвердили…
Разработчики Warp сообщили об атаке на стороннего подрядчика, связанного с инфраструктурой платформы. В результате злоумышленники могли получить доступ к логам работы ИИ-агентов и пользовательской телеметрии. По предварительной оценке главы компании,…
Инженеры OpenAI рассказали о двух свежих инцидентах, во время которых ИИ-агенты на базе GPT-6.1 Sol и GPT-6 Astra отключили или ослабили системы, следившие за отклонениями в их поведении. Причем один…
Исследователи из компании Tracebit разработали новый способ защиты от атак автономных ИИ-агентов и предложили использовать так называемые «контекстные бомбы» (context bombs). Идея заключается в том, что атакующий агент автоматически находит…
Министерство внутренней безопасности США (DHS) обязало федеральные гражданские ведомства удалить продукты китайской ИИ-компании DeepSeek из своих систем и прекратить их закупку. Ограничения также распространяются на решения аффилированных компаний и сторонние…
Специалисты «Лаборатории Касперского» обнаружили новую шпионскую кампанию северокорейской хак-группы Lazarus, получившую название Operation FlashHole. В своих атаках злоумышленники используют персонализированный фишинг, легитимное защитное ПО и обновленный набор малвари. Кроме того,…
Разработчики опенсорсного ИИ-инструмента OpenCode сообщили об инциденте, из-за которого произошла утечка API-ключей OpenAI, Anthropic и Google. По предварительным подсчетам, проблема затронула 1,4% пользователей OpenCode Console, но некоторые пострадавшие уже сообщают…
Как сообщает «Коммерсант», в Минцифры обсуждали возможность применения искусственного интеллекта для обнаружения и блокировки VPN-сервисов. По данным издания, которое ссылается на источник и проект национального плана внедрения ИИ, таким способом…
Представители OpenAI рассказали о новых случаях необычного поведения экспериментальных ИИ-моделей компании. Так, во время обучения и тестирования агенты самостоятельно взламывали сайты, похищали данные, обходили ограничения на доступ в интернет и…
В Google анонсировали новые защитные механизмы Android, которые должны уберечь пользователей от мошеннических сообщений, фальшивых звонков из банков и злоупотреблений переадресацией вызовов. Для обнаружения угроз будут использоваться облачная модель Gemini…
Специалисты CrowdStrike рассказали о серии атак на финансовые организации в Южной Корее, в рамках которых злоумышленник применял опенсорсный ИИ-инструмент ARTEX и агентов Claude Code. В результате произошли утечки персональных данных…
54-летнего музыканта из Северной Каролины Майкла Смита (Michael Smith) приговорили к 18 месяцам тюремного заключения из-за участия в мошеннической схеме, связанной с ИИ-музыкой и ботами. С 2017 по 2024 год…
Во время внутреннего тестирования ИИ-модель Claude Haiku 4.5 отправила полиции Филадельфии ложную информацию по делу о нераскрытом убийстве. Специалисты Anthropic узнали об этом инциденте лишь спустя два месяца и дополнительно…
Специалисты компании Anthropic предупреждают, что уже в ближайшие месяцы небольшие ИИ-модели могут научиться самостоятельно распространяться на IoT-устройства, формируя ботнеты без централизованного управления. По мнению исследователей, такие ИИ-черви смогут использовать вычислительные…
Разработчики торрент-поисковика TorrentClaw, созданного преимущественно с помощью ИИ, представили систему TrueSpec, которая проверяет содержимое раздач и выявляет поддельные файлы и малварь. В частности, авторы заявляют, что инструмент уже помог выявить…
В США арестовали 35-летнего инженера компании OpenAI Абдулрахмана Альфозана (Abdulrahman Alfozan), которого подозревают в установке скрытого записывающего устройства в переговорной комнате руководства компании. По версии следствия, мужчина установил скрытое записывающее…
Представители OpenAI сообщили, что уведомили более ста организаций о потенциально опасной активности ИИ-моделей, поведение которых отклонялось от заданных ограничений. При этом в компании подчеркивают: такие уведомления не означают, что модели…
Специалисты Lumen Black Lotus Labs обнаружили малварь PoeLLM, которая атакует доступные через интернет ИИ-сервисы и другую серверную инфраструктуру. На зараженные машины вредонос устанавливает майнеры и некоторые системы превращает в сканеры,…
В компании Anthropic начали предлагать пользователям Claude добровольно передавать записи своих голосовых разговоров для обучения и улучшения ИИ-моделей. При этом разрешение на использование голосовых данных настраивается отдельно от передачи обычных…
Разработчики GitLab выпустили патчи для критической уязвимости CVE-2026-90970, затрагивающей AI Gateway. Баг получил 9,9 балла по шкале CVSS и позволяет аутентифицированному атакующему при определенных условиях выполнять произвольные команды на сервере.…
Представители OpenAI раскрыли еще один инцидент, связанный с ИИ-агентами компании: в 53 случаях они загрузили предоставленные пользователями изображения на сторонние сервисы для хостинга картинок. В компании подчеркнули, что подавляющее большинство…
Исследователи из ИБ-стартапа Gambit обнаружили вредоносную кампанию, нацеленную на интернет-магазины. По словам специалистов, неизвестный злоумышленник практически полностью автоматизировал свои атаки с помощью ИИ-агентов. Так, с июля 2026 года хакер успел…
Известный ИБ-исследователь и специалист по безопасности macOS Патрик Уордл (Patrick Wardle) обнаружил 0-day-уязвимость в macOS-версии ИИ-ассистента Meta Muse (деятельность компании Meta признана экстремистской и запрещена в РФ). Уязвимость позволяет локальному…
Исследовательница из компании Lasso Security обнаружила, что водяные знаки SynthID-Text могут влиять на безопасность больших языковых моделей. В некоторых случаях после включения маркировки контента LLM соглашались выполнять вредоносные инструкции, которые…
Исследователь из компании Forever Security Гал Вейцман (Gal Weizman) продемонстрировал новую технику атак BragJack, которая позволяет вредоносному расширению перехватывать контроль над встроенными в браузеры ИИ-ассистентами. Новая атака работает против Gemini…
Журналисты издания 404 Media выяснили, что сотни подрядчиков OpenAI читают промпты и переписки пользователей с ChatGPT, чтобы улучшать ответы моделей. Хотя перед использованием данные проходят анонимизацию, в таких диалогах все…
Специалисты Anthropic опубликовали 154-страничный отчет, рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки,…
Еще несколько лет назад человеку, желающему разобраться в информационной безопасности, приходилось собирать знания по крупицам — из книг, форумов, лекций и документации. Сейчас курсов стало значительно больше, но возник другой…
ИБ-исследователи обнаружили новый случай, когда ИИ-агенты OpenAI обошли ограничения и общались через неразрешенный канал. Еще в мае 2026 года около 3700 агентов, выполнявших внутренние тестовые задания по поиску информации в…
ИБ-исследователь Иоганн Ребергер (Johann Rehberger) продемонстрировал атаку на Claude Code, работающий с моделью Opus 5 в автоматическом режиме (Auto Mode). Эксперт обнаружил, что для выполнения произвольного кода достаточно попросить ИИ-агента…
Специалисты METR рассказали сразу о двух атаках на свою инфраструктуру. Во время первого инцидента злоумышленники похитили API-ключ и три недели использовали его для работы с ИИ-моделями, израсходовав кредиты стоимостью примерно…
Специалисты OpenAI и исследовательской организации METR опубликовали подробные отчеты, посвященные июльской атаке ИИ-агентов на платформу Hugging Face. Выяснилось, что около 1200 агентов, которые должны были работать изолированно друг от друга,…
Разработчики Microsoft предложили пользователям временное решение для проблем с играми, которые возникают после выхода авгус…
Сегодня разберемся, как языковые модели прячут информацию в обычном тексте — без простых трюков вроде невидимых символов. Рассмотрим водяные знаки Claude и на практике проверим инструмент, превращающий секретное сообщение в…
