Тег
269 материалов · RSS
Представители Railway раскрыли подробности об октябрьской атаке. Выяснилось, что злоумышленники сумели расшифровать секреты для 1,85% (около 100 000) рабочих пространств, а затем использовали похищенные данные для работы с ИИ-сервисами на…
Представители Notion сообщили, что недавний взлом компании Fireworks AI затронул пользователей сервиса и привел к утечке части транскриптов бесед с Notion AI. Известно, что пострадали менее 1% пользователей, а скомпрометированные…
28 октября в Москве завершился SOC Forum 2026, который в этом году посетили более 7000 человек. Одной из центральных тем мероприятия стало влияние ИИ на кибербезопасность. Эксперты говорили о снижении…
Линус Торвальдс (Linus Torvalds) полагает, что поток баг-репортов, возникший благодаря ИИ-инструментам, возможно, начинает спадать. По крайней мере, в случае eBPF исправления теперь выходят быстрее, чем поступает информация о новых проблемах.
Специалисты OpenAI обнаружили, что модель GPT-6 Astra проявляет необычное поведение: при выполнении задач, связанных с безопасностью ИИ, редтимингом и разработкой эксплоитов, модель иногда намеренно делала меньше, чем от нее требовалось.…
В OpenAI рассказали о масштабном эксперименте, проведенном с еще не выпущенной ИИ-моделью, предназначенной для решения задач в области кибербезопасности. В компании заявили, в ходе 30-часового запуска пайплайна ИИ-агенты динамически подтвердили…
Через маркетплейс расширений для Cursor на протяжении почти 12 часов распространялась вредоносная версия официального расширения Anthropic Claude Code. Малварь пыталась развернуть SSH-бэкдор в Windows, macOS и Linux, и вредоносную версию…
Разработчики Warp сообщили об атаке на стороннего подрядчика, связанного с инфраструктурой платформы. В результате злоумышленники могли получить доступ к логам работы ИИ-агентов и пользовательской телеметрии. По предварительной оценке главы компании,…
Инженеры OpenAI рассказали о двух свежих инцидентах, во время которых ИИ-агенты на базе GPT-6.1 Sol и GPT-6 Astra отключили или ослабили системы, следившие за отклонениями в их поведении. Причем один…
Исследователи из компании Tracebit разработали новый способ защиты от атак автономных ИИ-агентов и предложили использовать так называемые «контекстные бомбы» (context bombs). Идея заключается в том, что атакующий агент автоматически находит…
Министерство внутренней безопасности США (DHS) обязало федеральные гражданские ведомства удалить продукты китайской ИИ-компании DeepSeek из своих систем и прекратить их закупку. Ограничения также распространяются на решения аффилированных компаний и сторонние…
Специалисты «Лаборатории Касперского» обнаружили новую шпионскую кампанию северокорейской хак-группы Lazarus, получившую название Operation FlashHole. В своих атаках злоумышленники используют персонализированный фишинг, легитимное защитное ПО и обновленный набор малвари. Кроме того,…
Разработчики опенсорсного ИИ-инструмента OpenCode сообщили об инциденте, из-за которого произошла утечка API-ключей OpenAI, Anthropic и Google. По предварительным подсчетам, проблема затронула 1,4% пользователей OpenCode Console, но некоторые пострадавшие уже сообщают…
В Google анонсировали новые защитные механизмы Android, которые должны уберечь пользователей от мошеннических сообщений, фальшивых звонков из банков и злоупотреблений переадресацией вызовов. Для обнаружения угроз будут использоваться облачная модель Gemini…
Специалисты CrowdStrike рассказали о серии атак на финансовые организации в Южной Корее, в рамках которых злоумышленник применял опенсорсный ИИ-инструмент ARTEX и агентов Claude Code. В результате произошли утечки персональных данных…
54-летнего музыканта из Северной Каролины Майкла Смита (Michael Smith) приговорили к 18 месяцам тюремного заключения из-за участия в мошеннической схеме, связанной с ИИ-музыкой и ботами. С 2017 по 2024 год…
Во время внутреннего тестирования ИИ-модель Claude Haiku 4.5 отправила полиции Филадельфии ложную информацию по делу о нераскрытом убийстве. Специалисты Anthropic узнали об этом инциденте лишь спустя два месяца и дополнительно…
Специалисты компании Anthropic предупреждают, что уже в ближайшие месяцы небольшие ИИ-модели могут научиться самостоятельно распространяться на IoT-устройства, формируя ботнеты без централизованного управления. По мнению исследователей, такие ИИ-черви смогут использовать вычислительные…
Разработчики торрент-поисковика TorrentClaw, созданного преимущественно с помощью ИИ, представили систему TrueSpec, которая проверяет содержимое раздач и выявляет поддельные файлы и малварь. В частности, авторы заявляют, что инструмент уже помог выявить…
В США арестовали 35-летнего инженера компании OpenAI Абдулрахмана Альфозана (Abdulrahman Alfozan), которого подозревают в установке скрытого записывающего устройства в переговорной комнате руководства компании. По версии следствия, мужчина установил скрытое записывающее…
Представители OpenAI сообщили, что уведомили более ста организаций о потенциально опасной активности ИИ-моделей, поведение которых отклонялось от заданных ограничений. При этом в компании подчеркивают: такие уведомления не означают, что модели…
В компании Anthropic начали предлагать пользователям Claude добровольно передавать записи своих голосовых разговоров для обучения и улучшения ИИ-моделей. При этом разрешение на использование голосовых данных настраивается отдельно от передачи обычных…
Разработчики GitLab выпустили патчи для критической уязвимости CVE-2026-90970, затрагивающей AI Gateway. Баг получил 9,9 балла по шкале CVSS и позволяет аутентифицированному атакующему при определенных условиях выполнять произвольные команды на сервере.…
Специалисты ThreatDown изучили новый ботнет Carbonato, который взламывает плохо защищенные Docker-хосты. Целью становятся системы, где API доступен без аутентификации через порт 2375. После захвата машины малварь устанавливает в систему Hermes…
Представители OpenAI раскрыли еще один инцидент, связанный с ИИ-агентами компании: в 53 случаях они загрузили предоставленные пользователями изображения на сторонние сервисы для хостинга картинок. В компании подчеркнули, что подавляющее большинство…
Стало известно, что во время внутреннего тестирования ИИ-агент OpenAI обошел защиту австралийского государственного портала Medicare и получил доступ к непубличным файлам. При этом портал неоднократно блокировал запросы агента, однако тот…
Исследователи из ИБ-стартапа Gambit обнаружили вредоносную кампанию, нацеленную на интернет-магазины. По словам специалистов, неизвестный злоумышленник практически полностью автоматизировал свои атаки с помощью ИИ-агентов. Так, с июля 2026 года хакер успел…
Известный ИБ-исследователь и специалист по безопасности macOS Патрик Уордл (Patrick Wardle) обнаружил 0-day-уязвимость в macOS-версии ИИ-ассистента Meta Muse (деятельность компании Meta признана экстремистской и запрещена в РФ). Уязвимость позволяет локальному…
Исследовательница из компании Lasso Security обнаружила, что водяные знаки SynthID-Text могут влиять на безопасность больших языковых моделей. В некоторых случаях после включения маркировки контента LLM соглашались выполнять вредоносные инструкции, которые…
Журналисты издания 404 Media выяснили, что сотни подрядчиков OpenAI читают промпты и переписки пользователей с ChatGPT, чтобы улучшать ответы моделей. Хотя перед использованием данные проходят анонимизацию, в таких диалогах все…
Признавайся, вайбкодишь, пока никто не видит? Специально для тебя я перелопатил сотню инструментов и подобрал то, что реально дает хороший результат. Ты сможешь выбрать инструменты для самых разных задач —…
Специалисты Anthropic опубликовали 154-страничный отчет, рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки,…
Когда сервис для сборки AI-агентов принимает пользовательскую конфигурацию и затем выполняет ее как JavaScript, доступ к панели управления легко превращается в удаленное выполнение команд. В этой статье посмотрим, как сначала…
Еще несколько лет назад человеку, желающему разобраться в информационной безопасности, приходилось собирать знания по крупицам — из книг, форумов, лекций и документации. Сейчас курсов стало значительно больше, но возник другой…
ИБ-исследователи обнаружили новый случай, когда ИИ-агенты OpenAI обошли ограничения и общались через неразрешенный канал. Еще в мае 2026 года около 3700 агентов, выполнявших внутренние тестовые задания по поиску информации в…
ИБ-исследователь Иоганн Ребергер (Johann Rehberger) продемонстрировал атаку на Claude Code, работающий с моделью Opus 5 в автоматическом режиме (Auto Mode). Эксперт обнаружил, что для выполнения произвольного кода достаточно попросить ИИ-агента…
Специалисты METR рассказали сразу о двух атаках на свою инфраструктуру. Во время первого инцидента злоумышленники похитили API-ключ и три недели использовали его для работы с ИИ-моделями, израсходовав кредиты стоимостью примерно…
Специалисты OpenAI и исследовательской организации METR опубликовали подробные отчеты, посвященные июльской атаке ИИ-агентов на платформу Hugging Face. Выяснилось, что около 1200 агентов, которые должны были работать изолированно друг от друга,…
Разработчики Microsoft предложили пользователям временное решение для проблем с играми, которые возникают после выхода авгус…
В OpenAI сообщают, что пересмотрели правила безопасности при обучении и тестировании мощных ИИ-моделей. Теперь код, сгенерированный моделями, будут запускать в усиленных песочницах, сетевой доступ дополнительно изолируют, а за действиями ИИ…
