Тег
133 материала · RSS
Разработчики опенсорсного ИИ-инструмента OpenCode сообщили об инциденте, из-за которого произошла утечка API-ключей OpenAI, Anthropic и Google. По предварительным подсчетам, проблема затронула 1,4% пользователей OpenCode Console, но некоторые пострадавшие уже сообщают…
Как сообщает «Коммерсант», в Минцифры обсуждали возможность применения искусственного интеллекта для обнаружения и блокировки VPN-сервисов. По данным издания, которое ссылается на источник и проект национального плана внедрения ИИ, таким способом…
Представители OpenAI рассказали о новых случаях необычного поведения экспериментальных ИИ-моделей компании. Так, во время обучения и тестирования агенты самостоятельно взламывали сайты, похищали данные, обходили ограничения на доступ в интернет и…
Во время внутреннего тестирования ИИ-модель Claude Haiku 4.5 отправила полиции Филадельфии ложную информацию по делу о нераскрытом убийстве. Специалисты Anthropic узнали об этом инциденте лишь спустя два месяца и дополнительно…
Специалисты компании Anthropic предупреждают, что уже в ближайшие месяцы небольшие ИИ-модели могут научиться самостоятельно распространяться на IoT-устройства, формируя ботнеты без централизованного управления. По мнению исследователей, такие ИИ-черви смогут использовать вычислительные…
Представители OpenAI сообщили, что уведомили более ста организаций о потенциально опасной активности ИИ-моделей, поведение которых отклонялось от заданных ограничений. При этом в компании подчеркивают: такие уведомления не означают, что модели…
Специалисты Lumen Black Lotus Labs обнаружили малварь PoeLLM, которая атакует доступные через интернет ИИ-сервисы и другую серверную инфраструктуру. На зараженные машины вредонос устанавливает майнеры и некоторые системы превращает в сканеры,…
В компании Anthropic начали предлагать пользователям Claude добровольно передавать записи своих голосовых разговоров для обучения и улучшения ИИ-моделей. При этом разрешение на использование голосовых данных настраивается отдельно от передачи обычных…
Специалисты ThreatDown изучили новый ботнет Carbonato, который взламывает плохо защищенные Docker-хосты. Целью становятся системы, где API доступен без аутентификации через порт 2375. После захвата машины малварь устанавливает в систему Hermes…
ИБ-специалисты из компании Huntress обнаружили, что злоумышленники распространяют RAT через кастомные GPT в ChatGPT. Такие вредоносные экземпляры продвигаются в спонсируемых результатах поиска Google и направляют пользователей на сайты с ClickFix-приманками.
Представители OpenAI раскрыли еще один инцидент, связанный с ИИ-агентами компании: в 53 случаях они загрузили предоставленные пользователями изображения на сторонние сервисы для хостинга картинок. В компании подчеркнули, что подавляющее большинство…
Стало известно, что во время внутреннего тестирования ИИ-агент OpenAI обошел защиту австралийского государственного портала Medicare и получил доступ к непубличным файлам. При этом портал неоднократно блокировал запросы агента, однако тот…
Исследовательница из компании Lasso Security обнаружила, что водяные знаки SynthID-Text могут влиять на безопасность больших языковых моделей. В некоторых случаях после включения маркировки контента LLM соглашались выполнять вредоносные инструкции, которые…
Признавайся, вайбкодишь, пока никто не видит? Специально для тебя я перелопатил сотню инструментов и подобрал то, что реально дает хороший результат. Ты сможешь выбрать инструменты для самых разных задач —…
Специалисты Anthropic опубликовали 154-страничный отчет, рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки,…
Сегодня разберемся, как языковые модели прячут информацию в обычном тексте — без простых трюков вроде невидимых символов. Рассмотрим водяные знаки Claude и на практике проверим инструмент, превращающий секретное сообщение в…
В OpenAI сообщают, что пересмотрели правила безопасности при обучении и тестировании мощных ИИ-моделей. Теперь код, сгенерированный моделями, будут запускать в усиленных песочницах, сетевой доступ дополнительно изолируют, а за действиями ИИ…
В России обсуждают процедуру проверки больших ИИ-моделей на соответствие законодательству и традиционным духовно-нравственным ценностям, сообщают «Ведомости» со ссылкой на участников обсуждений и источник в Минцифры. Такой экспертизой могут заняться несколько…
На конференции Black Hat представители OpenAI раскрыли новые детали инцидента, в рамках которого автономные ИИ-агенты компании сумели покинуть тестовую среду и атаковали платформу Hugging Face. Выяснилось, что за несколько месяцев…
Декомпиляция в IDA Pro — это часы ручного переименования функций, восстановления структур и расшифровки констант, верно? Современные LLM способны взять на себя львиную долю этой работы, автоматически превращая горы ассемблерного…
Специалисты Microsoft выпустили июльский пакет обновлений, который устраняет 622 уязвимости. Это крупнейший «вторник обновлений» за всю историю компании. Среди исправленных уязвимостей присутствуют три 0-day, причем две из них уже применялись…
Исследователи из компании Check Point обнаружили сгенерированный при помощи DeepSeek вредонос. Модель превратила теоретическую идею браузерного шифровальщика в почти готовую цепочку атаки. Для заражения не требуется устанавливать приложение, эксплуатировать какие-либо…
На прошлой неделе исследователь обнаружил в Claude Code скрытый механизм, который отслеживал пользователей из Китая и передавал в Anthropic сведения об их часовом поясе, домене альтернативного шлюза и возможной связи…
Власти США сняли экспортные ограничения с ИИ-моделей Claude Fable 5 и Mythos 5. Первая снова доступна пользователям по всему миру, а более мощную Mythos пока разрешили использовать только некоторым американским…
Думаю, настала пора поговорить о генерации текстов с LLM. Ведь это две мои любимые темы сразу: нейросети и «как писать статьи». К тому же мой инбокс теперь стабильно забит слопом,…
В конце прошлой недели компания OpenAI представила линейку моделей GPT-5.6, однако доступ к ней пока получит лишь небольшая группа доверенных партнеров. В компании объясняют, что ограничить релиз потребовали власти США,…
Специалисты компании SentinelOne обнаружили ранее неизвестную малварь Gaslight для macOS, которая совмещает функции бэкдора и инфостилера. Главная особенность вредоноса — встроенный промпт-инжект, нацеленный на ИИ-инструменты, которые исследователи используют для анализа…
Есть разные причины разворачивать ИИ-агентов на своем железе вместо того, чтобы платить провайдеру. Сегодня посмотрим, как перейти от систем с линейными пайплайнами к автономному глубокому исследованию на основе агентов LangGraph.
Исследователи обнаружили, что злоумышленники месяцами использовали ИИ-помощника Meta (деятельность компании признана экстремистской и запрещена на территории РФ) для захвата чужих аккаунтов в Instagram (заблокирован в РФ, принадлежит компании Meta). По…
Автор вредоносного npm-пакета для кражи данных у пользователей Claude допустил серьезную ошибку, из-за которой малварь раскрыла его приватный GitHub-токен. В итоге исследователи смогли отследить украденные данные и изучить всю инфраструктуру…
Исследователи предупреждают о критической уязвимости CVE-2026-48710, которая была обнаружена в опенсорсном фреймворке Starlette и получила название BadHost. Поскольку Starlette лежит в основе FastAPI и множества популярных ИИ-инструментов, проблема создает риски…
Линус Торвальдс (Linus Torvalds) раскритиковал поток сгенерированных ИИ баг-репортов, который, по его словам, делает рассылку, посвященную вопросам безопасности ядра Linux, «практически неуправляемой». Проблема, как считает Торвальдс, заключается не в самих…
Основатель и ведущий разработчик Curl Даниэль Стенберг (Daniel Stenberg) протестировал «закрытую» ИИ-модель Mythos компании Anthropic и остался не слишком впечатлен: Mythos нашла в Curl лишь одну незначительную уязвимость.
Обфускация кода никогда не была панацеей. Это всегда был компромисс: разработчики жертвовали читаемостью и удобством отладки, атакующие — временем и ресурсами. И до определенного момента этот компромисс работал. Коммерческие обфускаторы вроде DexGuard или DexProtector действительно могли задержать…
Кто из нас хотя бы однажды не мечтал стать диджеем на радио? Эту мечту можно осуществить — с помощью собственной интернет‑радиостанции, в которой эфир будет вести диджей с искусственным интеллектом. Он станет объявлять треки, рассказывать об исполнителях и беседовать о музыке.…
Сегодня с ноги вломимся в мир пентеста ИИ. Я нашел для тебя классные тулзы для автоматического тестирования больших языковых моделей и несколько отличных лабораторных работ, чтобы ты мог отработать навыки как автоматического, так и ручного тестирования нейронок.
За последний год генерация кода при помощи LLM мощно усилилась. И пока одни программисты вайбкодят буквально круглосуточно благодаря ИИ‑агентам, другие стремятся избежать этой напасти. Сегодня посмотрим, что изменилось в этой области и как с этим…
Разработчики Anthropic случайно выложили на всеобщее обозрение весь исходный код своего CLI-инструмента Claude Code. Причиной этой утечки стал забытый файл source map в пакете npm.
В этом месяце: исследователи изучили сторонние клиенты Telegram; группировка TeamPCP скомпрометировала сканер Trivy, ИБ‑компанию Checkmarx и библиотеку LiteLLM; в Android ограничат доступ к Accessibility API, а для установки сторонних приложений придется ждать 24 часа; правоохранители закрыли…
Шесть крупных компаний — Anthropic, AWS, GitHub, Google, Microsoft и OpenAI — совместно выделили 12,5 млн долларов США на проект, который призван помочь мейнтейнерам опенсорсных проектов справиться со шквалом сгенерированных…
