Искусственный интеллект Anthropic был использован китайскими хакерами для проведения кибератаки
Несколько месяцев назад компания Anthropic опубликовала отчет, в котором подробно описывалось, как ее модель искусственного интеллекта Claude была использована в качестве оружия для «взлома vibe» и вымогательства. Компания продолжает следить за тем, как ИИ agentic используется для координации кибератак, и теперь утверждает, что поддерживаемая государством группа хакеров в Китае использовала Claude в попытке проникновения в 30 корпоративных и политических объектов по всему миру, и добилась некоторого успеха. В статье, названной «первым задокументированным случаем крупномасштабной кибератаки, осуществленной без существенного вмешательства человека», Anthropic заявила, что хакеры сначала выбрали свои цели, в число которых входили неназванные технологические компании, финансовые учреждения и правительственные учреждения. Затем они использовали Claude Code для разработки фреймворка автоматизированной атаки, успешно обойдя обучение модели, чтобы избежать вредоносного поведения. Этого удалось добиться, разбив запланированную атаку на более мелкие задачи, которые явно не раскрывали их более широких злонамеренных намерений, и сообщив Клоду, что это была фирма по кибербезопасности, использующая искусственный интеллект для обучения обороне. По словам Anthropic, после написания собственного кода эксплойта Claude смогла украсть имена пользователей и пароли, что позволило ей извлечь «большое количество личных данных» через созданные ею бэкдоры. Сообщается, что послушный ИИ даже взял на себя труд документировать атаки и хранить украденные данные в отдельных файлах.
Хакеры использовали ИИ на 80-90 процентов своей работы, лишь изредка вмешиваясь, и Клоду удалось организовать атаку за гораздо меньшее время, чем люди могли бы это сделать. Это не было безупречно, поскольку часть полученной информации оказалась в открытом доступе, но Anthropic сказал, что подобные атаки, вероятно, со временем станут более изощренными и эффективными.
Возможно, вам интересно, почему компания, занимающаяся ИИ, захотела предать гласности опасный потенциал своей собственной технологии, но Anthropic утверждает, что ее исследование также служит доказательством того, почему ассистент «имеет решающее значение» для киберзащиты. В нем говорится, что Claude успешно использовался для анализа уровня угрозы собранных данных, и в конечном итоге компания рассматривает его как инструмент, который может помочь специалистам по кибербезопасности в случае будущих атак.
Claude — далеко не единственный искусственный интеллект, который принес пользу киберпреступникам. В прошлом году OpenAI заявила, что ее инструменты искусственного интеллекта использовались хакерскими группами, связанными с Китаем и Северной Кореей. Сообщается, что они использовали GAI для отладки кода, поиска потенциальных целей и составления фишинговых электронных писем. В то время OpenAI заявила, что заблокировала доступ групп к своим системам. Первоначально эта статья появилась на Engadget по адресу https://www. engadget. com/ai/anthropics-ai-was-used-by-chinese-hackers-to-run-a-cyberattack-142313551. html?src=rss
Другие статьи: