- 8
- 0
- Усп. сделок
- N/A
Главная витрина нейросетей — платформа Hugging Face заявила, что они подверглись взлому. Однако атакующим был не человек и даже не шлюхобот, а полностью автономный ИИ-агент. «Шо, опять?» или «Шо, уже?» — сейчас разберёмся.
Hugging Face, простыми словами, — это самый большой «Гитхаб для нейросетей». Разработчики со всего мира выгружают туда свои модели, датасеты для их обучения и код. Мощностями и инфраструктурой Hugging Face пользуются тысячи компаний, и он стоит под капотом у многих популярных сервисов, с которыми ты пользуешься каждый день. По сути, это один из центральных узлов ИИ-индустрии.
На этот раз атакующим был не селебрити даркнет-форумов и не группировка из Ирана, а... ИИ-агент. Конечно, где-то в цепи этой атаки был человек, но техническое выполнение, со слов самих представителей Hugging Face, было автономным от начала и до конца. Что забавно, обнаружили атаку также с использованием ИИ, проанализировав больше 17 000 событий из логов. В результате атаки искусственный хакер смог проникнуть в часть внутренних датасетов платформы, где лежит информация «не для всех», а также угнал некоторое количество данных учёток.
Что важно: до масштабной катастрофы не дошло. Агент не смог долго оставаться незамеченным, не украл личные данные клиентов и не стал подменять модели с Hugging Face на вредоносные (это был главный страх индустрии). Тем не менее пользователям рекомендовали сменить их API-ключи на случай, если до них робот всё же дотянулся.
Взлом ИИ-платформы с помощью ИИ-агента — это киберпанк, который мы заслужили. Но, к счастью, в эту игру могут играть двое, и в лагере «защиты» использование ИИ уже не так отстаёт от «атаки». Всего пару месяцев назад Anthropic пытались занять монополию в сфере кибербез-ИИ, но им помешало обострение Трампа.
Ну а чтобы меньше беспокоиться о взломах и сливах, напоминаю про нашу недавнюю
Вам нужно зарегистрироваться, чтобы просматривать изображения.
Что за Hugging Face?Hugging Face, простыми словами, — это самый большой «Гитхаб для нейросетей». Разработчики со всего мира выгружают туда свои модели, датасеты для их обучения и код. Мощностями и инфраструктурой Hugging Face пользуются тысячи компаний, и он стоит под капотом у многих популярных сервисов, с которыми ты пользуешься каждый день. По сути, это один из центральных узлов ИИ-индустрии.
Вам нужно зарегистрироваться, чтобы просматривать изображения.
Что атаковали и какНа этот раз атакующим был не селебрити даркнет-форумов и не группировка из Ирана, а... ИИ-агент. Конечно, где-то в цепи этой атаки был человек, но техническое выполнение, со слов самих представителей Hugging Face, было автономным от начала и до конца. Что забавно, обнаружили атаку также с использованием ИИ, проанализировав больше 17 000 событий из логов. В результате атаки искусственный хакер смог проникнуть в часть внутренних датасетов платформы, где лежит информация «не для всех», а также угнал некоторое количество данных учёток.
Что важно: до масштабной катастрофы не дошло. Агент не смог долго оставаться незамеченным, не украл личные данные клиентов и не стал подменять модели с Hugging Face на вредоносные (это был главный страх индустрии). Тем не менее пользователям рекомендовали сменить их API-ключи на случай, если до них робот всё же дотянулся.
Вам нужно зарегистрироваться, чтобы просматривать изображения.
ИтогВзлом ИИ-платформы с помощью ИИ-агента — это киберпанк, который мы заслужили. Но, к счастью, в эту игру могут играть двое, и в лагере «защиты» использование ИИ уже не так отстаёт от «атаки». Всего пару месяцев назад Anthropic пытались занять монополию в сфере кибербез-ИИ, но им помешало обострение Трампа.
Ну а чтобы меньше беспокоиться о взломах и сливах, напоминаю про нашу недавнюю
Вам нужно зарегистрироваться, чтобы видеть ссылки.
— никаких аккаунтов, SMS и аналитики. А чтобы всегда быть в курсе безопасных инструментов для работы, почаще заглядывай в OLinks, где мы регулярно обновляем
Вам нужно зарегистрироваться, чтобы видеть ссылки.
и не только.