Hugging Face и VirusTotal объединяются для безопасного использования ИИ-моделей и данных

Платформа искусственного интеллекта с открытым исходным кодом Hugging Face объявила о начале сотрудничества с облачным антивирусным сканером VirusTotal, направленного на повышение безопасности моделей ИИ, наборов данных и связанных артефактов. Новая интеграция позволяет пользователям проверять загружаемые файлы на потенциальные угрозы ещё до их использования, снижая риск заражения и внедрения вредоносного кода в ИИ-проекты.

Теперь, когда пользователь загружает модель ИИ на Hugging Face, система автоматически взаимодействует с VirusTotal и предоставляет информацию о безопасности файла, собранную на основе анализа нескольких антивирусных движков. Любые обнаруженные угрозы сопровождаются ссылкой на общедоступный отчёт VirusTotal, где подробно описаны тип угрозы, способ заражения и рекомендации по устранению.

Новая функция помогает выявлять следующие риски:

• Подменённые файлы моделей — случай, когда злоумышленник заменяет оригинальные веса модели вредоносным кодом;

• Небезопасные зависимости — сторонние библиотеки и пакеты, содержащие уязвимости;

• Заражение данных — внедрение вредоносных или манипулятивных элементов в наборы данных;

• Скрытые бэкдоры — механизмы, позволяющие атакующему получать контроль над системой после загрузки модели.

Таким образом, интеграция Hugging Face и VirusTotal создаёт первый уровень защиты на этапе загрузки и распространения ИИ-моделей, позволяя исследователям и разработчикам работать с безопасными файлами и снижая вероятность внедрения угроз в продуктивные системы.

VirusTotal активно развивает аналитические инструменты на базе ИИ. В частности, Code Insight использует большие языковые модели (LLM) для анализа кода, понимания его поведения и объяснения потенциальных угроз. Для работы с файлами моделей и сериализации применяются специализированные инструменты:

• picklescan — проверка Python-пиклов на уязвимости десериализации;

• safepickle — безопасная десериализация объектов;

• ModelScan — анализ весов моделей и связанных артефактов на наличие подозрительных паттернов или небезопасных потоков данных.

Эти инструменты позволяют выявлять комбинированные угрозы, которые могут быть незаметны при обычном антивирусном сканировании.

Интеграция Hugging Face с VirusTotal стала актуальной на фоне реальных инцидентов. Ранее VirusTotal обнаружил фишинговую кампанию, скрытую в файлах SVG, имитирующих работу порталов судебной системы Колумбии. Механизм распространял вредоносное ПО, маскируясь под легальные графические файлы. Кампанию выявили после того, как VirusTotal добавил поддержку формата SVG в платформу AI Code Insight, что позволило проанализировать файлы с использованием машинного обучения и составить подробную сводку о подозрительной активности.

Такой подход демонстрирует, как инструменты анализа на базе ИИ могут выявлять скрытые угрозы, которые традиционные методы не всегда способны обнаружить.

Сотрудничество с VirusTotal открывает для разработчиков и исследователей ИИ ряд преимуществ:

1. Повышенная безопасность на этапе загрузки моделей и данных;

2. Снижение риска заражения и внедрения бэкдоров;

3. Доступ к отчётам о потенциальных угрозах с рекомендациями по их устранению;

4. Интеграция с существующими инструментами платформы Hugging Face, что делает процесс проверки моделей быстрым и прозрачным;

5. Адаптация к растущей экосистеме ИИ и open-source, где количество уязвимых и подозрительных моделей увеличивается с каждым годом.

Платформа Hugging Face совместно с VirusTotal создаёт безопасный контур для работы с ИИ, минимизируя риски для исследователей, разработчиков и конечных пользователей.