Китайские исследователи успешно внедрили вирус в нейросеть

Китайские исследователи сообщили, что смогли внедрить вредоносное ПО в половину узлов модели искусственного интеллекта. По их мнению, вредоносы можно успешно встраивать непосредственно в искусственные нейроны, составляющие модели машинного обучения, таким образом, чтобы их нельзя было обнаружить.

Как сообщается, при этом сама нейросеть сможет продолжить выполнение поставленных задач в обычном режиме.

Скрытая доставка вредоносного ПО с возможностью уклонения от обнаружения имеет решающее значение для продвинутых кампаний по вредоносному ПО. Метод, представленный исследователями, обеспечивает скрытую доставку вредоносных программ и предотвращает их обнаружение с помощью моделей нейронных сетей.

Модели нейронных сетей обладают хорошей способностью к обобщению. Встраивая вредоносное ПО в нейроны, вредоносное ПО может быть доставлено незаметно с незначительным или даже нулевым влиянием на производительность нейронных сетей.

Эксперименты с реальными образцами вредоносных программ показали, что замена примерно 50 % нейронов в модели AlexNet на вредоносное ПО по-прежнему обеспечивает точность модели выше 93,1 %. Исследователи показали, что 36,9 МБ вредоносных программ можно встроить в модель AlexNet размером 178 МБ с потерей точности 1%. При этом вредоносное ПО остается незаметным для антивирусов.

«По мере того как нейронные сети становятся все более широко используемыми, этот метод станет универсальным для доставки вредоносных программ», — отмечают авторы исследования.

Источник 📢