2025-02-17 企业动态 0
在这篇文章中，作者琰琰和维克多探讨了一个颇为惊人的发现：神经网络模型可能成为“病毒软件”传播的新载体。根据他们的研究，恶意软件可以被嵌入到机器学习模型中，而几乎不会影响模型的性能。这项研究由中国科学院大学团队进行，他们发表了一篇名为“EvilModel: Hiding Malware Inside of Neural Network Models”的论文。
通过实验，研究人员发现，即使将AlexNet模型中的50%左右的神经元替换成恶意软件，其准确率仍然能够保持在93.1%以上。这些嵌入式恶意软件成功地规避了防病毒引擎的安全扫描，因为它们并没有改变神经网络结构。
此外，这项技术还允许攻击者隐藏大量恶意软件。在测试中，一款178MB大小的AlexNet模型可以嵌入36.9MB大小的恶意软件，并且VirusTotal上的反病毒引擎未能检测出任何异常迹象。
这种方法对计算机安全构成了威胁，因为它使得攻击者能够秘密地传播恶意代码。随着人工智能技术日益发展，这种潜在风险有可能变得更加严重。
为了进一步了解这一点，我们需要深入分析一下嵌入恶意软件所需的一般步骤。首先，攻击者会设计一个具有冗余神经元的大型神经网络，然后选择一个现有的高性能模型或使用数据集训练自己的网络。此后，他们会选择合适的地层来插入恶意代码，并评估其对性能影响。如果必要，他们会重新训练模型以提高性能。一旦准备好，该模式就可以被发布到公共存储库或其他渠道，以便接收者下载并从中提取嵌入式恶意代码。
提取过程与嵌入相似，只不过是逆向操作。在接收端，将参数转换回字节流，再解码得到原始数据。此外，还有额外措施，比如验证散列值以确认正确性，以及设置阈值来阻止超出预定范围的情形发生。
总结来说，这项研究揭示了基于神经网络模型潜在威胁，它们不仅提供了隐蔽传输数据的手段，而且还展示出了巨大的容量，可以承载大量甚至整个系统控制程序。这一发现强调了保护AI应用免受黑客利用以及加强当前防御措施至关重要性。
