2025-02-17 企业动态 0
在这篇文章中，作者琰琰和维克多探讨了一个颇为惊人的发现：神经网络模型可能成为“病毒软件”传播的新载体。根据他们在arXiv上的最新研究论文，“EvilModel: Hiding Malware Inside of Neural Network Models”，恶意软件可以被嵌入到机器学习模型的“人工神经元”中，而几乎不会影响模型的性能。
他们发现，由于神经网络模型具有较好的解释性和泛化能力，通过将恶意代码嵌入到这些模型中，可以使其秘密地传播而不引起显著性能下降。例如，他们使用真实的恶意软件替换AlexNet模型中的50%左右的神经元，只有少量准确率损失（93.1%以上）。
此外，这种方法还能够规避防病毒引擎的安全扫描，因为反病毒系统通常无法检测到结构上保持一致但内容不同的事物。在实验中，研究人员证明了可以在1%准确率损失范围内，将178MB大的AlexNet模型嵌入36.9MB的大量恶意软件，而VirusTotal中的反病毒引擎并没有给出任何可疑提示。
随着人工智能技术日益发展，作者认为这种利用神经网络作为恶意软件传播载体的方法将变得越来越普遍。这意味着未来，我们需要更加关注如何保护我们的AI系统免受潜在威胁，并开发新的策略来识别和防止这种类型的攻击。
