2025-02-17 企业动态 0
在西安疫情的严峻背景下，神经网络正悄然成为新的恶意软件传播途径。国科大最新研究表明，即使嵌入了恶意软件，神经网络模型的性能也只会下降不足1%。这一发现震惊了计算机安全领域，对于预防和打击新型病毒软件传播提出了前所未有的挑战。
据了解，这项研究利用了神经网络模型中的冗余神经元特性，将大量恶意软件秘密地嵌入到模型中，而不会显著影响其性能。这意味着攻击者可以通过这种方法将恶意代码广泛传播，并且这些代码可能长时间躲避检测，从而对个人数据和系统安全构成巨大威胁。
为了规避检测，攻击者通常会选择合适的现有模型或训练自己的数据集，以确保嵌入更多的恶意软件，同时保持模型性能。然后，他们会选择合适的层来嵌入恶意代码，并评估后续可能出现的问题。如果需要，可以重新训练模型以提高性能。一旦准备好，攻击者就可以通过供应链污染等方式发布该模型，让接收者下载并运行带有隐蔽的恶意软件。
受影响的是不仅仅是个人用户，也包括企业和政府机构，因为他们更容易拥有高级别、规模较大的神经网络系统，这些系统更加易被大量恶意软件感染。此外，由于这类攻击往往依赖于供应链更新渠道，因此即便目标设备进行了安全更新，但仍然存在被潜在危险信息包装后的“黑天鹅”事件发生的情况。
随着人工智能技术日益普及，这种基于神经网络的隐蔽传播模式越来越难以捉摸，加强对AI应用场景下的安全监控与保护已成为迫切需求。在未来，我们将看到更多针对这一风险的手段和策略，以及如何有效地应对此类威胁。
