您的机器学习(ML)模型安全吗？(3)

【风险2】 应用程序被复制或攻击

当应用程序部署在客户终端时，存在被非法使用或盗用的风险。常见攻击包括软件被复制并在未经授权的情况下使用，或者从应用程序中提取机器学习模型并用于自己的应用，如果是竞争对手，这将严重影响软件厂商的收入。大规模分析表明，ML模型被非法复用的情况非常普遍。

此外，应用程序本身也容易被攻击，影响模型安全。机器学习模型的应用通常包括在主CPU上运行的代码部分，负责接收和处理数据，这些环节易受输入操纵和输出完整性攻击。未经过逆向工程或修改保护的应用更易受此类威胁。

解决方案：使用强大的许可平台防止程序被攻击

建议软件厂商使用强大的许可平台，以防止模型复制、篡改、攻击，加强应用程序抵御逆向工程和篡改的能力，从而有效防御这类威胁，并确保自身和客户都能充分灵活地使用。