您的机器学习(ML)模型安全吗？(5)

【风险3】模型训练数据集被窃取

训练模型需要投入大量的时间和资金成本。这个过程不仅需要收集到高质量的训练数据，还要确保数据样本被正确标注。有时，某些厂商可能会利用他人的模型为自己的未标注数据集打标签，从而节省大量标注时间和精力。这样，他们就能快速建立一个与之相当的模型，从而削弱他人的市场竞争力。

解决方案：采用严格的授权许可制度来监测使用情况

考虑到攻击者需要通过应用程序来处理他们的数据集，厂商可以通过实施严格的授权许可制度来控制应用程序的使用。比如限定每个时间段内可以进行的分类次数、限制总分类次数，并减少应用程序同时运行的实例数等。通过增加自定义控制来监测和限制不正常使用，并进行完整性保护。