在线时间:8:00-16:00
迪恩网络APP
随时随地掌握行业动态
扫描二维码
关注迪恩网络微信公众号
开源软件名称:mindarmour开源软件地址:https://gitee.com/mindspore/mindarmour开源软件介绍:MindArmour简介MindArmour关注AI的安全和隐私问题。致力于增强模型的安全可信、保护用户的数据隐私。主要包含3个模块:对抗样本鲁棒性模块、Fuzz Testing模块、隐私保护与评估模块。 对抗样本鲁棒性模块对抗样本鲁棒性模块用于评估模型对于对抗样本的鲁棒性,并提供模型增强方法用于增强模型抗对抗样本攻击的能力,提升模型鲁棒性。对抗样本鲁棒性模块包含了4个子模块:对抗样本的生成、对抗样本的检测、模型防御、攻防评估。 对抗样本鲁棒性模块的架构图如下: Fuzz Testing模块Fuzz Testing模块是针对AI模型的安全测试,根据神经网络的特点,引入神经元覆盖率,作为Fuzz测试的指导,引导Fuzzer朝着神经元覆盖率增加的方向生成样本,让输入能够激活更多的神经元,神经元值的分布范围更广,以充分测试神经网络,探索不同类型的模型输出结果和错误行为。 Fuzz Testing模块的架构图如下: 隐私保护模块隐私保护模块包含差分隐私训练与隐私泄露评估。 差分隐私训练模块差分隐私训练包括动态或者非动态的差分隐私 差分隐私的架构图如下: 隐私泄露评估模块隐私泄露评估模块用于评估模型泄露用户隐私的风险。利用成员推理方法来推测样本是否属于用户训练数据集,从而评估深度学习模型的隐私数据安全。 隐私泄露评估模块框架图如下: 开始确认系统环境信息
安装源码安装
pip安装pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/{version}/MindArmour/{arch}/mindarmour-{version}-cp37-cp37m-linux_{arch}.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple
验证是否成功安装执行如下命令,如果没有报错 python -c 'import mindarmour' 文档安装指导、使用教程、API,请参考用户文档。 社区社区问答:MindSpore Slack。 贡献欢迎参与社区贡献,详情参考Contributor Wiki。 版本版本信息参考:RELEASE。 版权 |
请发表评论