文档反馈

问题文档片段

问题文档片段包含公式时，显示为空格。

提交类型

issue

有点复杂...

找人问问吧。

PR

小问题，全程线上修改...

一键搞定！

请选择提交类型

问题类型

规范和低错类

- 规范和低错类：

- 错别字或拼写错误，标点符号使用错误、公式错误或显示异常。

- 链接错误、空单元格、格式错误。

- 英文中包含中文字符。

- 界面和描述不一致，但不影响操作。

- 表述不通顺，但不影响理解。

- 版本号不匹配：如软件包名称、界面版本号。

易用性

- 易用性：

- 关键步骤错误或缺失，无法指导用户完成任务。

- 缺少主要功能描述、关键词解释、必要前提条件、注意事项等。

- 描述内容存在歧义指代不明、上下文矛盾。

- 逻辑不清晰，该分类、分项、分步骤的没有给出。

正确性

- 正确性：

- 技术原理、功能、支持平台、参数类型、异常报错等描述和软件实现不一致。

- 原理图、架构图等存在错误。

- 命令、命令参数等错误。

- 代码片段错误。

- 命令无法完成对应功能。

- 界面错误，无法指导操作。

- 代码样例运行报错、运行结果不符。

风险提示

- 风险提示：

- 对重要数据或系统存在风险的操作，缺少安全提示。

内容合规

- 内容合规：

- 违反法律法规，涉及政治、领土主权等敏感词。

- 内容侵权。

请选择问题类型

问题描述

点击输入详细问题描述，以帮助我们快速定位问题。

提交

文档反馈

mindarmour

MindArmour是MindSpore的工具箱，用于增强模型可信，实现隐私保护机器学习。

class mindarmour.Attack

所有通过创建对抗样本的攻击类的抽象基类。

对抗样本是通过向原始样本添加对抗噪声来生成的。

batch_generate(inputs, labels, batch_size=64)

根据输入样本及其标签来批量生成对抗样本。

参数：

• inputs (Union[numpy.ndarray, tuple]) - 生成对抗样本的原始样本。

• labels (Union[numpy.ndarray, tuple]) - 原始/目标标签。若每个输入有多个标签，将它包装在元组中。

• batch_size (int) - 一个批次中的样本数。默认值：64。

返回：

• numpy.ndarray - 生成的对抗样本。

abstract generate(inputs, labels)

根据正常样本及其标签生成对抗样本。

参数：

• inputs (Union[numpy.ndarray, tuple]) - 生成对抗样本的原始样本。

• labels (Union[numpy.ndarray, tuple]) - 原始/目标标签。若每个输入有多个标签，将它包装在元组中。

异常：

• NotImplementedError - 此为抽象方法。

class mindarmour.BlackModel

将目标模型视为黑盒的抽象类。模型应由用户定义。

is_adversarial(data, label, is_targeted)

检查输入样本是否为对抗样本。

参数：

• data (numpy.ndarray) - 要检查的输入样本，通常是一些恶意干扰的样本。

• label (numpy.ndarray) - 对于目标攻击，标签是受扰动样本的预期标签。对于无目标攻击，标签是相应未扰动样本的原始标签。

• is_targeted (bool) - 对于有目标/无目标攻击，请选择 True / False。

返回：

bool。

• 如果为 True，则输入样本是对抗性的。

• 如果为 False，则输入样本不是对抗性的。

abstract predict(inputs)

使用用户指定的模型进行预测。预测结果的shape应该是 $(m,n)$，其中n表示此模型分类的类数。

参数：

• inputs (numpy.ndarray) - 要预测的输入样本。

异常：

• NotImplementedError - 抽象方法未实现。

class mindarmour.Detector

所有对抗样本检测器的抽象基类。

abstract detect(inputs)

从输入样本中检测对抗样本。

参数：

• inputs (Union[numpy.ndarray, list, tuple]) - 要检测的输入样本。

异常：

• NotImplementedError - 抽象方法未实现。

abstract detect_diff(inputs)

计算输入样本和去噪样本之间的差值。

参数：

• inputs (Union[numpy.ndarray, list, tuple]) - 要检测的输入样本。

异常：

• NotImplementedError - 抽象方法未实现。

abstract fit(inputs, labels=None)

拟合阈值，拒绝与去噪样本差异大于阈值的对抗样本。当应用于正常样本时，阈值由假正率决定。

参数：

• inputs (numpy.ndarray) - 用于计算阈值的输入样本。

• labels (numpy.ndarray) - 训练数据的标签。默认值：None。

异常：

• NotImplementedError - 抽象方法未实现。

abstract transform(inputs)

过滤输入样本中的对抗性噪声。

参数：

• inputs (Union[numpy.ndarray, list, tuple]) - 要转换的输入样本。

异常：

• NotImplementedError - 抽象方法未实现。

class mindarmour.Defense(network)

所有防御类的抽象基类，用于防御对抗样本。

参数：

• network (Cell) - 要防御的MindSpore风格的深度学习模型。

batch_defense(inputs, labels, batch_size=32, epochs=5)

对输入进行批量防御操作。

参数：

• inputs (numpy.ndarray) - 生成对抗样本的原始样本。

• labels (numpy.ndarray) - 输入样本的标签。

• batch_size (int) - 一个批次中的样本数。默认值：32。

• epochs (int) - epochs的数量。默认值：5。

返回：

• numpy.ndarray - batch_defense 操作的损失。

异常：

• ValueError - batch_size 为 0。

abstract defense(inputs, labels)

对输入进行防御操作。

参数：

• inputs (numpy.ndarray) - 生成对抗样本的原始样本。

• labels (numpy.ndarray) - 输入样本的标签。

异常：

• NotImplementedError - 抽象方法未实现。