CSIRO的Data61针对机器学习的攻击开发了疫苗

联邦科学与工业研究组织(CSIRO)Data61宣布其研究人员开发了一套技术，可以提供算法，抵御各种对抗性攻击。

Data61称其有效地进行“疫苗接种”，称用于保护人工智能(AI)和机器学习算法免受敌对攻击的技术能力是机器学习研究的重大进步。

根据科学组织的数字部门，算法从他们接受培训的数据中“学习”，以创建一个机器学习模型，可以有效地执行给定的任务，而无需特定的指令。一个例子是预测或准确分类图像和电子邮件 - 目前用于识别垃圾邮件，从X射线诊断疾病和预测作物产量的技术。

Data61表示，此类技术将很快推动汽车发展。

Data61机器学习组组长Richard Nock博士表示，通过在图像上添加一层噪声(如对手)，攻击者可以欺骗机器学习模型，对图像进行错误分类。

“对抗性攻击已被证明能够欺骗机器学习模型错误地将交通停车标志标记为速度标志，这可能对现实世界产生灾难性影响，”他说。

“我们实施对手的弱版本，例如对图像集合的小修改或失真，以创建更”困难“的训练数据集。当算法训练有暴露于小剂量失真的数据时，结果模型更强大，不受对抗性攻击。“

由于疫苗接种技术是根据最糟糕的对抗性例子构建的，因此Data61表示它们理论上应该能够抵御非常强烈的攻击。

“人工智能和机器学习可以帮助解决世界上一些最大的社会，经济和环境挑战，但如果不对这些技术进行有针对性的研究，这种情况就不可能发生，”Data61首席执行官阿德里安·特纳说，称这项研究对这一增长做出了重大贡献。对抗机器学习领域。

“Data61开发的针对对抗性攻击的新技术将引发一系列新的机器学习研究，并确保积极使用变革性人工智能技术。”

该公告是继11月份Data61 投资1900万澳元用于人工智能和机器学习未来科学平台之后，旨在针对人工智能和质量，健康和福祉，可持续能源和资源，弹性和有价值的环境等领域提供针对性的人工智能驱动解决方案，和澳大利亚和地区安全。