美国军事研究人员正在深入研究深度神经网络，以在战地物联网上利用新技术的强大力量。

美国陆军和工业研究人员本周表示，他们已经开发出一种“置信度指标”，用于评估深度神经网络中使用的AI和机器学习算法的可靠性。这一指标旨在通过严格基于系统的训练来限制预测以进一步提高可靠性。目标是开发基于人工智能（AI）的系统，当系统提供超出其训练范围的信息时，它们不易受到欺骗。

SRI International公司自2018年以来一直与美国陆军研究实验室合作，作为美国陆军的物联网野战协作研究联盟互联网的一部分。美国陆军的合作伙伴正在研究“强化”机器学习算法的方法，以使其不易受到研究人员认为将是AI对策的影响。

美国陆军科学家Brian Jalaian表示，研究的目标之一是创建“强大而有弹性的下一代算法”。Jalaian补充说，美国陆军研究实验室的方法“可以使用现代机器学习算法作为陆军许多现代算法的附加模块，这些现代机器学习算法基于用于视觉图像的深度神经网络。”

美国陆军研究人员希望将这一新指标应用于陆军指挥与控制、决策支持系统以及精确的火力之中。

美国陆军行业小组对他们的神经网络度的研究已经发表了相关研究报告。这些研究报告中的方法被称为“基于属性的置信度指标”，它表征了深度神经网络输出和输入的组合是否值得信任。

美国陆军研究人员指出，深度神经网络“在训练分布范围之外的输入上是脆弱的，因此容易受到对抗性攻击”。他们补充说，该度量标准不需要访问训练数据，也不需要使用验证数据集训练校准模型。他们补充说：“因此，即使只有经过训练的模型可用于推断，新的指标也可以使用。”

美国陆军研究人员还与AI社区合作开发容器化软件，以衡量对在多种应用中运行的算法的信心。

其中的应用是“战地物联网”，它将使用弹性神经网络模型来部署智能设备网络。这些战场设备必须经过加固才能抵御网络攻击和其他攻击。置信度指标被视为建立对美国陆军下一代基于人工智能（AI）的系统的信任的第一步。

Jalaian表示：“我们没有办法检测到最强大的最新攻击，例如[对抗性]补丁，这些攻击会给图像增加噪音，从而导致错误的预测。”美国陆军提出的生成模型“在底层原始深度神经网络中调整原始输入图像的各个方面。” 他补充说，原始网络的“后期评估对这些生成的输入的响应，以测量模型的一致性。”

乔治·利奥波德2020年4月3日