MindfuL|BAE系统公司研发MindfuL技术，可为机器学习系统提高透明度并建立用户信任系统公司|技术|透

_原题为 BAE系统公司研发MindfuL技术，可为机器学习系统提高透明度并建立用户信任
[据军事嵌入式系统网站2020年7月15日报道]近日， BAE系统公司向美国国防先期研究计划局（DARPA）交付了MindfuLTM软件，该软件旨在提高机器学习系统的透明度。 MindfuL软件的交付是美国国防高级研究计划局能力感知机器学习（CAML）项目合同的一部分，也是该项目的第一个里程碑。
【MindfuL|BAE系统公司研发MindfuL技术，可为机器学习系统提高透明度并建立用户信任】将基于人工智能的系统从决策工具过渡到真正的“合作伙伴” ，离不开用户对系统的信任。虽然机器学习技术已趋于成熟，但这些系统仍然无法传达其决策（包括任务策略、相对于给定任务的训练完整性、可能影响其行动的因素或在特定条件下成功的可能性）的背景和信心。为了应对这些挑战， BAE系统公司提出了MindfuL解决方案，该系统将独立地“审核”基于机器学习的系统，并为最终用户提供可信度判断，以建立对机器学习系统的信任。 MindfuL的第一个软件版本提供了一个基准功能，当系统遇到一个未经训练的新环境时，它可以对系统进行检测。
BAE系统公司自主、控制和估计组产品线总监Chris Eisenbies说：“支撑机器学习和人工智能应用的技术正在快速发展，确保这些系统是否能够被集成、利用、并最终得到信任已经成为了一项亟需解决的难题。 MindfuL系统存储了相关数据，以便将当前环境与过去的经验进行比较，并提供易于理解的反馈结果。 ”
例如，该软件会提示：“机器学习系统已经在晴朗干燥的环境中进行了1000次避障导航，在类似的条件下，完成任务的准确率超过99% 。 ”或者是：“机器学习系统只在下雨的环境中进行了100次避障导航，在类似条件下准确率为80% ，建议手动控制。 ”
MindfuL软件由BAE系统公司和美国麻省理工学院计算机科学与人工智能实验室合作设计创建。 2019年，美国国防高级研究计划局授予了BAE系统公司价值约500万美元、为期三年的能力感知机器学习项目。根据项目内容， BAE系统公司的FAST LabsTM研发组织将在2020年晚些时候在模拟和原型硬件中展示该技术。该项目旨在利用BAE系统公司的自主性产品组合，以及20年的自主技术开拓历史的基础，解决能力感知机器学习领域的难题。项目工作在BAE系统公司位于美国马萨诸塞州伯灵顿和弗吉尼亚州阿灵顿的设施中进行。（国家工业信息安全发展研究中心
刘彧宽）