安永推出了AI信任度测量工具

多国咨询公司安永会计师事务所(Ernst&Young)今天推出了Trusted AI平台，这是一种可通过网络界面访问的服务，可为AI系统的可信赖性分配数值。

受信任的AI平台考虑了诸如AI模型的目标，人类是否在循环中以及用于创建模型的基础技术等因素。然后使用分析模型对每个模型进行评分。

根据与VentureBeat宣布这一消息的一份声明，“它提供的技术分数也受到复杂的乘数的影响，基于对用户的影响，同时考虑到社会和道德影响等意外后果”。“对治理和控制成熟度的评估是减少剩余风险的进一步缓解因素。”

受信任的人工智能平台将于今年晚些时候推出，并考虑到安永会计师事务所去年发布的信任人工智能概念框架，以阐明其对偏见，道德和社会责任问题的看法。安永的框架规定，建立信任涉及遵守AI设计标准，寻求独立审计，培训高管和AI开发人员对其工作的道德影响，并可能召集道德咨询委员会，就像Google最近解散的那样。

可以放大或降低人工智能系统风险的因素包括模型的目标，代理的复杂性，内部运作的环境，以及环境中是否有人，安永可信人工智能领导者凯茜·科比在一封电子邮件中告诉VentureBeat。

过去一年中引入了许多工具和服务来检测AI偏差或减轻其影响，包括IBM的偏差检测云服务 和Pymetrics的审计AI，麻省理工学院的研究人员已经引入了自动偏差检测以及消除AI偏差的方法不失准确性。

标签：

版权声明：本文由用户上传，如有侵权请联系删除！