Microsoft开源lnterpretML用于解释”AI黑盒子“

图片：微软

人工智能（AI）黑盒子问题是业界公认的最大的AI风险之一，例如战胜人类围棋职业选手的AlphaGo/Master/Zero“自学”的“神之一手”，很多是专家都无法解释的。在一些行业应用场景，例如法律和医疗，AI黑盒子问题将成为AI应用的一个障碍。

近日，微软研究院开源了一个旨在解决AI“黑盒子”问题的软件 工具 包——InterpretML，旨在帮助开发人员尝试介绍AI系统输出的解释方法。InterpretML目前处于alpha状态，代码 GitHub 上获得。

由于人工智能在法律和医疗保健等行业得到更频繁的应用，因此人工智能系统解释预测的能力越来越受到关注。

“如果医生，评委和其他决策者信任支持智能系统的模型，他们就可以做出更好的决策。更广泛地说，通过更全面地了解模型，最终用户可能更容易接受由AI支持的产品和解决方案，同时可能更容易满足不断增长的监管机构需求，“微软数据科学家和工程师今天在一篇 博客文章中 说道。

微软研究人员还认为，可解释性可以帮助开发人员制定关于培训AI模型或衡量方法之间一致性的最佳方法的决策。

除了InterpretML之外，微软在西雅图召开的年度开发者开发者大会上还宣布在Web上引入 用于文档创建 的Fluid框架、 Azure Kubernetes服务 的新增功能、以及 AI和机器人工具包 的第一部分。

在此之前，微软上周宣布其开放式神经网络交换（ ONNX ），现在支持   Nvidia的TensorRT   和   英特尔的nGraph，   用于Nvidia和英特尔硬件的高速推断。

微软是人工智能合作伙伴关系（Partnership on AI）的成员，这是一个由80多家科技公司和非营利组织组成的团体，他们 最近宣称AI 算法不适合审前保释程序的自动化，部分原因是缺乏对如何将原告标记为高风险或低风险的解释。

Azure云和人工智能负责人Seth Guthrie  上周曾宣称：微软参与开源项目的意愿 远远超过亚马逊或谷歌，Guthrie指出： “你看到的是一个完全拥抱开源的微软，无论是作为开源的使用者还是作为贡献者都是如此，我认为这是独一无二的。你可以看一下AWS，它对开源的贡献其实并不是很多，索取远大于贡献。甚至谷歌对开源的贡献也没有微软Azure做出的贡献大。”