沙虫科技网logo.png3D科技网

3D科技网
提供IT业界的新鲜事、奇趣事和热门焦点,掌控最热最新的互联网新闻、科技新闻和IT业界动态。
3D科技网

Microsoft开源lnterpretML用于解释黑盒AI

微软研究院今天开源了一个旨在解决AI“黑匣子”问题的软件工具包。InterpretML旨在帮助开发人员尝试介绍AI系统输出的解释方法。InterpretML目前处于alpha状态,可在GitHub上获得。

由于人工智能在法律和医疗保健等行业得到更频繁的应用,因此人工智能系统解释预测的能力越来越受到关注。“如果医生,评委和其他决策者信任支持智能系统的模型,他们就可以做出更好的决策。更广泛地说,通过更全面地了解模型,最终用户可能更容易接受由AI支持的产品和解决方案,同时可能更容易满足不断增长的监管机构需求,“微软数据科学家和工程师今天在一篇博客文章中说。

微软研究人员还认为,可解释性可以帮助开发人员制定关于培训AI模型或衡量方法之间一致性的最佳方法的决策。

此举是在微软在西雅图召开年度Build开发者大会之际,该公司在Web上引入了用于文档创建的Fluid框架,Azure Kubernetes服务的新增功能,以及AI和机器人工具包的第一部分。

在构建之前,微软上周宣布其开放式神经网络交换(ONNX)现在支持 Nvidia的TensorRT 和 英特尔的nGraph, 用于Nvidia和英特尔硬件的高速推断。

微软是人工智能合作伙伴关系的成员,这是一个由80多家科技公司和非营利组织组成的团体,他们最近宣称算法不适合自动审前保释程序,部分原因是由于缺乏对原告如何标记为高风险或低风险。

Azure云和人工智能负责人Scott Guthrie 上周断言微软参与开源项目的意愿远远超过亚马逊或谷歌。

“我认为你看到一个微软都非常接受开放,无论是作为消费者,还是作为贡献者,我认为这是独一无二的。如果你看一下AWS对开源的贡献,那就不是很多了。有很多消费,但没有很多贡献,我认为即使你相对于我们在Azure上做出的贡献量来看谷歌,我认为人们在添加它时经常会感到惊喜“起来。VentureBeat已要求提供有关该工具如何在Microsoft内部使用的更多详细信息。如果我们收到回复,这个故事将会更新。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

相关推荐