Salesforce最近开放了基金会的资源 ， 该基金会是AI Economist框架的一部分 ， 是一种经济模拟 。Foundation模拟可用于通过强化学习探索AI税收政策 。为配合发布 ， 该公司本周发布了所谓的模拟卡 ， 该文件记录了模拟版本的使用 ， 风险和偏差来源 。
Simulation Cards不断努力 ， 为历史上的黑匣子系统带来透明度 。在过去的一年中 ， Google推出了Model Cards ， 该Model Cards源自2018年10月发布的Google AI白皮书.Model Cards指定了模型架构 ， 并深入分析了有助于确保在给定用例下实现最佳性能的因素 。在Microsoft致力于“数据集数据表”或旨在通过记录数据集的创建 ， 组成 ， 预期用途 ， 维护和其他属性来增强信任和问责制的数据表之后 ， 出现了“模型卡”的想法 。两年前 ， IBM在自愿情况说明书中提出了自己的模型文档形式由开发和提供AI的公司完成并发布的《供应商合格声明》(DoC) 。
仿真卡的目的类似于模型卡和数据表的目的 。但是 ， 根据Salesforce的说法 ， 仿真卡反映了这样一个事实 ， 即仿真与受过训练的模型和数据集不同 ， 因为它们旨在创建感兴趣的场景 。这些方案可能包含偏差 ， 偏差可能是有意内置的 ， 也可能是在创建过程中做出的设计选择的意外副作用 。由于模拟会创建许多具有各种形状和大小的数据集 ， 因此 ， 滥用的可能性大于可能包含偏差的单个固定数据集 。
基础模拟卡分为几个部分：模拟详细信息 ， 基本信息 ， 预期用途 ， 因素 ， 度量标准 ， 定量分析 ， 道德考量以及注意事项和建议 。模拟详细信息提供模拟的日期和发布组织的名称 ， 以及任何关键字 ， 许可证 ， 联系信息和相关的版本号 。“基本信息”和“预期用途”部分涵盖了合著者考虑的有关模拟及其应用程序的顶级信息 。Factors考察了模拟所做的建模假设 ， 而Metrics和Quantitative Analyzes概述了用于测量结果的指标 。最后 ，
如果有的话 ， 还有什么样的第三方采用模拟卡尚待观察 ， 但Salesforce本身表示 ， 它致力于与未来的模拟一起发行卡 。“我们鼓励研究人员和开发人员针对软件版本发布类似的仿真卡 ， 以广泛提高仿真框架的透明度和道德使用 。人工智能仿真为研究人员提供了生成数据和评估捕捉真实世界一部分的虚拟经济成果的能力 。” Salesforce在博客中写道 。“不道德的模拟会带来更大的道德风险 。结果 ， 我们对透明度的承诺变得至关重要 。”
【Salesforce的模拟卡详细说明了其用途 以使人工智能模型更加透明】
推荐阅读
- 五色凉皮的做法 五色凉皮的做法介绍
- 鸡蛋壳养花的好处
- 鱼缸的水特别腥怎么办
- 女人每天喝铁皮石斛的好处 女人喝铁皮石斛的好处是什么
- 养花哪些盆不能用
- 王者名字阳光温柔 温暖好听的王者名字推荐
- 知足歌词表达什么 知足歌词表达的含义
- 梦见一个人的含义 梦见一个人代表什么
- 为什么有的鱼缸的水特别清
- 无烟煤好还是有烟煤好 烟煤和无烟煤的区别