教育新闻网企业AI的领导者DataRobot今天发布了 一项新研究，揭示了美国和英国近一半(42%)的AI专业人员“非常”或“极其”担心AI偏见。这项研究基于对350多名参与AI和机器学习购买决策的美国和英国高管的调查得出的结果-发现“品牌声誉受损”和“客户信任度下降”是最受AI偏见影响的因素，促使93 %的受访者表示，他们计划在未来12个月内对AI偏差预防计划进行更多投资。
DataRobot可信AI副总裁Ted Kwartler说：“越来越多的组织正在部署AI，因为他们认识到该技术是当今商业环境中竞争的关键成功因素。” “尽管有这个事实，但我们发现AI的成熟度差异很大-许多组织仍在使用不可信任的AI系统。”
DataRobot的研究发现，尽管大多数组织(71%)目前依靠AI来执行多达19个业务功能，但19%的组织使用AI来管理多达20-49个功能，而10%的技术利用该技术来解决50多个功能。虽然在企业内部管理AI驱动的功能可能非常有价值，但也会带来挑战。并非所有AI都一视同仁，并且如果没有适当的知识或资源，公司可能会以有害无益而不是有益的方式选择或部署AI。
该调查发现，超过三分之一(38%)的AI专业人员仍在使用黑盒AI系统-这意味着他们几乎无法理解其AI解决方案的数据输入是如何被使用的。缺乏可见性可能导致受访者担心其组织内出现AI偏差。
为了应对AI偏见的情况，所有AI专业人员中有83%的人表示他们已经建立了AI准则，以确保AI系统得到正确维护并产生准确，可信赖的输出。此外：
60%的人创建了警报以确定数据和结果何时与培训数据不同
59%的人衡量AI决策因素
56%的人正在部署算法以检测和缓解训练数据中的隐藏偏见
该调查还发现了美国和英国受访者之间的文化差异，这可能是由每个地区的法规和文化环境所驱动。尽管美国受访者最担心的是紧急情况的偏见-这是由于用户与系统设计之间未对准而产生的偏见，但英国受访者更担心的是技术偏见-或由于技术限制而产生的偏见。
为了加强预防AI偏差的努力，有59%的受访者表示他们计划投资于更先进的白盒系统，有54%的受访者表示他们将雇用内部人员来管理AI信任，还有48%的受访者表示他们打算邀请第三方供应商监督AI信任。除了这些预防AI偏见的措施外，全球所有受访者中有85%的人认为AI监管将有助于定义什么构成AI偏见以及应如何预防。
DataRobot人工智能战略副总裁Colin Priest说：“我们的发现表明，人工智能偏见仍然是当今组织真正关心的问题，这是有充分理由的。” “尽管许多组织已开始采取正确的措施来减轻AI偏见-例如摆脱黑匣子系统并建立内部AI准则-但要赢得企业和消费者的信任，还有许多工作要做。每个企业都必须将AI偏见教育作为优先事项，以便他们可以在自己的AI系统中实施关键策略，以帮助防止这种情况的发生。”
