人类和AI的协作决策

人工智能 (AI) 正在推动决策制定.任何拥有智能手机的人都可以处理大量信息并通过点击图标快速做出决定.他们可以购物、投资、选择朋友，而公司则使用人工智能来选择市场、设定价格和雇用员工.潜在的好处是巨大的，而且还在不断增长.但是这里到底发生了什么，谁在控制?我们如何在决策过程中更有效地与 AI 协作?

第二个相关问题是决策环境越来越丰富和动态.我们充斥着信息和选择.只是需要做出更多决定——这总体上是个好消息.然而，这也意味着个人和组织变得严重依赖人为支持.特别是当决策纯粹是例行公事或复杂且必须快速时，人类通常会将全部责任委托给 AI.

人机协作的挑战

因此，随着人类和 AI 协作增强决策制定，问题就出现了.这两种类型的代理不容易结合.一方面，人类往往注意力太近，处理信息缓慢，无法检测到相关变异.简而言之，人类是相对近视、行动迟缓和麻木不仁的.另一方面，如上所述，人工智能很容易走得太远、太快，而且往往过于敏感.更正式地说，人工智能本质上是远视和远视(与近视相反)、多动和过度敏感.

当这两种类型的代理在决策过程中协同工作时，这些风险将会加剧.组合系统可能同时聚焦近处和远处，处理快慢，反应被动和愤怒，所有这些都在同一时间.决策的协调性较差，并且可能会发生冲突.具有讽刺意味的是，数字化导致决策效率降低.

考虑在手术中使用 AI.为了有效，人工代理必须理解并信任外科医生的看法、偏好和工作速度.同样，外科医生需要相信人工智能的准确性和可靠性.但是，如果一个人走得太快，另一个人走得太慢，或者他们各自为政，互相忽视，医疗程序就会以灾难告终.这两种类型的代理必须协同工作，以确保实时做出有效的决策.

决策的新风险

这些发展超越了对决策制定的先前思考.迄今为止，研究主要集中在人类局限性带来的风险上，尤其是近视、偏见和特殊噪音，以及当这种扭曲感染人工智能时会发生什么.当然，这些都是主要问题.一旦以这种方式受到感染，数字系统就会迅速放大人类的局限性.

然而，即使在我们控制了人为偏见和噪音之后，也必须同样关注人工智能带来的新风险.因为数字化决策仍然可能影响太大、速度太快、反应太激烈.当然，它可能没有扭曲的先验，但无论如何它可能变得过于复杂和不透明.正如我在最近的书增强人性中解释的那样，人们会在这些情况下挣扎，并可能陷入依赖或自欺欺人.

大约 20 年前，Daniel Wegner 发现了类似的效果.他解释了大脑中的深层系统如何在深思熟虑或意图之前触发思想和行动，但人们仍然感到控制感.他将此称为有意识意志的错觉. It 也有积极的影响，包括支持自我意识和责任感. >

同样，人工智能可以产生意识意志的数字化幻觉.人们点击图标并进行在线选择，从而体验到一种有意控制的感觉.但事实上，关于结果的很多方面都是由隐形算法决定的.这会给自我理解和道德责任感带来风险，更不用说决策本身了.

事实上，最近的研究表明，人们确实会将 AI 的特征错误地归因于自己.因此，决策的数字化是否会增加控制的错觉并造成错误的自我效能感?如果是这样，尽管人们感觉更有权力，但真正的自主性会降低.为了应对这些风险，人们必须培养更强的自我调节技能，并学会在接受其他影响的同时避免一些数字影响.

最重要的是，人工智能为决策增加了前所未有的力量和影响力，但并非没有风险.当然，我们担心偏见和特殊噪音的负面影响是正确的.然而，在这样做时，我们不能丧失控制权或放弃重要的承诺，也不能与人工智能发生冲突.相反，人类和人工代理必须更深入地合作，并在决策过程中形成真正的伙伴关系.