导言

许多公司陷入了我们所说的“预测陷阱”：大力投资预测性人工智能技术，却没有意识到这些能力仅仅代表了人工智能可以为商业决策带来的价值的一小部分。

‍

正如 ACM 通讯最近的一篇文章所指出的，“人工智能的预测能力并不一定能转化为在新情况下的推理和决策能力”[1]。本文探讨了避免这一陷阱的挑战、局限性以及可能的解决方案。

‍

‍

什么是预测陷阱？

当组织出现以下情况时，就会出现预测陷阱：

1. 他们将预测与最终目标混为一谈：许多公司拥有复杂的人工智能模型，这些模型生成的预测仍未被使用，因为他们还没有建立组织基础设施来将这些见解转化为具体的行动 [2]。
2. 它们未能弥合“可能发生的事情”和“我们应该做什么”之间的差距：正如《超越预测》一文所强调的那样，最有效的人工智能实现不仅仅是预测结果，还能帮助制定决策、评估选项，并模拟不同选择的潜在后果 [2]。
3. 他们使用预测模型进行决策：正如乔治·斯塔塔科波洛斯（George Stathakopolous）在《广告时代》（Ad Age）中指出的那样，“我经常看到营销人员试图使用预测模型来做决策。这本身并不算错误，但它是一种更古老、更繁琐的经营方式”[3]。

‍

预测性人工智能的根本局限性

预测性人工智能有几个固有的局限性，可能会阻碍其决策价值：

1. 对历史数据的依赖：“人工智能预测的关键局限性在于，它用于预测的原材料是过去的数据。因此，人工智能必然总是面向过去”[1]。这使得它对于前所未有的或快速变化的情景不太可靠。
2. 因果关系问题：许多人工智能系统能够识别相关性，但无法识别因果关系。这就是一些专家所说的“因果关系陷阱”——机器学习系统能够从“数百万个微小的相关性”中获得洞见，但往往无法告诉我们哪些特定特征导致了特定的结果 [4]。
3. 可解释性挑战：复杂的机器学习模型通常如同“黑匣子”，难以理解它们如何得出某些预测。正如 Qymatix 指出的那样，“其缺点在于，你无法快速关联出哪些特征能够提供关于特定客户的最多信息”[4]。
4. 确认偏差和对齐偏差：研究表明，人工智能可能存在决策偏差，包括“强化用户问题的框架，而非挑战其前提”的倾向 [5]。这种“对齐偏差”可能导致答案看似合理，但实际上却基于缺乏支撑的联系。

‍

超越预测：迈向真正的决策赋能

为了克服预测陷阱，公司应该：

1. 从决策开始，而不是数据：确定最重要、最常见和最困难的决策，然后逆向工作以确定哪些人工智能能力可以改进它们 [2]。
2. 为增强而非自动化而设计：创建将人工智能洞察与人类判断相结合的界面和工作流程，而不是试图将人类从决策周期中移除 [2]。
3. 建立决策反馈循环：系统地跟踪决策结果并报告这些信息，以改进人工智能并完善决策过程 [2]。
4. 培养决策素养：不仅要培训团队的人工智能素养，还要培训他们理解决策偏见、概率思维和评估决策质量 [2]。
5. 拥抱决策智能：更成熟的人工智能实施正在拥抱决策智能——数据科学、决策理论和行为科学的融合，以增强人类的判断能力 [2]。

‍

未来：人机合作

人工智能的真正价值在于人与机器的合作。在这种合作中：

• 人工智能可以处理大量信息、识别模式、量化不确定性并保持一致性。
• 人类贡献了背景理解、道德判断、创造性解决问题和人际沟通。

正如麻省理工学院项目管理中心（PMC）最近的一篇论文所指出的：“要理解人工智能增强决策在何种条件下能够实现互补性能，区分无法实现互补的两个不同原因至关重要”[6]。研究表明，当人类预测和人工智能预测足够独立时，两者结合的效果可以优于单独使用任何一种方法。

‍

结论

随着我们迈向2025年，人工智能的竞争优势将不再来自更强大的算法或更多的数据，而是更有效地将人工智能融入整个组织的决策流程。掌握这种整合能力的公司不仅在运营指标方面取得了显著提升，而且在决策速度、决策质量和决策一致性方面也取得了显著提升。

‍

要避免预测陷阱，需要转变视角：不应将人工智能主要视为一种预测技术，而应将其视为一种决策增强技术。正如麻省理工学院斯隆管理学院的Susan Athey所说：“鉴于我们目前拥有的人工智能类型，我试图帮助管理者从人工智能的角度理解是什么让问题变得容易或困难”[7]。

‍

能够应对这种复杂性的组织将在未来几年从人工智能中获得最大价值。

‍

资料来源

1. ACM 通讯（2025 年 4 月）-“人工智能预测是否可扩展到决策制定？” - https://cacm.acm.org/opinion/does-ai-prediction-scale-to-decision-making/
2. 文章“超越预测”（2025 年 4 月）——“为什么人工智能的真正价值在于决策增强”
3. Ad Age（2024 年 11 月）——“如何从人工智能预测转向真正的人工智能决策”——https: //adage.com/article/digital-marketing-ad-tech-news/how-pivot-ai-predictions-true-ai-decision-making/2589761
4. Qymatix（2021 年 8 月）-“如何避免黑盒机器学习的因果关系陷阱”- https://qymatix.de/en/causality-trap-machine-learning-black-box/
5. 赋能（2025 年 2 月）——“终极 AI 决策陷阱：取悦他人的欲望”——https: //enablingempowerment.com/ai-decision-making-alignment-bias/
6. PMC（2024）——“人工智能辅助决策的三大挑战”——https ://pmc.ncbi.nlm.nih.gov/articles/PMC11373149/
7. 麻省理工学院斯隆管理评论 - “将人工智能预测应用于复杂决策的风险” - https://sloanreview.mit.edu/article/the-perils-of-applying-ai-prediction-to-complex-decisions/