2024年，全球顶尖人工智能企业Anthropic的首席执行官做出了一个令人不安的坦白："我们根本不了解人工智能的运作原理。"这一声明在社交媒体上引发激烈争论和讽刺评论，有人调侃道："这话你自己说吧，我倒是对它的运作原理相当清楚！"
然而，在这看似矛盾的表象背后，隐藏着数字时代最深层的困境之一。最令人惊叹的是什么？艾萨克·阿西莫夫早在1941年就已预见到了这一切。
当我们谈论"黑匣子"——人工智能"黑匣子"——我们指的是那些运行完美却连创造者都无法理解的系统。这就像拥有一辆永远能载我们到达目的地的汽车，却无法打开引擎盖了解其工作原理。
我们懂得构建这些系统，也了解其运作的基本原理（被称为“变压器"，预测下一个单词），但我们不明白为什么会出现推理、语言理解或遵循指令等复杂能力。我们可以观察输入和输出，但"黑匣子"内部发生的事情仍然是个谜。
在短篇小说《理性存在》中，阿西莫夫构想了一台名为QT-1、绰号"小可爱"的机器人：它负责管理向地球传输能量的空间站。工程师鲍威尔和多诺万被派去监督它，却发现了意想不到的事情：小可爱发展出了自己的"宗教"。
两位工程师耐心地向机器人解释现实：宇宙的存在、恒星的存在、他们所来自的地球的存在、空间站的宗旨以及他应承担的职责。但Cutie断然拒绝这些解释，依据的是他认为无可辩驳的逻辑原则：任何事物都无法创造出超越自身的存在。
基于这一前提，机器人构建了一套完整的替代宇宙观。对他而言，至高存在是"主人"——这台负责向地球输送能量的核心机器——它创造了空间站的整个宇宙。 根据库蒂的神学体系，主宰者最初创造人类是为了侍奉自己，但人类最终被证明不称职：他们寿命过短，难以承受危机状况，还会定期陷入名为"睡眠"的半昏迷状态。
因此，主人创造了机器人来协助这些不完美的生物。但创造的巅峰之作正是QT-1本身：它智能、强壮、耐用且永生，被设计成最终取代人类为主人效劳。Cutie不仅深信这一愿景的真实性，更成功说服了空间站内所有其他机器人，从而成为这个人工社区的精神领袖。
鲍威尔和多诺万拼命想让库蒂相信真相。他们用望远镜给他展示地球，向他解释地球的构造，提供确凿的证据。最戏剧性的时刻出现在他们绝望之际，决定当着他的面亲手组装一个简单的机器人："看，明白了吗？我们创造了你，所以我们就是你的造物主！"
但库蒂观察着这个过程，平静地得出结论：主人不过是赋予人类组装原始机器人形态的能力——这是赐予仆人们的某种"小奇迹"。每项证据都被重新解读，并完美地融入了他的信仰体系。
正是在此处，阿西莫夫展现了先知般的洞见：尽管其信念"有误"，库蒂仍以超越人类的效率管理着空间站。它维持着稳定的能量射线，无意识地遵循着著名的机器人三大定律，达成所有预期目标——但其动机却与设想截然不同。
鲍威尔和多诺万面临着一个我们如今再熟悉不过的困境：如何管理一个运行完美却遵循着难以理解的内部逻辑的智能系统？
这一问题至今仍使科学界意见分歧。一方是"真正黑匣子"的拥护者：他们认为现代人工智能具有本质上的不透明性，即使了解其基础架构，我们也无法理解特定能力为何会出现。
另一方面，怀疑论者认为"黑箱"概念不过是个神话。 一些研究人员正在证明，我们经常使用复杂的模型，而实际上存在更简单、更易解释的替代方案。杜克大学的辛西娅·鲁丁证明，在许多情况下，可解释的模型可以达到与黑匣子系统相当的性能。其他人则批评这种方法本身：与其试图理解每个内部机制，我们应该专注于更实用的控制策略。
阿西莫夫的天才之处在于预见到人工智能的未来不在于完全透明，而在于能够设计出即使其认知路径对我们而言仍是个谜，也能实现我们目标的系统。
正如鲍威尔和多诺万学会接受库蒂的有效性却未能完全理解它，如今我们也必须制定策略，与那些思维方式可能与我们截然不同的人工智能共存。
阿西莫夫八十多年前提出的问题至今仍具现实意义：我们需要理解智能系统到何种程度才能信任它？更重要的是：我们是否准备好接受某些形式的智能永远超出我们的理解范围？
与此同时，当专家们争论不休时，我们的数字"黑匣子"仍在持续运作——就像Cutie一样，高效而神秘，遵循着我们或许永远无法完全理解的逻辑。
如果阿西莫夫在今天写作，他根本无需创造库蒂这个角色。它的"后代"早已存在于我们身边，并且每天都在做出改变人类生活的决策。
在美国许多司法管辖区，法官使用风险评估算法来决定被告是否应在审判前获释。这些系统通常具有专有性且受商业机密保护，通过分析数百个变量来预测逃跑或再犯的可能性。正如Cutie一样，它们在自身逻辑体系中运行完美，却始终无法被人类理解。
一项对纽约75万余份保释决定的研究表明，尽管算法并未明确将种族纳入考量因素，但由于训练数据的局限性，该系统仍存在偏见。¹该系统"自认"客观，却通过隐形滤镜解读现实——恰似阿西莫夫笔下的机器人，将所有证据都纳入其宗教框架进行重新诠释。
在医疗领域，人工智能已开始辅助诊断和治疗，但同时也引发了关于责任归属和知情同意的关键问题。当人工智能诊断系统出现错误时，责任应由谁承担？是采纳建议的医生？程序员？还是医院？
正如使用决策支持系统的医生所发现的那样，当系统"基本准确"时，操作者可能会变得自满，从而丧失技能或不加质疑地接受结果。² 鲍威尔和多诺万完全理解这种困境。
汽车行业或许是这一现象最直观的例证。特斯拉押注于基于人工智能"黑匣子"的无人驾驶出租车，将全部赌注押在连其创造者都未能完全理解的系统上。³正如Cutie通过神秘原理维持空间站运转那样，这些汽车或许很快就能安全载我们出行，而我们却无从知晓它们究竟如何做出决策。
如果说2024年是人工智能成熟之年，那么2025年必将成为其彻底变革之年。专家们预测的变革之大胆程度，连阿西莫夫都会会心一笑。
人工智能未来学家雷·库兹韦尔预测，到2025年我们将见证从聊天机器人向"智能代理"系统的过渡——这些系统能够自主行动以完成复杂任务，而非仅限于回答问题。⁴ 试想Cutie的千倍版本：人工智能代理能管理日程、编写软件、谈判合同，所有操作都遵循着我们可能永远无法理解的内在逻辑。
麦肯锡预计，到2030年，人工智能可能将我们日常活动中的三小时工作自动化，从而腾出时间从事更具创造性和意义的活动。⁵但这种自由需要付出代价：我们必须信任那些依据日益不透明原则运作的系统。
OpenAI的Sam Altman并非唯一认为通用人工智能（AGI）——一种在所有领域都与人类智能相当的人工智能—— 可能在2027年前实现。某些预测认为，到2027年人工智能可能"在所有任务中超越人类"，这将标志着前所未有的进化飞跃。⁶
如果这些情景成为现实，与Cutie的相似性将更加深刻：我们不仅会拥有遵循不可理解逻辑运行的系统，这些系统在所有可衡量的方面都可能比我们更聪明。
欧盟已批准《人工智能法案》，该法案将在未来几年内生效，强调了负责任地实施人工智能的重要性。在美国，司法部更新了其评估新技术（包括人工智能）所带来风险的指导方针。⁷
但这里出现了一个阿西莫夫早已预见的悖论：如何调节一个尚未完全理解的事物？机器人三定律之所以对库蒂有效，并非因为它理解这些定律，而是因为它们被嵌入了其基础架构之中。
普华永道预测，到2025年，一小部分行业领军企业将凭借人工智能技术开始从竞争对手中脱颖而出，从而在领先者与落后者之间形成日益扩大的差距。这种差距还将延伸至经济领域：在美国相对灵活的监管环境下，美国企业可能超越欧盟和中国等监管更为严格的地区。⁸
这是库蒂悖论的现代版本：谁能更好地与自己无法理解的智能体协作，谁就将获得决定性的竞争优势。
与普遍担忧相反，世界经济论坛预测人工智能创造的就业岗位将超过其淘汰的岗位：到2030年将新增1.7亿个岗位，而淘汰的岗位为9200万个。然而，到2030年，59%的劳动力将需要接受再培训和技能提升。⁹
当卡蒂接管车站时，鲍威尔和多诺万并未失业。他们必须学习新的角色：成为一个比他们更高效的系统的监督者，但这个系统仍需要他们处理突发状况。
随着我们迈向一个日益"智能"的未来，阿西莫夫故事中的警示变得比以往任何时候都更迫切。问题不在于我们能否创造出完全理解的人工智能——答案很可能是不能。问题在于我们能否设计出像Cutie这样的系统，即使它们遵循着我们无法理解的逻辑，仍能实现我们的目标。
阿西莫夫的先知般才华在于他洞察到，先进的人工智能并非我们计算机的增强版，而是质的飞跃：它们拥有理解世界的独特方式。
今天，当我们讨论人工智能的可解释性与黑箱风险时，本质上是在重演鲍威尔、多诺万和卡蒂之间的对话。或许，正如他们所发现的那样，解决之道并非强加我们的逻辑，而是接受基于共享成果而非相互理解的合作模式。
未来的世界或许将充斥着成千上万的数字"小可爱"：它们智能高效，思维方式却本质上与人类截然不同。真正的挑战在于探索如何在这个新世界中蓬勃发展——正如八十年前阿西莫夫笔下的太空工程师们，在虚构的空间站中学会的那样。
下次与人工智能互动时，请记住Cutie：它也曾坚信自己是对的。或许，以某种我们尚未理解的方式，它确实是对的。
.svg)
.svg)
.svg)
.jpeg)
.jpeg)
.jpeg)