人工智能与民主之间的关系既不是线性的，也不是单向的，而是各种相互冲突的力量交织在一起，既加强了民主进程的基础，也破坏了民主进程的基础。

‍

公共广场的变革

人工智能深刻地改变了进行民主辩论的公共空间。这种变化远远超出了简单的虚假信息问题。我们正在目睹集体信息体验的支离破碎，而集体信息体验历来是现代民主的基本前提。

‍

当不同公民生活在由推荐算法构建的截然不同的信息现实中时，民主对话所需的共同基础就会丧失。

‍

令人啼笑皆非的是，人工智能在成倍增加可用信息来源的同时，也削弱了民主社会就什么是 "事实 "达成共识的能力。这种认识论上的侵蚀带来了比传播假新闻更深层次、更隐蔽的挑战。

‍

权力与能力的困境

民主政体面临着一个根本性的两难问题：人工智能决策需要极其具体的专业技术知识，但将这些决策完全委托给专家又意味着将他们排除在民主进程之外。因此，民主原则（由公民做出决定并为公民服务）与对专业知识的需求之间存在着无法解决的矛盾。

‍

日益复杂的人工智能系统不仅对普通公民不透明，有时甚至对开发这些系统的专家也不透明，从而加剧了这种紧张关系。当被管理的工具超出了人类的理解能力时，民主控制如何发挥作用？

‍

政治微目标和选举进程

在当代竞选活动中，通过人工智能进行政治微定位变得越来越复杂。人工智能系统通过分析大量选民数据集来创建高度个性化的政治信息。公正安全

‍

研究表明，以个性为目标、人工智能生成的政治广告比一般内容更有说服力。出版医学网

‍

人工智能的规模和效率使竞选活动能够同时为数百万选民生成定制内容，从而使微目标定位比以往任何时候都更加可行、更具成本效益。政治营销人CSET

‍

最近的研究表明，人工智能增强型竞选工具可以识别选民的心理弱点，并利用这些特点制作信息。OUPAcademicTechInformed

‍

民主方面的关切是实质性的：

• 研究表明，微目标定位可以利用心理弱点，从而证明了操纵的可能性 OUPAcademicTechInformed
• 人工智能会让选民主要接触与其现有观点一致的内容，从而助长两极分化 Lse
• 选民通常仍未意识到他们正在接收定制的政治内容SFGateTechInformed
• 资金雄厚的竞选团队可以使用更复杂的人工智能工具，可能造成不平等的政治影响 SFGateBrennancenter

投票系统和选举基础设施也受到人工智能的积极和消极影响：

• 人工智能可通过检测异常现象和监控基础设施以防潜在干扰来改善选举安全 R 街研究所布鲁金斯分校
• 人工智能可简化选民登记验证等流程，从而提高选举管理效率 CisaBrookings
• 然而，人工智能也带来了风险，如更复杂的网络钓鱼攻击、选举造假和大规模自动造假活动。

‍

民主参与和公民参与

人工智能为民主参与提供了机遇，也带来了挑战：

积极影响

• 更好地获取公民信息：人工智能工具可简化复杂的政府信息IeeeBrookings
• 更好地提供公共服务：人工智能系统可分析公民数据，帮助政府更有效地满足公民需求Nextcity + 2
• 扩展参与工具：Pol.is 等平台利用人工智能大规模分析公众意见ECNLBrookings
• 减少参与障碍：人工智能翻译服务可促进多语言公民参与ECNLBrookings

负面影响

• 信息操纵：人工智能生成的内容可用于传播虚假信息BrennancenterBrookings
• 现有偏见的放大：根据有偏见的数据训练的人工智能系统会延续和放大公民参与中的不平等布伦南中心布鲁金斯中心
• 降低人的能动性：在治理中过度依赖算法决策可能会削弱人的判断力和责任感
• 加剧数字鸿沟：获取人工智能增强型公民技术的机会不平等可能加深现有的参与差距Aiworldtoday + 2

‍

权力关系的重组

人工智能不仅改变了民主辩论的模式，而且正在深刻调整社会内部的权力关系。现在，对人工智能基础设施的控制代表着一种权力形式，它可以与传统上由议会等民主机构行使的权力相媲美，甚至更胜一筹。

‍

我们正在目睹决策权从受民主控制的公共机构向按照不同逻辑运作的私营实体转移。这种权力的转移往往发生在无形之中，通过将决策权逐步下放给自动化系统，而这些系统的运行参数并不总是透明或民主确定的。

‍

重新定义民主参与

人工智能正在改变民主参与的概念。一方面，它为更直接和参与性更强的民主形式提供了工具，另一方面，它又为民主参与引入了新的认知和技术障碍。在这一过程中，个人意见的价值也被重新定义：在算法日益个性化的背景下，如何区分真正的个人偏好和由推荐系统诱发的偏好？

‍

这种矛盾心理也体现在人工智能辅助审议系统中：它们可能会让复杂的决策过程变得更容易理解，但也有可能将需要公众进行更深入思考的问题过于简单化。

‍

民主体制的蜕变

传统的民主体制是在前数字时代构想出来的，很难适应技术创新所带来的速度。人工智能的快速发展与民主进程的缓慢步伐之间的时间不同步造成了治理真空，有可能被非民主决策机制所填补。

‍

我们面临的挑战不是简单地通过现有机构来监管人工智能，而是重新思考这些机构，使其适合人工智能日益成为社会、经济和政治进程核心的时代。

‍

人工智能时代的公民新概念

为了应对这些挑战，必须发展一种新的民主公民概念，将对人工智能作用的认识纳入其中。这意味着既要克服只将人工智能视为民主进步机遇的天真技术乐观主义，也要克服只将其视为威胁的悲观主义。

‍

相反，这需要培养公民素养，包括批判性地评估算法影响的能力，有意识地参与复杂技术问题辩论的能力，以及要求开发和实施具有重大社会影响的人工智能系统的人提高透明度和承担责任的能力。

‍

归根结底，人工智能与民主之间的关系并不是由技术本身所决定的，而是取决于我们的集体能力，即想象并构建机构、规范和实践，使技术发展能够加强而不是削弱基本的民主价值观。

‍

关于人工智能与民主的常见问题

‍

人工智能如何加强民主参与？

人工智能可以通过使政府信息更易于获取、实现多语言参与、大规模分析公众意见以及个性化公民参与体验来加强民主参与。IeeeOECD活动例如，人工智能增强的翻译服务可以让语言少数群体更充分地参与民主进程，ECNL，而数据分析工具可以帮助政府识别和解决公共服务提供中的不平等问题。Nextcity + 2

‍

人工智能对民主制度最令人担忧的风险是什么？

最重要的风险包括：破坏共同事实的有说服力的错误信息和深度伪造信息的扩散；通过微目标政治内容进行的操纵；将某些群体排除在民主进程之外的OUP学术媒体管理算法偏见；以及选举基础设施的安全漏洞。Sage Journals + 5研究表明，这些风险不仅仅是理论上的--有研究表明，人工智能生成的政治内容根据个人心理特征定制，具有很强的说服力。PubMed + 2

‍

政府如何监管政治竞选中的人工智能？

有效的监管方法包括：对人工智能生成的政治内容提出强制性披露要求；限制可用于政治微定位的个人数据类型；建立独立监督机制，对竞选活动的人工智能系统进行监督；开展公共教育活动，提高选民对人工智能增强型说服技术的认识。PBS + 4欧盟《人工智能法》提供了一个基于风险的监管框架范例，专门处理在民主进程中使用人工智能的问题。欧洲 + 2

‍

公民在人工智能治理中应发挥什么作用？

通过公民大会、公众咨询和持续的利益相关者参与进程等参与机制，公民应有大量机会塑造人工智能治理。布鲁金斯研究表明，让不同的利益相关者参与人工智能的整个生命周期，可以建立更可靠的系统，更好地反映社会价值。Adalovelaceinstitute + 13《卡姆登数据宪章》等成功模式表明，公民参与可为在公共服务中使用人工智能建立道德框架。经济合作与发展组织

‍

如何保护选举基础设施免受人工智能威胁？

保护策略包括：实施强有力的网络安全措施，如多因子身份验证；培训选举官员识别人工智能增强的网络钓鱼企图；开发系统以识别和反击人工智能生成的有关投票的错误信息；Sophos News为官方选举通信建立验证流程；以及为关键选举基础设施创建冗余系统。ABC News + 2网络安全和基础设施安全局（CISA）为选举官员提供了降低人工智能风险的具体指南。网络安全和基础设施安全局

‍

人工智能如何改变公民与政府之间的关系？

人工智能可以改变公民与政府的关系，使公共服务更加个性化，为公民参与创造新的渠道，Nextcity使某些政府职能自动化，并有可能改变民主制度中的权力动态。EffOECD这种转变的方向在很大程度上取决于治理者的选择，是以加强民主问责制的方式实施人工智能，还是将权力集中在监督有限的技术系统中。科学导向 + 2

民主背景下的 IA 治理需要哪些国际合作？

国际合作对于建立共同标准、防止监管分散、应对人工智能的跨境影响以及促进人工智能发展中民主价值观的一致性至关重要。经合组织+2《经合组织人工智能原则》是国际协调的典范，提供了一个全球 47 个司法管辖区采用的共同框架，同时允许各国灵活实施。经合组织布鲁金斯

‍

我们如何确保人工智能有利于民主而不是破坏民主？

确保人工智能造福于民主需要：积极主动的基于价值的治理框架；有意义的透明度和问责制要求；人工智能开发和监管的参与式方法；数字扫盲投资；保护人工智能应用中的基本权利；以及人工智能系统及其开发者的问责机制。Eff + 4

有证据表明，预见性治理方法比被动监管更有效。经济合作与发展组织布鲁金斯

‍

结论

人工智能为全球民主制度带来了重大机遇和挑战。我们的全面审查得出了几个重要结论：

1. 技术在继续演变：制造和传播虚假信息的人工智能工具越来越先进，也越来越容易获取，这就要求我们不断保持警惕并采取适应性对策。对话政治
2. 影响是有背景的：人工智能增强的虚假信息在不同的社会、政治和媒体背景下产生的影响大相径庭，一些社会比另一些社会更具适应力。华盛顿邮报 + 2
3. 解决方案需要合作：有效应对人工智能错误信息需要技术公司、政府、民间社会和公民之间的多方合作。Acigjournal + 4
4. 人类的判断力仍然至关重要：尽管人工智能检测系统取得了进步，但人类的批判性思维和媒体素养仍然是抵御复杂虚假信息的最终防线。VtAARP
5. 需要细致入微的理解：除技术解决方案外，应对人工智能增强的虚假信息还需要解决潜在的社会两极分化、媒体生态系统的挑战以及公民教育的差距。泰勒与弗朗西斯自然