人工智能作为引领新一轮科技革命和产业变革的战略性技术，正深刻改变着人类生产生活方式。习近平总书记在主持二十届中共中央政治局第二十次集体学习时强调：“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。”这一重要论述为我们牢牢掌握人工智能发展和治理主动权，推动人工智能健康有序发展，提供了根本遵循。
人工智能带来的风险挑战
当前，人工智能进入技术加速突破与广泛应用交织的发展阶段，逐渐从实验室走向经济社会各领域，治理滞后与风险外溢问题日益凸显。
数据开放与信息安全的两难困境。数据要素是数字化、网络化、智能化的基础，是人工智能发展的基石。人工智能在不同场景的大规模应用，都需要基于海量数据进行标注、学习和训练，从中发现规律、获取信息、作出决策。跨领域、跨行业数据开放，可开发出多样化应用，推动社会整体创新能力提升。但是，数据开放也带来了安全挑战。由于技术手段的广泛性与复杂性，在用户不知情的情况下，个人信息极易被过度采集，一旦泄露，将对用户的个人隐私造成极大侵害。部分企业或机构为追求商业利益，有可能将收集到的数据用于非法营销、精准诈骗等，严重扰乱社会秩序，损害公众利益。
统计理性与价值理性的冲突。算法是人工智能的核心要素之一。借助算法推荐，信息的传播效率和精准度大幅提升。人工智能算法按照统计理性、效率至上逻辑，对用户行为数据深度挖掘，能精准把握用户的兴趣偏好、需求痛点，确保获取信息效率和保持用户黏性。但是，人工智能算法统计理性与价值理性存在不可通约性。数据偏见的编码复制、优化目标的价值错位与公平定义的多元张力，形成了对公平正义的系统性威胁。分布公平要求不同群体的正向决策率相等，但易忽视群体差异；程序公平要求不同群体的“真正例率”与“假正例率”相等，却易固化历史歧视；因果公平要求决策独立于无关因果特征，而受限于数据的因果结构。内容平台算法推送使得用户局限于偏好，圈层固化导致相同观点群体产生“信息茧房”。
技术赋能与主体消解的矛盾。人工智能技术是人类智慧创造的一种新型工具，目的在于对人类能力进行“外延式扩张”。人工智能可重构人类认知、拓展生物机能、革新社会协作模式，可这些赋能正催生“反向依赖”导致主体消解。技术上看，人类不再直接面对世界而是通过算法中介来认知对象，个体通过算法反馈结果建构自我认知、记忆和决策，导致人类感知能力下降、记忆外包化、自主决策被替代。伦理上看，道德推理去语境化使道德主体消解，推荐算法通过“过滤气泡”强化用户既有偏好因此消解价值多元性。社会主体上看，数字身份对真实身份替代使身份建构去人性化，人机交互对人际互动替代导致情感能力退化且交往行为去情感化，智能治理中数据决策消解公民参与而造成公共领域去政治化。
有效加强人工智能治理
应对人工智能带来的风险挑战，需要我们准确把握人工智能发展趋势和规律，秉持以人为本、智能向善的原则，有效加强人工智能治理，实现人工智能技术红利最大化和风险最小化的动态平衡。
数据悖论治理。紧盯数据全生命周期，补齐数据要素协同治理制度短板，更好统筹发展和安全。强化数据安全技术研发，加大对数据加密技术投入，研发加密算法，确保数据形成、使用和开放各环节安全性。完善数据安全法律法规，明确数据开放等环节的法律与责任边界，对非法行为制定严厉惩罚措施，提高违法成本。提高公众数据安全意识，开展线上线下数据安全宣传教育，提升公众对数据安全重要性认识，引导公众注意保护个人数据，谨慎使用数据使用权限，形成全社会共同维护数据安全的良好氛围。
算法悖论治理。推动算法透明化，要求算法开发者公开算法的基本原理、运行机制与数据使用方式，提高算法可解释性。优化算法设计，构建统计理性和价值理性结合的算法维度。建立专门的算法监管机构，建立全流程算法监管流程和规则，进行全生命周期监督管理，对算法的公正性、合理性进行评估审查，确保算法决策过程的透明、公平，避免黑箱操作。构建可信赖算法底层架构与人机协同决策架构，加强对抗性“去偏”训练，为人类设定决策边界。鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。
主体悖论治理。强化主体意识，算法开发应嵌入主体能动性指标，确保算法符合以人为本标准。积极引导用户批判性地使用人工智能，开展人机协同教育，尤其教育领域要融入人机协同理念，开设相关课程，培养各层级学生正确使用人工智能及对程序逻辑的理解与自主编程能力，避免过度依赖智能工具。制定明确的人机伦理准则，健全算法审查制度和科技伦理审查制度，充分发挥伦理委员会作用，明确人类在人机交互中的主体地位，确保人工智能设计与应用应符合人类的价值观与伦理道德标准，通过伦理规范约束人工智能发展方向。
■ 周彬
（作者单位：合肥工业大学。本文系国家社科重大项目[22&ZD094]研究成果）
