特约文章丨人工智能伦理治理新挑战专题：前言——面对重大变化的人工智能治理挑战

文 / 陈小平

以大模型为代表的生成式人工智能正带来重大变化，对人工智能治理形成新的巨大挑战。一方面，用户隐私、数据安全、算法公平透明等传统AI伦理问题出现了新现象、新特点；另一方面，新的AI伦理问题快速涌现。传统治理模式的调整和新型治理模式的探索成为当务之急。

先看一个案例。千百年来，文学创作由作者包揽，读者完全不参与。大模型让“在线交互式作品”突然具备了技术可行性，这种作品的内容通过作者和读者的交互在线生成，每一位读者与作者共同创作“同一部作品”的一个独特的“个人版本”，其中大部分内容生成只能由大模型承担，人类作者和读者通过提问和提示引导大模型工作。

在线交互式作品将消解传统文学的生存空间，颠覆传统创作方式，让 AI 在精神产品的生产中“一飞冲天”，终结人类“一手遮天”的历史，甚至萌生“反客为主”的可能性，带来一系列前所未有、影响深远的机遇和挑战。例如，大模型由于技术缺陷会“无意”造假，也可能被人故意制假；如果在线交互式作品出现过度虚构，则可诱发少年儿童对真实与虚假的认知障碍、对历史和现实的认知混乱；虚构的泛滥可导致人类认知能力、生存能力的严重退化……值得注意的是，大模型的内容生成能力不仅适用于文艺创作，而且普遍适用于各种文、图、视频的生成，以及教育和服务业的众多环节，足以导致人类社会的巨大颠覆。例如，以就业及技能培养为基本目标的现行教育体制将遭受冲击；社会的物质和非物质生产方式面临剧变；效率驱动型经济增长模式下，超常规效率增长加速负能量的积聚和可持续性的枯竭；如果 AI 不能开辟新的经济疆域，保持适度的就业稳定，越来越多的人将被迫从社会的建设者沦为旁观者、附生者……

本专题从不同视角探讨重大变化下的 AI 治理。“大模型：从基础研究到治理挑战”从基础研究视角分析大模型的技术特质及相应的治理挑战。“大语言模型价值观对齐研究与展望”从普适价值观、群体价值观和个体价值观三种层次，探索大模型与人类价值观对齐的技术路径。“道德行动体视角下生成式人工智能伦理问题解析”从管理学视角，探讨价值嵌入、责任对应、伦理评估等治理课题。“人类物种存续发展：大模型与人工智能伦理第一原则初探”从哲学社会科学的视角考察 AI 发展的可持续性，提出应“以人类物种存续发展为目的”。“大模型产业化发展的伦理挑战及标准化对策”基于产业视角，分析若干高敏感领域的伦理风险，阐释以标准化为核心的治理对策。

CAAI 人工智能伦理与治理工委会感谢文章作者的精心奉献和专题编者的悉心编辑，期待读者不吝赐教，共同探索 AI 治理的未来。

选自《中国人工智能学会通讯》

2024年第14卷第1期

人工智能伦理治理新挑战专题

扫描二维码加入我们获取更多学会资源