：全球范围内针对人工智能伦理准则的讨论已达成基本共识。在此基础上，本文进一步研究4个关键问题：人工智能伦理体系的运行机制问题、人工智能伦理准则的场景落地问题、人工智能伦理风险的预测判别问题，以及人工智能伦理对重大
社会问题综合创新的支撑机制问题。这些问题超越了人工智能伦理准则的范围，却是一种完整、有效的人工智能伦理体系所必须解答的。本文的主要贡献是对这4个问题提出一套建议方案。
关键词：人工智能 伦理体系 伦理准则 风险预测 伦理性创新
Ethical system of artificial intelligence: infrastructure and key issues
CHEN Xiaoping
Abstract: On the basis of consensus on ethical guidelines or principles so far reached in the world, four key issues on ethical system of AI will be studied further in this paper: operating mechanisms of AI ethics system, the grounding of AI ethical guidelines in real-world scenarios, prediction and identification of ethical risks of AI technology, and comprehensive innovation mechanisms of handling major social problems supported by the AI ethics system. These issues go beyond the realm of AI ethical guidelines, while they must be solved in order to develop a complete and effective operating system of AI ethics. A preliminary plan for solving these issues is proposed as the main contribution of this paper.
随着人工智能第三次浪潮带来的重要进展，人工智能伦理挑战已成为当前国内外普遍关注的一个焦点，一些组织和机构开展了相关议题的研讨，发布了一批人工智能伦理准则的建议。
中国人工智能学会对人工智能伦理问题高度重视，于2018年年中开始组建人工智能伦理专委会。在2019全球人工智能技术大会上，5月26日举行了“全球视野下的人工智能伦理”论坛，在国际上首次提出了人工智能伦理体系规划问题，这意味着人工智能伦理建设开始进入第三阶段，而人工智能伦理体系的关键问题研究提上了议事日程。正如中国人工智能学会理事长
李德毅院士在论坛致辞中指出的那样，本次论坛具有里程碑意义。
1 人工智能伦理建设：从伦理准则到伦理体系
人工智能伦理建设已经历了两个阶段。第一阶段是人工智能伦理必要性的讨论，从专业角度说，
耶鲁大学Wendell Wallach等美国学者起了带头作用，在国际上引起了普遍重视；从更广泛的背景看，
尤瓦尔·赫拉利的《人类简史》发挥了重要的推动作用。第二阶段是人工智能伦理准则的讨论，欧盟走在前面，中国和其他一些国家也积极参与其中。
在第二阶段，欧盟人工智能伦理高级专家组提出了人工智能伦理的7条准则[1]，包括：确保人的
能动性和监督性、保证技术稳健性和安全性、加强隐私和
数据管理、保证透明度、维持人工智能系统使用的多样性、非歧视性和公平性、增强
社会福祉、加强问责制。我国
清华大学人工智能与安全项目组提出了6条准则[2]：福祉原则、安全原则、共享原则、和平原则、法治原则、合作原则。据不完全统计[3-15]，迄今已有40多个机构或组织提出了各自的人工智能伦理准则建议。总体上看，所有这些准则建议是基本一致的。