Computational and Experimental Social Morality of Artificial Intelligence Agents

 人工智能体伦理计算理论与实验方法

 

地  点： 玉泉校区则通楼104会议室

时  间： 2017年9月20日 12:00 – 13:30

主持人： 吴飞 教授 浙江大学人工智能研究所

主讲人： 王志坚 研究员 浙江大学实验社会科学实验室

 

摘要：人工智能体(AIA)道德行为规范的工业标准制定的基础需要定量方法。以服务机器人、无人驾驶汽车和无人飞行器等实体的形式，AIA正在开始从研究阶段进入到生产阶段、并开始进入人类真实生活，而不是只停留在生产车间内。和传统的工业机械电子产品不同，新一代的AIA具备通过经验学习和自我学习而增强的智能，可以具备独立的优化决策行为、乃至独立的博弈决策行为。这些人工智能体行为应符合的社会伦理这是人类的普遍共识。如何实现这个共识，仅有道德哲学层面上的讨论是不够的，而是需要计算理论和实验方法的科学技术依据。具体而言，就是要将对人工智能体社会伦理的行为控制方法，表达为人工智能体的工业机械电子产品的生产和监测的行业规范乃至国家标准、国际标准。在介绍机器伦理的定量研究进展基础上，本报告通过具体案例模型，介绍人工智能体的基本功能行为、优化决策行为和博弈决策行为的计算理论与实验方法，展示人工智能体产品标准中将涉及的伦理控制技术性的问题，以及在法规、法律和保险方面可能需要应做的准备。

 

关键词：工业机械电子产品，行业规范，国家标准，人工智能伦理(Ethics of artificial intelligence), 机器伦理(Machine Ethics), 社会福利(Social Welfare), 行为博弈(Behavior Game theory），社会计算(Social Computing), 演化博弈论(Evolutionary Game Theory)，博弈论(Game Theory)，实验经济学(Experimental Economics)，多体系统(Multi-agent System), 伦理科学(Morality Science), 机制设计(Mechanism Design)，伦理机器(Moral Machine)

 

参考文献：

宾默尔 (Ken Binmore)，自然正义 [Natural Justice] (2010)

王飞跃，社会计算的基本方法与应用 (2012)

Charlie Plott, Experimental Experiments (2008)

IEEE, Global Initiative for Ethical Considerations in AI and AS (2016)

中国国家工业和信息化部《工业机器人行业规范条件》（2016）