王春晖教授来校区讲授新一代人工智能的伦理、法律与治理

文/毛红敏图/仲少华

9月30日上午，国内知名网络信息战略与法律专家、联合国丝路论坛数字经济研究院院长、南京邮电大学信息产业发展战略研究院首席专家王春晖教授应邀来到山东大学威海校区闻天楼报告厅做了题为“新一代人工智能可持续发展的伦理、法律与治理”的学术报告。报告会由517888九五至尊线路测和法学院共同举办，法学院副院长姜世波教授主持，法学院院长肖金明教授、副院长张乐教授、517888九五至尊线路测副院长张文祥教授以及两院200多名师生参加了报告会。报告会结束后，王春晖教授与两院教师进行了座谈，双方确定将在网络生态治理、人工智能法学等前沿交叉领域展开合作。

王春晖教授的学术报告从“孟晚舟事件”和“中美贸易战”切入，对事件涉及的相关法律问题进行了梳理与分析。王春晖教授围绕自己研究问题的“OAT”模式，着重探讨了新一代人工智能可持续发展的相关伦理、法律与治理的问题。“OAT”模式中的“O”代表“Observation”，即对事物的观察；“A”代表“Analysis”，即对事物的分析；“T”指“Thinking”，代表思考。他认为对一切事物的研究都要围绕这三个单词展开，都需要在进行充分的观察与分析基础之上进行深入思考。

在“Observation”部分，王春晖教授向大家展现了他对人工智能的大量观察。他认为，世界权威的韦伯词典对“Intelligence”的定义是对人工智能最好的解释。该词典对人工智能的定义为“Ability of learning or understanding things,or dealing with new or difficult situations”。王春晖教授分析了AI在60多年的演进中出现的“两次浪潮”和三大门派，以及AI的主要研究领域和分支。他认为，现在已经进入人工智能的第三次浪潮“新一代人工智能”时代，人工智能呈现出深度学习、跨界融合、人机协同等新特征。在对“可持续发展”的概念阐释中，王春晖教授认为“可持续发展”并不是一个事物发展的延续状态，而是在确保安全前提下事物发展的生态（健康）持续。

王春晖教授认为，AI的发展阶段可分为弱人工智能、强人工智能和超人工智能三个阶段，目前人工智能已经上升到了国家层面的激烈博弈。他对中美人工智能的发展与差异进行了详细分析。认为中美在顶层设计方面，对人工智能有着近乎相仿的重视程度，双方都建立了相对完整的研发促进机制。但是在基础算法和理论研究方面，中国与美国还存在相当大的差距。他认为，数据安全与算法安全是AI安全的核心。AI在发展进程中面临的最大问题不是技术本身，而是设计者的伦理价值取向。人工智能的伦理问题涉及两个方面：一是设计者的伦理，二是机器伦理。迄今为止最高的AI道德标准是AI必须为人类造福，AI永远不能成为伤害人类的敌人。但是这样的AI道德伦理水平永远只能作为一种简单工具的行为准则，而无法满足人类社会的一般行为道德规范。因此，我们应该讨论的AI伦理是一种机器伦理，这是随着计算机科学及其相关领域研究和应用的不断延伸而出现的一门新的学科，它与网络伦理、AI生命伦理等均属于计算机伦理问题研究的范围。王春晖教授认为，人工智能面临的伦理问题往往会直接转化为具体的法律挑战或引发复杂的连带法律问题，因此国家应当高度重视人工智能和自主系统（AI/AS）带来的许多复杂的伦理和法律交叉问题。

王春晖教授对AI中的伦理问题进行了梳理，并指出了将人类规范与道德价值嵌入AI系统的方法步骤。他认为，目前AI在应用过程中出现的缺乏透明性与监管、缺乏独立的审查机构、使用“黑箱”软件、以及AI的滥用等问题都增加了AI的伦理风险。在个人数据管理上，王春晖教授认为在算法时代，想要维持个体对其自身数据的控制权，就需要延伸身份保证范式，将算法工具作为个体在数字和现实世界中的代理人或者守护者。

王春晖教授通过对AI的观察、分析与思考，认为AI时代提供了网络与信息法学研究的新课题。技术加速得益于法律的滞后，因此不必过早制定规制人工智能的法律，国家有关部门或者行业组织应当从制定AI产品研发设计人员的道德规范和行为准则入手，加强对AI潜在危害与收益的评估，构建AI复杂场景下突发事件的解决方案。应加强人工智能相关法律、伦理和社会三位一体问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架，确保人工智能在伦理规范和法律框架下健康发展。

最后，王春晖教授提出了AI治理的三大原则：一是AI的发展应当体现对人权的保护；二是应当优先考虑AI对法律、社会伦理和个人隐私的冲击；三是通过立法和强制性标准的制定及实施，削弱AI对人类的风险和负面的影响。王春晖教授呼吁，AI技术的应用一定要“善用其心”，人类文明因智慧的“善”用而进化，人类文明也会因智慧的“恶”用而毁灭。

学术报告最后，王春晖教授与现场师生进行了热烈互动，对老师和同学们提出的问题逐一进行了解答。

专家介绍：

王春晖，教授，博士生导师，我国著名网络信息战略与法律专家，任联合国世界丝路论坛数字经济研究院院长、南京邮电大学信息产业发展战略研究院首席专家，兼任联合国世界丝路论坛网络空间国际合作委员会主席、工业和信息化部信息通信经济专家委员会委员、中国通信学会网络空间安全战略与法律委员会副主任委员、中国互联网协会应用创新工作委员会副主任委员、中国法学会网络与信息法研究会常务理事、中国云安全联盟常务理事、中国网络安全协会理事等。担任工信部《电信法》起草专家组成员，多次代表国家参加联合国国际电信联盟国际信息通信法律的审议，荣膺2016年“科学中国人”年度人物。