记者 李丹琦 见习记者 孙鹏飞 李玉洋 钱奕昀

　　上周在上海举行的第二届世界人工智能大会，再度让人们见识到当前AI领域超高人气和美好前景。而且，和一年前相比，人们对AI的热情，更多转换为成熟理解和具体应用，AI的可用性也变得更好，AI赋能传统行业有了更好的注解。

　　但是，AI发展仍面临着诸多挑战，从AI技术自身来说，仍需要越过难关才能取得更好发展，尤其是在AI芯片领域，如何打通通用化之路，成为必须要解决的问题。而在更广的范围，人们担忧的是越来越聪明的AI与人类如何相处，如何让AI造福人类而不是伤害人类，AI治理的课题不仅需要产业界，更需要全社会参与，一起去解决。还有信息泄露的问题，在AI时代因为海量数据的产生，泄露风险无疑在加大，如何更好保护个人隐私，也成为不得不解决的问题。

　　任何新兴领域，机遇和挑战并存，AI也是如此，化解挑战，抓住机遇，AI将会取得更大发展。

　　为了“科技向善” AI治理紧迫性越来越高

　　最近发生的ZAO换脸风波、课堂视频监控风波，再一次引发人们对AI产业高速发展，带来的隐私泄露、挑战社会伦理等一系列问题的担忧。技术是把双刃剑，如何使AI造福人类而不是伤害人类，正引起各国政府、学界、企业的思考。在上周举行的世界人工智能大会上，这也成为各方人士讨论的焦点：AI如何健康发展？全球AI治理与法治的机遇和挑战在哪里？

　　面临多重挑战

　　可以肯定的是，AI治理已迫在眉睫，需要关注的是治理哪些方面的问题。

　　外交部原副部长、清华大学战略与安全研究中心主任傅莹指出AI治理面临的多重挑战。

　　首先是立法的新思维。传统法律以社会基本共识为基础，往往滞后于社会实践。但是AI治理的需求与技术的应用几乎同步出现。还有，传统立法者关注的是人与人之间的关系。但在人机共存，甚至人机冲突的情况下，如何面对和处置人类与机器的矛盾？“机器代替人”做决策的情况已经不是想象中的事，波音737-MAX 8的空难就是一个重要的警示。

　　其次是就业模式的快速冲击。清华大学《中国青年视角下的人工智能技术（AI）风险和治理》调查项目中，超过50%青年人表达的头等关切是失业风险。如何才能让人才结构的调整跑赢技术的更新迭代和产业结构的跃升？

　　还有伦理规范的新问题。如国际上讨论较多的人群歧视和对个人隐私的尊重和保护等问题。值得注意的是，在8月全国人大常委会审议的民法典人格权编草案稿中，针对收集、处理自然人个人信息有了明确规定，要求必须“征得该自然人或者其监护人同意”等，而且把个人生物识别信息也纳入保护的范围。

　　之所以AI治理面临如此多挑战，上海市科学学研究所所长石谦表示，最大的原因是“用”走在了“治”之前。在许多AI问题上，法律尚未完善，大部分情况依靠企业的道德约束。AI治理，一方面需要完善法律建设，一方面在“用”的时候，需要把“底线”守住。

　　联合国世界新丝路论坛数字经济研究院院长王春晖表示，AI的治理应当体现三大原则：应当体现对人权的保护；优先考虑AI对法律、社会伦理、个人隐私冲击的部分；通过立法和强制性标准的制定和实施，削弱AI对人类风险和负面的影响。

　　关于AI立法，王春晖表示应重点关注数据安全与算法安全。当前，AI算法具有典型的“黑箱”特点，应当引起法律人高度警惕和深入研究，应当以伦理学和法学融合的角度深入审视和研究AI算法。

　　关键是各方协同

　　尽管面临诸多挑战，但AI治理已引起各方行动。傅莹说，一方面要加快对立规和立法的研究，另一方面也要依靠科学界和企业界采取负责任的态度和行为。

　　“截至2019年8月，全球已至少发布了53个AI原则，中国发布了10个AI原则，包括《中国青年科学家2019人工智能创新治理上海宣言》。”国家新一代人工智能治理专业委员会、中国科学院自动化研究所研究员曾毅介绍，自2016年第一个AI原则发布以来，这些原则来自全球不同机构，覆盖不同主题，具有很强的互补性。

　　今年5月，上海国家新一代人工智能创新发展试验区揭牌，明确了建立健全政策法规、伦理规范和治理体系的任务。同月，《人工智能北京共识》发布，发布了15条AI研发、使用和治理规范。6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》，强调要“发展负责任的人工智能”，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理8条原则。

　　AI治理同样离不开企业的社会责任与自治探索。