大会开幕式上，马化腾说，AI治理的紧迫性越来越高，应以“科技向善”引领AI全方位治理，确保AI“可知”“可控”“可用”“可靠”。深化企业对科技价值观的思考，探索人与AI的正确相处之道。

　　明略科技创始人、董事长兼CEO吴明辉表示，AI的发展需要以人为本，需要依托一套框架来实现“负责任的AI”。明略科技用“HAO智能”理论框架，打造出一个能够被人类理解的智能系统。AI永远是人的伙伴，而不是独立的与人分离的解决方案，它需要跟人和组织更好地结合，让人和组织产生更大的价值。

　　打造全球AI治理“共同体”

　　AI治理是国际社会的共同挑战，也是世界各国的共同责任，开放协作成为业界共识。

　　在去年举行的人工智能造福人类（AI for Good）全球峰会上，OCED人工智能专家组成员、全球智库The Future Society创始人Nicolas Miailhe说，AI与每个人的生活息息相关，全世界要建立共识，展开合作，共同参与AI规则的制定和实施的监督。

　　OCED人工智能专家组成员、Smart Dubai人工智能伦理咨询委员会成员Cyrus Hordes认为，AI的国际战略合作，可以从“硬规则”和“软规则”两方面进行。其中，硬规则包括AI原则，软规则包括技术标准、行为准则、道德标准等。

　　傅莹则表示，中国对人工智能的国际合作和治理采取的是积极参与的开放态度，也主动搭建了不少平台，上海的世界人工智能大会、天津的世界智能大会、重庆的国际智能产业博览会等，都是向世界开放的交流平台。在傅莹看来，对人工智能国际治理应保持开放性、合作性、客观性。人工智能的技术发展与产业应用是全球高度协作的成果，其未来的发展也依赖世界各国优势互补，合作共享。人工智能被认为是一项综合性的“原力技术”，其治理也需要多学科、多领域和多部门乃至多国的共同参与，取长补短。人工智能作为革命性的新技术，难免引发很多误解和怀疑，没有人能准确预测技术的未来结果。国际治理应该秉承中立客观的立场，保护科学家和企业家的创新积极性，尊重人的权利与尊严。

　　需要人工智能，更需要可信人工智能

　　人工智能是大势所趋，近些年发展非常快，但是在它衔枚疾走之中，安全问题一直如影随形。几天前，一款名为ZAO-逢脸造戏的App在朋友圈爆火。据了解，这个打着“仅需一张照片，出演天下好戏”标语的App，可以帮助用户在10秒内替换原本视频中主角的脸，让用户通过观看换脸视频就可以过足“戏瘾”。但同样，爆火之后随即便引来了不少用户对于隐私方面的争论。目前，有关个人隐私安全的报道层出不穷。无论是或大或小的新闻事件都可以触发用户对于隐私安全方面紧绷的神经。这更加发人深思：AI到底安全吗？

　　AI“安全事故”频发

　　在2019世界人工智能大会上，人工智能安全成为高频词，屡屡被提及。在中国科学院院士何积丰看来，人工智能存在信任危机。

　　根据公开报道，2016年9月，一名23岁特斯拉中国车主男子驾车在高速上行驶时，因前车躲避障碍物，该男子躲闪不及撞上道路清扫车，不幸丧生。这也是特斯拉自动驾驶在中国出现首例死亡事故。据事故后对行程记录仪的视频分析，事故发生时，特斯拉处于“定速”的状态，并未能识别躲闪而撞上前车。

　　另外一件事是，2016年时微软聊天机器人Tay在国外社交平台上线，很快就被“教坏”，开始不断辱骂网友。根据报道，由于微软没有对对话“做任何设定”，使得Tay无法具备分辨是非的能力。

　　在此之前，还有悲惨的事件发生，2015年英国实施了首例机器人心瓣修复手术，在这场尖端的医疗AI技术的展示中，机器人把病人的心脏“放错位置”，还戳穿大动脉，导致病人去世……

　　因为这些事情的发生，很多人对人工智能缺乏信任感。如何构筑人工智能安全保障呢？何积丰认为，“人工智能安全分为三种类型，分别为数据安全、应用安全和法律/伦理安全。人工智能算法的关键问题在于，尽量避免人工智能副作用、避免奖励条件错误解读等等，同时要探索安全和可拓展的监管。”

　　所以何积丰院士提出了可信人工智能的观点，“可信人工智能三要素是人、信息和物理。过去是人类社会和物理世界，我们觉得安全是可信安全的强人工智能系统，要实现复杂的信息、物理跟人的融合交互。”

　　挑战不容忽视

　　在上海观安信息技术股份有限公司CTO胡绍勇看来，人工智能的风险分为三个方面：数据隐私、数据质量、数据保护。