近日,世界人工智能大会在上海落下了帷幕,AI+成为热议焦点。世界人工智能大会的安全分论坛世界人工智能安全高端对话以“安全赋能、智创未来”为主题,深入探讨了人工智能的机遇、挑战及应对之策。富数科技首席科学家陈立峰博士认为,人工智能和隐私保护不应该是矛盾关系。

据了解,目前人工智能在安全方面面临两大问题,一是数据孤岛的问题,不同行业之间数据割裂,跨行业数据融合存在数据安全问题;目前的人工智能离不开大数据的“喂养”,数据孤岛让人工智能技术很难发挥出价值。第二大问题是隐私保护的问题,以金融行业为例,金融机构在查询用户信息时可能会泄漏用户隐私,从而引发出一系列的安全问题。

对人工智能在安全领域面临的问题,富数科技结合联邦学习和安全多方计算技术推出了富数安全计算平台。陈立峰博士表示,团队在2018年初在金融领域,尝试用安全多方计算和联邦学习技术,实现用户隐私保护前提下下的数据融合和联合建模。

他介绍,富数安全计算平台开创性地采用了“类松弛迭代法”,可以在同等条件下实现收敛速度的大幅提升,与明文模型相比精度损失低于1%。同时,模型训练速度实现了大幅提升,与行业现有水平相比提高了300%,为联邦学习的应用落地创造了更有利的条件。在训练数据安全方面,目前业界常用方法存在在处理数据分箱时会一定程度泄露数据统计信息的问题,富数安全计算平台运用差分隐私解决了行业痛点,帮助模型训练过程中数据的安全性保护更上了一个台阶。

陈立峰博士指出,目前该富数安全计算平台已经落地风控联合建模和用户画像两大方向。在联合建模方向,富数根据持牌金融机构合规性要求,让联合建模各参与方的数据“可用不可见”;同时,可联合各方虚拟融合的大数据样本进行分布式机器学习,并持续迭代和训练进化模型,有效解决数据孤岛和合规隐患。

在用户画像方向,富数安全计算平台可以在保证用户数据安全的前提下,对用户画像进行完善和补充。

未来,富数科技仍将会重点深入探索联邦学习和安全多方计算的研究,积极推动富数安全计算平台的优化迭代。深度融合AI与场景,帮助AI发展的同时,守住隐私保护的底限,让AI用安全的方式为各领域创造更多的价值。(张铭阳)