世界人工智能大会聚焦“可信AI” 蚂蚁集团首席AI科学家透露“智能对抗”技术已上线

东方网记者柏可林7月9日报道：7月9日，“2021世界人工智能大会-可信AI论坛”在上海召开，来自世界多国的院士、学者共同探讨可信AI从认知演进，到理论研究，再到产业探索等多个议题。

蚂蚁集团副总裁、首席AI科学家漆远教授在会上透露，继“隐私计算”和“图学习”技术取得实践成果后，蚂蚁集团在可信AI技术体系中的又一项重要技术——“智能对抗”技术现已正式上线部署，支持反欺诈等多个风控场景。他表示，融入经济学“博弈理论”的“智能对抗”技术，能够借助“双手互博”的演习机制，让AI模拟黑产发起对自身的攻击演练，从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉，该技术应用于金融风控领域，在业内尚属首次。

“智能对抗”加强风控模型抗打击性

“未来的风控将不再是人和人的斗争，而是AI与AI的博弈，”漆远在演讲中表示，“在支付宝上，每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。”为了应对复杂多变的黑产攻击，如何持续加强风控模型的抗打击能力，做到“魔高一尺，道高一丈”成为一道难题。

2018年，漆远带领着蚂蚁集团AI技术骨干，在人工智能模型算法中融入经济学“博弈理论”，开发了一项业界全新的技术——“智能对抗”，即通过结合AI和博弈对抗，让机器自动且实时、动态地对自身系统进行安全性攻击，从而提升模型能力，使模型的处理结果更加准确。目前，“智能对抗”技术已覆盖支付宝风控的账户、欺诈、交易安全等多个场景。

借助“智能对抗”技术，用更智能的 “攻”，实现更安全的“防”。 “智能对抗”技术在权威机构Gartner发表的白皮书中被列为2021年十大金融科技趋势之一。业内认为，因该技术具有对风险知识形成感知、分析和预测的能力，未来将成为可信AI领域的核心安全技术。

“可信AI”是数字时代抵御风险的关键能力

除金融风控场景外，可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。在2021世界人工智能大会上，与会嘉宾们形成共识：随着数字化进程的不断加速，AI在推进传统产业数字化升级的过程中作用显著。在借助AI防御数字经济风险的同时，如何确保AI的安全、可信和公平成为全行业关注的重要课题。

目前，拥有全球范围内数量最多的“AI安全可信关键技术”专利的公司是蚂蚁集团。记者从蚂蚁集团获悉，今年6月，蚂蚁集团首次向外界发布了蚂蚁可信AI技术架构体系，保障AI可信及稳定运营。同时，围绕AI公平性的建设和发展，蚂蚁先后启动了针对不发达地区的“AI豆计划”、针对视障碍人群的“空中手势”验证码方案等项目。通过可信AI技术的研究和投入，促进相对落后地区的经济发展，帮扶弱势群体，弥合数字鸿沟。