• 移动端
    访问手机端
    官微
    访问官微

    搜索
    取消
    温馨提示:
    敬爱的用户,您的浏览器版本过低,会导致页面浏览异常,建议您升级浏览器版本或更换其他浏览器打开。

    人工智能大会新动向:AI与AI的博弈,金融机构多强化反欺诈防火墙

    陈植 来源:21世纪经济报道 2021-07-12 08:42:32 人工智能 金融AI
    陈植     来源:21世纪经济报道     2021-07-12 08:42:32

    核心提示围绕金融反欺诈,一场基于AI高科技的角逐正悄然升温。

    围绕金融反欺诈,一场基于AI高科技的角逐正悄然升温。

    “未来的风控将不再是人和人的斗争,而是AI与AI的博弈。” 蚂蚁集团副总裁兼首席AI科学家漆远在2021世界人工智能大会指出,“在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。”

    然而,面对日益专业化运作,以及借助高科技实施欺诈的黑产团队,金融机构该如何做好风控保护民众的钱袋子,俨然是一道新挑战。

    “你可能很难想到,有些黑产团队会制作几乎可以乱真的第三方支付机构APPlogo,从而骗取民众登陆这些虚假的APP实施诈骗。”一位金融机构风控部门主管告诉记者,此外,一些黑产机构还会虚构“头像”,冒充第三方支付机构或金融科技机构客服人员进行诈骗,令整个金融欺诈变得“防不胜防”。

    漆远告诉记者,2018年起,他与蚂蚁集团AI技术骨干,尝试在人工智能模型算法里融入经济学“博弈理论”,开发出一项“智能对抗”技术,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,令模型更加鲁棒(robust),处理结果更加准确。

    “其原理就像是金庸小说里的双手互搏术,借助智能对抗技术,用更智能的攻,实现自身技术系统更安全的防。”他表示,如今蚂蚁集团通过智能对抗技术,让AI模拟黑产组织发起对自身金融业务系统的攻击演练,从而帮助AI在风险识别能力、抗打击能力方面持续、自动进化升级。

    记者获悉,去年智能对抗技术已应用在支付宝反欺诈领域,目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景,对AI模型的鲁棒性(robustness)有明显提升。

    记者获得的数据显示,今年上半年,支付宝通过弹窗提示、防诈骗答题、电话劝阻等方法,日均发出的风险预警覆盖约50万人次,6个月累计保护潜在被骗资金近27亿元。

    “这背后,是要与骗子赛跑,首先比的就是谁的动作快。”一位金融机构负责反欺诈的风控主管向记者直言,当用户被骗子诱导转账时,人工客服需要先判断诈骗场景、再精准组织话术,最后进行外呼劝导,期间整个流程至少需要2分钟,但此时用户可能已经被骗子蒙蔽完成转账支付,等到人工客户拨来提醒电话已经为时已晚。

    漆远向记者透露,通过智能对抗技术的持续磨炼,蚂蚁 AI机器人能以0.1秒的速度向用户发出来电警报,而且面对大规模的外呼电话,AI具有秒速响应、海量试错和总结的能力,同时还能避免疲劳感带来的服务质量下滑;不仅如此,语义分析等技术的应用让AI能捕捉用户交流中的关键信息,以合适的方式进行劝阻。

    他介绍,当前可信AI技术已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护等多个风控场景落地。以支付宝为例,蚂蚁综合应用了“可信AI”技术架构体系的多维度能力,孵化“蚂蚁反欺诈智能风险感知与响应系统”——不同于传统的“响应型”风险防控,该系统着重打造“主动型”风险感知和风险分析的能力,从而在支付宝体系内打造起一套从“信息泄露防治-风险预警-异常操作捕捉-风险交易阻拦-线下精准打击”的全链路防控体系。

    记者了解到,随着反欺诈宣传力度加大,以及AI技术对黑产组织的“反击”,今年以来金融诈骗正渐行渐难。

    一家大型支付机构发布的数据显示,过去半年以来,年轻人接到防骗提示或劝阻电话的听劝率提升了至40%;9成老年人被骗时会听劝停止转账,与半年前相比提升了20%;即使是已转账的受骗用户,也越来越愿意主动在平台上举报投诉或报警处理。

    然而,黑产组织的AI欺诈技术也在同步升级,与金融机构AI风控的对抗持续升温。

    多位业内人士透露,目前黑产组织可以通过AI技术向受骗民众发送一个链接,只要受骗者不小心点开这个链接,其手机将自动进入呼叫转移状态,即金融机构拨来的欺诈风险提示电话自动“转入”骗子手机端,导致受骗者无法被及时“唤醒”而遭遇欺诈损失。

    在业内人士看来,这背后,是传统数据传输和共享方式无法对数据进行有效的保护,不同金融机构的数据难以互联互通,无形间制约了防范风险、反欺诈和反洗钱等领域的多方协作,尤其是金融机构之间无法分享涉嫌欺诈的黑产组织电话号码或各类ID,导致防范金融欺诈风险的难度无形间增加不小。

    因此,如何在实现数据共享和隐私保护之间打造“原始数据不出域,价值安全共享”的新合作模式,正构成新的挑战。

    在此次人工智能大会上,国际权威数据公司IDC发布最新报告《Privacy-Preserving Computation Assures Much Needed Balance in Open Finance(开放金融数据共享中隐私计算的平衡之道)》指出,隐私保护计算为开放金融实现数据价值最大化提供了可行之道。

    IDC中国研究总监高飞指出,目前隐私保护计算已在部分金融机构合作方面起到不错成效。比如浦发银行和蚂蚁集团针对零售贷款业务采用了多方安全计算的风险模型,开发了一整套风险评估解决方案。

    这套风控模型基于浦发银行及其合作方的数据构建而成,蚂蚁集团为双方提供技术服务,在训练和运行两个阶段内均采取了分布式部署,且双方都应用了加密算法。这意味着,任何一方的原始数据都不会泄露给另一方,并且也无法通过对训练结果的反向工程来推导原始数据。

    “通过与蚂蚁集团在多方安全计算技术领域的合作,浦发银行提升了风控模型性能。与单一数据源模型相比,多方数据协作模型可以将模型的KS值提高12%-23%。”高飞表示。由于KS值普遍用于评估风控模型的效果,数值越高则意味着模型精准识别风险的能力越强。

    在信用风险管理、识别高风险客户方面,这套风控模型识别出逾14.5万名高风险客户,阻止了数十亿元人民币的高风险贷款的发放,进一步提高了浦发银行信贷资产质量,减少了损失。与此同时,这套风控模型还识别出37万名低风险客户,潜在授信规模约80亿元人民币,从而帮助银行拓展了零售信贷服务可支持的客户面。

    高飞直言,开放金融不仅能够在金融机构层面带来直接的业务提升,还可以通过流程外化来改善自身服务,但开放金融生态的数据价值共享需要解决精度、性能、安全三个维度之间的平衡问题。尽管隐私保护计算技术在最近几年才出现,但它获得一系列加密方法和人工智能计算能力提供支持,为开放金融实现数据价值共享到的平衡带来了机会。


    责任编辑:王超

    免责声明:

    中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。

    为你推荐

    猜你喜欢

    收藏成功

    确定