数（shù）字时（shí）代是人工智（zhì）能（AI）深度应用和发展（zhǎn）的时代。AI的发展，正在以一日千里（lǐ）的（de）速度改变着这个世界（jiè），并在交通、医疗、环境（jìng）保护（hù）、城（chéng）市管理等多个领域中，发挥着越来越（yuè）不（bú）可替代的作（zuò）用。但（dàn）同时，AI的安（ān）全性问题，也成为了数字化发展（zhǎn）进程（chéng）中不可（kě）回避的问题。在（zài）数字经济欣欣向荣的发展态（tài）势（shì）下，安（ān）全（quán）被许（xǔ）多业内（nèi）人士视为木（mù）桶（tǒng）上的那一块（kuài）“短板”。

如何（hé）让安全为数字化发展“保驾护航”？8月6日（rì），2021新京报贝壳财经（jīng）夏季峰会——数字（zì）经（jīng）济时（shí）代的风险防控线上论坛（tán）举行，蚂蚁集团副总裁，蚂蚁集团安全（quán）事业群总裁赵闻飙表示，可信人工智能的（de）研究和（hé）落地或是抵御“数字化”风险的（de）关键能力（lì）。

用可信AI解决智能（néng）化风（fēng）险（xiǎn）

伴（bàn）随着数字化经济的（de）发展，用户在享受数字化带来的便捷与普惠的（de）同时，也（yě）面临数字化背后的风险，如羊毛党通过操纵多（duō）账户套取商户营销资金、个人用户遭遇网络（luò）欺诈、账户盗用等。“过（guò）去，我们（men）一直（zhí）重点（diǎn）谈的是‘数字化’背后的风险和应对，而对‘智（zhì）能化’背后的（de）风险讲得很少。因为当时行（háng）业普遍（biàn）认为（wéi），人（rén）工智能技术的落地应用还相对有限（xiàn）。但（dàn）事实上，早在六七（qī）年前，我们就（jiù）在平常应对黑（hēi）产攻击中，发现了AI的（de）痕迹。”赵闻飙（biāo）表示。

新京报贝（bèi）壳财经（jīng）记者注（zhù）意到，当下（xià）的确有越来（lái）越多的黑灰产团伙将AI等新技术投入到了薅（hāo）羊毛、诈骗等（děng）非法（fǎ）活动中（zhōng）。如（rú）使用AI工具操控（kòng）大量（liàng）账号进行违规操作、使（shǐ）用AI换脸技术试图绕过人脸识别认证等。

这意味着伴随人工（gōng）智能（néng）技术的高（gāo）速（sù）发展（zhǎn）和加持，数字化（huà）背（bèi）后的风（fēng）险将持（chí）续（xù）加剧，并且演（yǎn）变（biàn）为（wéi）“智能化”背（bèi）后（hòu）的风险挑战。

据了（le）解，目前黑（hēi）产作案越来越趋于多平台、多链路、团队（duì）化和智能化。这对行（háng）业协同、风（fēng）险响应机制的速度（dù）和准确性提出了更（gèng）高的要求，而且还需要切合“数字（zì）化浪潮”下社会（huì）对于隐私（sī）保护、技术伦理治理等（děng）多方面的需求。

在赵（zhào）闻飙（biāo）看来（lái），要对抗“智（zhì）能（néng）化”的风（fēng）险，就需要“智能（néng）化”的手段，这也是（shì）“可信AI”技术进入（rù）快速发展阶段的（de）核心驱（qū）动力。可信AI技术要（yào）求（qiú）人（rén）工智能（néng）技术应当具备可解释性，以（yǐ）帮助人类理解和（hé）信赖他们的决策；具备鲁棒性（robustness），以（yǐ）抵御黑产的攻击，以保障计（jì）算和决策的稳定性和效能；具备隐私（sī）保护的能力（lì），以满（mǎn）足社会和民众（zhòng）对于个人数（shù）据资（zī）产保护的需求；具备公平性，强调决策结果的公平性（xìng），同时关注技术背后的社会责任和伦（lún）理治理。

“数字时代，安全是AI与AI的博（bó）弈，而可信AI，则是抵御（yù）风险的关（guān）键能力。”

面向（xiàng）可信AI技（jì）术的下（xià）一代风控体系（xì）“IMAGE”

据了解，蚂蚁集团（tuán）自2015年起（qǐ）投入可信AI技术的研究。2016年（nián），全面启动（dòng）了人（rén）工智能风控防御战略。目前，可信AI技术已在（zài）包括反欺诈、反洗（xǐ）钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场（chǎng）景下落地，支撑（chēng）着其全风险（xiǎn）域的防（fáng）御需求（qiú）。根据今年6月全球专利（lì）权威机构IPR Daily发布的报告，蚂蚁集团目前拥有全球范围内数量最多的“AI安全可（kě）信关键技术”专利，并上线部署了以“IMAGE”命（mìng）名的下一代风控（kòng）体（tǐ）系。它包含着“交（jiāo）互式风控”、“多方安全风（fēng）控”、“智（zhì）能决策”、“全图风控”、“端云协同风控”五大组成部分（fèn）。

赵闻（wén）飙表示（shì），“全图风控（kòng）”技术能够以“图”的形态，聚合“动态发展变（biàn）化的风险信息”，解（jiě）决（jué）了传（chuán）统风控中只能依靠单一或静态信息维（wéi）度追踪风险的困（kùn）境，实现对风险（xiǎn）变（biàn）化趋势的（de）预测，提前遏制风险的发（fā）生。在反电诈等风控场景，对于打击团伙型（xíng）、多链路作案，具（jù）有重要意义。而“全图式”的风险分析（xī）和追踪形式，也对人工智能的“可解释性”发（fā）展（zhǎn）提（tí）供了更广泛的空间。

而“多方安全风控”和（hé）“端云协同风控”则是（shì）“智能化”趋势下，实（shí）现风控（kòng）与隐私保护平（píng）衡发（fā）展的实践（jiàn）探索。“多方安全风控”实现了在数据不交换的前提下，多企业、多平台之间的联合风控协作。“端云协同（tóng）风控（kòng）”的价值则是保障数据的使用和保有权（quán）真正属于用户。通过将风控模型部署在智能终端（duān），如（rú）手（shǒu）机上，蚂蚁的技术团（tuán）队建（jiàn）立（lì）起（qǐ）了一（yī）套“终端（duān）进行数据计（jì）算和（hé）决策（cè）、云端（duān）仅获取（qǔ）决策（cè）结果”的风控模（mó）式（shì）。终端计算，意味着敏感信息被保留在用户（hù）手中（zhōng），规避了信息传输过程中可（kě）能（néng）出现的被攻击风险。云端仅获取决策（cè），不仅保障了安（ān）全（quán）防御和风险控制不受（shòu）影响（xiǎng），还节约（yuē）了云端的计算资源。目前，“端云协同风（fēng）控”已经被广泛用于支付宝的日常风控中，在去年的（de）双十一期（qī）间（jiān），98%的（de）风（fēng）控决策都是在（zài）用户智能终端上完成的。

赵闻飙在分享中强（qiáng）调，传统风控受制于技术成本、数（shù）据规模和算法效能，许多场景还是（shì）专家经验驱动，而（ér）不（bú）是数据（jù）智能驱（qū）动。“支付（fù）宝（bǎo）每（měi）天有数亿（yì）笔交（jiāo）易，面对如此庞大的计算量，一（yī）旦决策产生延迟（chí），就给了黑产可（kě）乘之机。” 通过人工智能与金融风（fēng）控（kòng）的（de）深度融合，蚂蚁安全实验室打造（zào）了能够（gòu）实现“智能决（jué）策”的AI大脑——AlphaRisk。其能（néng）够在零人（rén）工干（gàn）预的（de）全（quán）自动模式下，对风险进行毫秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适应的能（néng）力，将（jiāng）极大地提升人工智能的（de）抗打击（jī）能力。AI大脑通过对每一次黑（hēi）产攻（gōng）击（jī）行为的学习和研究，不断提升（shēng）防御手段，进行高效的自我进（jìn）化。

在技术快（kuài）速发展的同时（shí），可（kě）信（xìn）AI的公平（píng）性也（yě）考（kǎo）验着研究者对社会责任的坚守（shǒu）。赵闻飙提到，早在2016年，蚂（mǎ）蚁（yǐ）就成立了针对（duì）电信网络诈骗（piàn）的技术研究小组，借助包括“图神经网络（luò）”“博弈攻防（fáng）”在内的一（yī）系列创新技术应用，极大地遏（è）制（zhì）了平台电诈发生率（lǜ）。但（dàn）许多骗子引导受害人转而使用其他的（de）支（zhī）付渠道，社会（huì）欺诈问题仍旧严峻（jun4）。如何依靠技术力量，真正将（jiāng）诈骗罪案止步于支付环节，成为研究的重点，“交（jiāo）互式风控”也因（yīn）此应运（yùn）而（ér）生。

贝（bèi）壳财经记者（zhě）注意到，区别于以往的（de）安全风控（kòng）模式，交互式主动风控的关键在于（yú）“主（zhǔ）动（dòng）”二字——传统的安（ān）全（quán）往往依（yī）赖于已知风险模式，只有风险发生过，才知道如（rú）何预防，这也使得安（ān）全（quán）风控（kòng）往往处于“被动防守”的（de）态势。

对（duì）此，赵闻飙（biāo）表示（shì），安全必须从静态的被动防守，转变为动（dòng）态的主动对抗，特（tè）别（bié）是（shì）金融（róng）安全。“以交互式（shì）风控产品‘叫醒热线’为（wéi）例，当用户被（bèi）骗子诱（yòu）导转（zhuǎn）账时，AI机器人将向用（yòng）户发出来电提醒。充分（fèn）学习了（le）欺诈罪案（àn）分析的AI机（jī）器（qì）人（rén），能够捕捉用户（hù）交流中的关键信（xìn）息，采（cǎi）取恰当有效的反诈劝阻（zǔ）话术和措施。为了跟骗子拼（pīn）速度，目前蚂蚁的（de）反诈骗叫醒热线（xiàn）中（zhōng），有超（chāo）9成电话是（shì）由AI打（dǎ）出的，叫醒成功（gōng）率超过了（le）人工（gōng）客服。除了事中的防（fáng）护（hù），如（rú）果（guǒ）用（yòng）户深度受骗、执意（yì）支付，技术人员还开（kāi）发了‘延迟到（dào）账’和‘资金截留’的功能（néng），让欺诈者没有办法支取（qǔ）赃款。”

“人工智能技术的快速发展，引领了第四次工业革（gé）命的浪潮。而可信人工智能（néng）的研究和落地，则（zé）代表了（le）人工智能技术发展的新阶段。在（zài）未来，与人类社（shè）会深度耦合（hé）的人工（gōng）智能技术，如何在（zài）安全、可信、公平（píng）的原则下，持续发展和（hé）进步（bù）？这是每一位从业者和研究者，为推（tuī）动科技有序、健康发展都不应（yīng）回避的命题。”赵闻飙表示。