7月27日，在微（wēi）博、新浪新闻主办的人工智能领域行业峰会——2022新智者大会上，360公（gōng）司创始人周（zhōu）鸿（hóng）祎分享了题为《筑牢AI安全基座 护航智能新时代（dài）》的（de）演讲，从数字（zì）安全的（de）角度，带给我们关（guān）于网络安全的全新（xīn）视角和定义。

2022新智者大会-360公司创始（shǐ）人（rén）周（zhōu）鸿祎（yī）-主题（tí）演讲

以下是周鸿祎分（fèn）享实录，内容经编辑略（luè）有删减：

尊敬的各位领（lǐng）导、各位同仁（rén）、各位来宾，感谢大会组委（wěi）会的邀请，非常高兴（xìng）参加“2022年新智者大会”。

我叫周鸿（hóng）祎，虽（suī）然说可能很（hěn）多人（rén）都认识我，但是（shì）很多人都问我一个问题（tí），为（wéi）什（shí）么（me）你老喜（xǐ）欢穿红衣服？那（nà）是（shì）因为我的名字（zì）老被叫成（chéng）周（zhōu）鸿“伟”，所以我穿（chuān）一（yī）个红衣服，就是（shì）给大家提示一下，我是鸿（hóng）祎（yi），不是鸿伟（Wei）。

本次（cì）会议的主题是“融合生态，价值共创”。当（dāng）前发展数字（zì）经（jīng）济，以人（rén）工智能为代（dài）表的数字技术赋能产业变革（gé），推动整个社会（huì）经济进（jìn）入（rù）智能（néng）化的新阶段。

我是绝对（duì）支持数字经（jīng）济，支持新技术（shù）人工智能的。但是，我们做安（ān）全的人，稍微（wēi）有点变态，天（tiān）天都在琢磨这个（gè）技术有啥风险，这个技术（shù）有什么不安全的地（dì）方。

那么，我们今天谈数字经济、人（rén）工智能里不安全的问题（tí），也（yě）是为了保证让我们建设数字中国，促（cù）进数（shù）字经济能走得更稳、更远。

简单来总（zǒng）结，当前一个大的趋（qū）势是（shì）数字化发展，数字（zì）化已（yǐ）经成（chéng）为国家战（zhàn）略。这里边包括我觉得最重要的大家应该关注的（de）是产业数字化，是红海中的蓝海。为什么这么讲呢？未来所有的传统行业，都值得（dé）用数字（zì）化重塑一遍它的（de）产业链、供应链、价值链（liàn），甚至是商业模式（shì）。

数字经济已经成为当代（dài）的主旋律。很多人老误以为数字（zì）经济=虚拟经济，其实所有用数字（zì）化技术（shù）打造的经济成果，都是数字经济。中国在（zài）这方面（miàn）已经遥遥领先（xiān），我们数字（zì）经济（jì）占GDP的比（bǐ）重已经超过30%。

所以，未来5-10年，所有的（de）企业都（dōu）将转型升级成数字化企业。

如果没有（yǒu）数字化的企业，可（kě）能就消失（shī）或者被淘汰了。

我们经常讲互联网的上半场，我（wǒ）的理（lǐ）解互联网（wǎng）的上半场是（shì）消费（fèi）互（hù）联网的数（shù）字化。也（yě）就是这（zhè）个互联网（wǎng）公司，把中国老（lǎo）百姓的吃喝玩乐、衣食住行，各种生活方式充（chōng）分实现了（le）数字化。所以，这些传统互联网公（gōng）司，当（dāng）仁不让（ràng）成了主角。

但是，未来10年，我觉得是互联（lián）网的下半（bàn）场，主（zhǔ）角就不再（zài）是互（hù）联（lián）网公（gōng）司，而是各种传统企业，各级政府，他们才会变成大数据、数字化真正的玩家，把各种产业场景用数字（zì）化（huà）再重新塑造一遍。

简单讲（jiǎng），数字化（huà）发展的（de）几（jǐ）个核心技术。为了让大家记，我编（biān）了一个字母歌，叫I、M、A、B、C、D、E。

I，IoT，物（wù）联（lián）网技术，主要是（shì）未来用（yòng）来把这个世界（jiè），把所有的商（shāng）业（yè）流（liú）程，所（suǒ）有数字（zì）化，主要是依靠物联网设备。

M，移动通信，5G，实际上是（shì）为数字（zì）时（shí）代准备的（de），并不是说仅仅方便我们（men）个人（rén）为了看视频，能够快速（sù），实际上为（wéi）了通过5G，把各种现实（shí）世（shì）界数（shù）字化的（de）数据传到云（yún）端。

C是（shì）Cloud computing，云计算（suàn）；A是（shì）人工智能；B是区块链；D是大（dà）数据；E是边缘计算。

所（suǒ）以，这里边的逻辑，我觉（jiào）得最重要（yào）是以AI为（wéi）核心，AI是一个大数据的（de）基础，才有了（le）深度学习，所以AI也是数据（jù）基础。

数据又来源于（yú）哪儿呢，来源于（yú）IoT，大量对这个世（shì）界（jiè）的数字（zì）化，通（tōng）过5G，传到（dào）云端。通过（guò）大数（shù）据系统管理起（qǐ）来。

所以（yǐ），未（wèi）来我们谈数字经（jīng）济（jì），我们谈数字（zì）化战略（luè），都脱离不开这几个（gè）技术。当然，还有一个是我们（men）今天要说到的，有（yǒu）一个技术跟它们都不能并（bìng）列（liè），是“安全（quán）”。因（yīn）为只有“安全（quán）”，给它们（men）提（tí）供了坚（jiān）实的基（jī）础，这些技术才能够充（chōng）分发挥作（zuò）用（yòng），而不（bú）至于成为风险的来源。

我可以举一个简（jiǎn）单的例子。

最近的“俄乌冲突”相当于是一场开（kāi）卷考试，是新的时代下数字世界对（duì）抗冲突的真实预演，有几个特点（diǎn），我给大家总（zǒng）结一下。

第一，网络战和传统战争相结合，已经演变成（chéng）一场数字化战争。

在战前（qián），网络战已经不是传说中的幻想小说。实际上在（zài）传统作战（zhàn）发生之（zhī）前，网（wǎng）络（luò）战已经开打。俄乌双方的政府部门，还（hái）有银行、电信、电力等关键基础设施，均遭到（dào）了网络打（dǎ）击。那除了网（wǎng）络攻击之外，星链、卫（wèi）星（xīng）、互联网、人工（gōng）智（zhì）能、无人机，人（rén）工智能技术（shù），传（chuán）统武器、传统攻击方法融为一体，打了一场新型的数（shù）字战争。乌克兰获得了北约和美国（guó）的支持。在数字（zì）化技术方面，弥（mí）补了弱势，而俄方由于（yú）在（zài）数（shù）字化方（fāng）面（miàn）落后，所以不免有扩（kuò）大（dà）的损失。

第二，网络攻击的（de）手段无所不用其（qí）极。

此次（cì），双方除了使用包（bāo）括原来常规的基于漏（lòu）洞的APT攻击（jī），还（hái）把DDoS拒绝（jué）服（fú）务攻击，特别是数（shù）据查（chá）处攻击（jī）、供应链（liàn）攻（gōng）击（jī）各种网站攻击（jī），各种（zhǒng）传（chuán）统（tǒng）手段，包括新的手段结合起（qǐ）来，所以（yǐ）这（zhè）一次战争（后面我（wǒ）会讲（jiǎng））还有（yǒu）一（yī）个特点，不仅是数（shù）字化（huà）战争，还是第一次（cì）人工智（zhì）能参（cān）战（zhàn）的数字战争。

第三，这（zhè）一（yī）次是一场数字时代的人（rén）民战（zhàn）争（zhēng）。

正因为（wéi）双方都（dōu）大量使用了（le）数（shù）字化技术（shù），而数字化的技术，真正的高手在民间。所（suǒ）以，很多高科技公司走（zǒu）向攻防的（de）前沿，民间的黑客成（chéng）为主（zhǔ）力军。

比如美国有很多高科技的公司，哪怕是民间公司，实际上都参与了战斗。包括IBM、微软（ruǎn）、谷歌，他们对俄罗斯禁运芯片（piàn），或者终（zhōng）止服（fú）务，包括埃隆（lóng）马（mǎ）斯克（kè），提供星链、卫星（xīng）、互联网等（děng）技术。

然（rán）后，民间的网（wǎng）安（ān）公司也纷（fēn）纷参战。也就是包括（kuò）俄罗斯的卡巴斯基，还（hái）有欧洲的（de）很多传统（tǒng）杀毒软件公司都纷纷参（cān）加（jiā），成为网络攻击攻防（fáng）的重（chóng）要（yào）力（lì）量。

本来俄罗斯在乌克兰（lán）的系统（tǒng）里，预埋（mái）了（le）一些后门和漏洞。但（dàn）是，美国的网络战部队和（hé）美国的一些安全公司（sī）出手。帮（bāng）助乌克兰做了（le）漏洞（dòng）和预（yù）埋（mái）后（hòu）门的清理，使得俄罗斯原来预设的网络打击效果（guǒ）大（dà）打折扣。

乌克兰还组织（zhī）了30万（wàn）国际黑客，又叫“IT志愿军”，这30万黑（hēi）客冲（chōng）到俄罗斯的网络空间里（lǐ），大打（dǎ）出手，导致俄罗（luó）斯的网军精力难以兼（jiān）顾，处处被动。

所以，我们可以从俄（é）乌的（de）例子来看，这是人类（lèi）历（lì）史（shǐ）上（shàng）第一次（cì）数字化（huà）战争，也是（shì）第一次AI战（zhàn）争（zhēng）。体现（xiàn）了双方谁的数字化技术落后，谁就要挨打这个机制。

过（guò）去（qù）我（wǒ）们有句老话讲“落后就（jiù）要挨（āi）打”。通过俄乌（wū）战争，我们可以把这句（jù）话改成（chéng），今天（tiān）在（zài）数字（zì）化（huà）的时代里，谁在数字化体系上（shàng）落后，谁（shuí）就（jiù）要（yào）挨打。

我们可（kě）以看到（dào），这次俄乌战（zhàn）争表面上是两个国（guó）家的武力冲突。但实（shí）际上背后是俄罗（luó）斯和西方两大数字体系的碰撞（zhuàng）。结果不言而喻，西（xī）方强（qiáng）大的数字体系，不再区分（fèn）军工、民用，也（yě）不再区分国企、民企，也不再区分企业、个人，把整个的数（shù）字化力（lì）量综合在一起，在这（zhè）方面俄罗斯就应该说（shuō）处于下风吧。

为什么（me）我又讲（jiǎng）这是人类历史上第一次AI战争（zhēng）呢（ne）？因为在军事冲突（tū）过程（chéng）中（zhōng），你会发现这一次AI（人工智能）活跃于战场的（de）各个领域，扮演着非常重（chóng）要的角色。甚（shèn）至包（bāo）括（kuò）AI的武器（qì），直接参与了战场的攻（gōng）击，参与了（le）战场的情报支持，辅助战场（chǎng）决策，被用于心理战的这（zhè）种虚假宣传，下面（miàn）呢我讲一一（yī）详细来给大家做（zuò）一（yī）些例子的（de）说明（míng）。

第一个，AI的武器直接参（cān）与战场攻击。

我记得当年阿西·莫夫在讲“机器人三原（yuán）则”的时候，有一（yī）个（gè）重要的（de）原（yuán）则，就是机器人不能伤害人。实际上今天各种无人战车、无人飞机，已经应用（yòng）在战场上（shàng）。这里面（miàn）举一个（gè）例子，乌（wū）克兰军队使用美国的弹簧（huáng）刀无人机，具（jù）备监视、侦察和打（dǎ）击功能。既是无人机，又是一个（gè）自杀（shā）式（shì）导弹，在人工智能的加持（chí）下（xià），单兵就能熟练掌握，有（yǒu）效打击俄军的机动目标，成为（wéi）战场规则的改变者。

那今（jīn）天弹簧刀（dāo）无（wú）人机可能还（hái）是在被遥控，最后（hòu）打击的瞬间可能还是由人来下指令。但（dàn）是，从（cóng）人下（xià）指（zhǐ）令，到它自动识别、自动判断、自（zì）主发起（qǐ）攻击，我（wǒ）觉得这（zhè）就是一层薄薄的（de）窗户纸（zhǐ）。

第（dì）二个，AI参与战场情报（bào）支持（chí）。

乌（wū）克兰国（guó）防部使（shǐ）用Clearview AI面部识别技术，通过（guò）人工智能来识别俘虏和尸体。该公司拥有（yǒu）一个包（bāo）括来自网络的100亿张面孔的数据（jù）库（kù）。其（qí）中（zhōng），仅来（lái）自（zì）俄（é）罗斯社交媒体的图像就高达20亿张。这种技术（shù）通过战（zhàn）场（chǎng）上传来的俄罗斯战俘或者尸体（tǐ）的面（miàn）部照片，可以（yǐ）对死者的身份进（jìn）行匹配。

第三个（gè），AI辅助（zhù）战场决（jué）策（cè）。

这次我们都知道（dào）说乌克兰派出很多小分队，对（duì）俄罗斯的运输（shū）线进行各种灵活的打击，打完了就跑（pǎo）。这（zhè）个前（qián）提是要（yào）有完全，应该说尽在（zài）掌（zhǎng）握之中的战（zhàn）场态势感知。

这一次呢，Seekr和Semantic AI的增强智能（néng）平台（tái）相结合，应用（yòng）深度分析技（jì）术，来发现人员（yuán）地点（diǎn），事件之间的隐蔽连接，自动生成（chéng）报告和（hé）动态仪表盘，从而（ér）帮助指挥者做（zuò）出更明确的选择。所以，这一次整个战场态势（shì）感知，大数据分析应（yīng）该（gāi）说（shuō）AI功不可（kě）没。

第（dì）四个（gè），打仗既是（shì）认知战，也是心理战，也是宣传战。

所以，前面网上流（liú）传了一个（gè）叫Deepfake的视（shì）频，所谓Deepfake就是利用AI做（zuò）的（de）深度伪造，内容是泽连斯基宣布他投降，这个（gè）视（shì）频害的泽连（lián）斯基（jī）不（bú）得不（bú）公开辟谣。但还是有大量的AI水军机器人在网上狂炒，制（zhì）造舆论。

所（suǒ）以，在（zài）这个过程（chéng）中，AI发挥了巨（jù）大的作（zuò）用（yòng）。

第五（wǔ）个，AI基础算力设施的服务断供。

我（wǒ）们讲（jiǎng）运行AI需要算力，算力需要大数据等基（jī）础（chǔ）设施。但如果数据中（zhōng）心，云（yún）服（fú）务都被终止，那么各种无人机，自动（dòng）驾驶（shǐ）坦克各种（zhǒng）大脑就失去了重要的能源。

在本次俄乌冲突中（zhōng），西方对（duì）俄罗斯采取了（le）“六断（duàn）”（断网、断供、断服务、断证（zhèng）书、断域名（míng）、断舆论），包括说微软、IBM和甲骨文（wén）这些公司对（duì）俄停止SSL证书，停止域名解析，停（tíng）止（zhǐ）互联网接口，中断国际传输网络，停（tíng）止了（le）各种软件跟服务，芯片和硬件供应商，比如（rú）英特尔对俄（é）断供，甚（shèn）至包括脸书、推特等就彻底把俄（é）罗斯的很（hěn）多帐号给禁掉（diào），彻底将俄孤（gū）立。再试图（tú）把俄罗斯在数字化（huà）的世界里彻底抹去。

而俄罗斯由于缺乏市（shì）场化的数字产业（yè）支撑，完全被动挨打，这个都让俄（é）罗斯算力、产（chǎn）品和服务的（de）基础被掣肘。

所（suǒ）以，大（dà）家想一想当未来发生冲突的时候，实际上就成了数字体系的对抗。这个数字体系的强（qiáng）壮与否，已经不完全取决于军队或（huò）者仅仅是军工企（qǐ）业，可能跟每一家数（shù）字化的（de）公司，每（měi）一（yī）家研（yán）究数（shù）字技术的（de）科技人员，都有密切的关系。

所以，我们可（kě）以得出一个结论（lùn），安全是数字化的基座，在一切（qiē）皆可（kě）编程，万物均（jun1）要互联，大数（shù）据驱动（dòng）业务（wù）、软（ruǎn）件重新世界的（de）趋（qū）势下，整个全世界的安全环境也（yě）更加的（de）脆弱，这其中AI也不（bú）例外。

一切皆可编程（chéng），我刚才讲过了（le），就意味着所有的东西都（dōu）是软件。比如说汽车也是（shì）软件，无（wú）人机也（yě）是软件，所以（yǐ）漏洞无处不在。有漏洞，就有可能被人（rén）利用，被人利用就可能被人（rén）攻（gōng）击。

我稍微解释一下（xià）漏洞的原理，过去大家只要觉得说自（zì）己的电脑口令不丢失（shī），帐号（hào）不（bú）泄（xiè）漏，就没有（yǒu）安全的问（wèn）题。实际上“漏洞”的出现改变了（le）这（zhè）一切（qiē），漏洞改变了（le）整个网络（luò）攻防（fáng）的游（yóu）戏规则（zé）。基于（yú）一个（gè）我知道，而你不知道的漏（lòu）洞，可（kě）能别人就（jiù）能以（yǐ）一种（zhǒng）完全意（yì）想不到的方法来控制你的系统。

举（jǔ）一个例子，比如说（shuō）利用一个常见的浏览器（qì）漏（lòu）洞，可能（néng）你在浏览一张美女图片的时（shí）候，你（nǐ）在享受看（kàn）图片的时（shí）候，可（kě）能在（zài）这个图片里面编（biān）码的（de）一个代码，就神不知鬼不（bú）觉在（zài）你的电脑上开始运转起（qǐ）来。

前（qián）两天，有一个WannaCry勒索（suǒ）病毒利（lì）用了一个漏（lòu）洞，更是（shì）匪（fěi）夷所思（sī）。一台电脑向另外一（yī）台电（diàn）脑的（de）网卡发送了（le）一个数据包，两（liǎng）台电（diàn）脑毫无感觉，这个数据包就能够在接（jiē）收机器的（de）电脑上运行，从而控制这台电脑，所以（yǐ）应该讲，漏洞（dòng）现在（zài）是无孔不入（rù）。

关（guān）于漏（lòu）洞最典型的例子，是去年年底阿帕奇基金开源项目的（de）Log4j2的组件，被发现存在着远程（chéng）代码执行漏（lòu）洞。这个软件被大量应用于关键业务（wù）系统底层开发，这个漏洞就意味着我（wǒ）们很多重要的系（xì）统，被漏洞（dòng）的利用者能够洞开。

万物均（jun1）要互（hù）联，万物（wù）互联（lián）带来的好处就不讲了。所以，今天的车联网、智慧城市、工（gōng）业互联（lián）网都是万（wàn）物互联的典型例子（zǐ）。但（dàn）是，这也（yě）意味（wèi）着在虚拟世（shì）界（jiè）里的攻击，往（wǎng）往会变成物理世（shì）界（jiè）的（de）伤害。在过去，大家中了病（bìng）毒，只是说文件丢失，大不了（le）电脑不用了，邮件不收了，网不上（shàng）了（le）。但是，今天虚拟（nǐ）世（shì）界里的伤害，都可（kě）以（yǐ）转成对（duì）物理世界的攻击（jī）。

所以，我们可（kě）以看到，导（dǎo）致工厂停工，大面积停电，社（shè）会停（tíng）摆。

我举（jǔ）两个例子，今年2月-3月，三（sān）家丰田的供应商遭到（dào）黑客攻（gōng）击，丰（fēng）田不得不停止其（qí）14家日本（běn）工厂的运营（yíng），导致每月的生产（chǎn）能力下降了（le）5%。

前（qián）几（jǐ）年，在委内瑞拉（lā）、乌克（kè）兰都出现（xiàn）了（le）利用网络攻击，攻击变电站（zhàn）设备，远程拉闸，导致大面积停电，所以这里（lǐ）就不是美国科幻电（diàn）影里的（de）幻想。

再举（jǔ）一个真（zhēn）实的例子，我（wǒ）们现在大家都会买智（zhì）能网联车或者新能源车，但是说句不好（hǎo）听的话，你买了车，你不要以为这车就是你的了，实际上是听车厂（chǎng）的。

我（wǒ）们的车每时每刻都需要（yào）跟车（chē）厂保持联系（xì），不断的从车厂（chǎng）各种更新的指（zhǐ）令、更新软件，也不断把各（gè）种数（shù）据传（chuán）回（huí）车（chē）厂。

一旦黑客破解了这（zhè）个车厂的协议，或者破解了车厂的云端服（fú）务器，就可（kě）以远（yuǎn）端对你的（de）车进行遥（yáo）控，那么可（kě）能就（jiù）会出现更大的风险（xiǎn）。在2017年，我（wǒ）们曾经帮助某全球知名的（de）一个知名车企，发现了（le）大概19个漏洞。通过（guò）这些漏洞，这个车厂在（zài）2017年以后出的（de）全球600多万辆车，都可以远程启动、远程熄（xī）火、远程（chéng）开门、远程开天窗（chuāng），一旦（dàn）这些漏洞被黑客掌（zhǎng）握，后果不（bú）堪设想。

大数据驱动业务，我（wǒ）们现（xiàn）在对（duì）大数据都非常重视（shì）。数（shù）据（jù）变（biàn）成（chéng）重要的战略资产（chǎn），数据变成整个信息化社（shè）会的（de）重要的像石油一样的（de）基础血液。但是，反过来说，数（shù）据一旦遭到了攻击（jī），可（kě）能就意味着业务停转，数据安全（quán）直接影响业务安全。

那2022年（nián）1月，我们国家台湾地区的台达电遭到勒索（suǒ）软件攻（gōng）击，有1500台（tái）服（fú）务器，12000台电脑（nǎo）在本次攻击中数据被加密，被勒（lè）索1500万美金。

还有一（yī）个去（qù）年5月份（fèn），美国（guó）东海岸一家输油管道（dào）公司受到了攻击，当时这（zhè）个（gè）事（shì）情很出名，美国东海（hǎi）岸很多加油站都供不上油了，害了美国（guó）总统都为之出（chū）来做了一些讲话。美国交通（tōng）部甚至都要宣布，在美国东部要（yào）进入紧急状态。当时（shí）我们也觉得这是（shì）一（yī）件很诡（guǐ）异的工业互联网攻击。

后来调查下来发（fā）现，其实比（bǐ）我们想得（dé）要简单。因（yīn）为来（lái）自俄罗斯的黑客，直（zhí）接把这家美国（guó）油（yóu）管（guǎn）公司的财务数据给加密了（le），导（dǎo）致整个财（cái）务数据系统崩溃之（zhī）后（hòu），就没有办法向客（kè）户提供油料了。所以（yǐ），整个的业务（wù）就中止（zhǐ）了。

这几年我们在国内（nèi）也接到（dào）不少（shǎo）公司（sī）的报案，他们受到勒索（suǒ）攻击的这种侵犯（fàn）。实际上（shàng）一旦核心数据被加密（mì），整个业务系统立刻停摆。

所以，这里边我也讲一下勒索（suǒ）软（ruǎn）件（jiàn）或者勒（lè）索攻（gōng）击，已经变成现在成长速度最快，获利最高的（de）一种新的黑产（chǎn）的（de）商业模式。

过去（qù）我们很多人（rén）很迷信（xìn），我的数据很（hěn）加密（mì），别人也拿不走，但（dàn）是勒索攻击者脑洞很清奇，他们不拿走你的数据（jù），把你的（de）数据（jù）再加密一点，就像我说的，我们家有（yǒu）一个保险柜，你来了之后不用打开它，再带一个更大的保险柜，把我的保险柜（guì）锁在你的保险柜（guì）里，这样我只（zhī）能乖乖地找你（nǐ）去要（yào）保险柜的钥（yào）匙，所以这就是勒索攻击的核心秘密（mì）。

所（suǒ）以，我们可以看到数（shù）字化技术，固然一方面给我们（men）创造了自动化，非（fēi）常美好的（de）科技（jì）的这种未来，美好的（de）生活，更高的（de）生产力（lì）、更高的效率。但（dàn）是它同时（shí）也有安全上的隐患（huàn）。

当然了，前面讲人工智能技术本（běn）质（zhì）也（yě）是软件，本质也（yě）是基（jī）于数（shù）据，也有很多破绽。所（suǒ）以（yǐ），总结起来，我觉得人（rén）工智能安全有七（qī）大安全挑战：硬（yìng）件、软件、通信协议、算法、数据、应用和（hé）社（shè）会（huì）伦理。

下（xià）面我（wǒ）将给大（dà）家逐（zhú）个解释一下。

第一个，硬件，可能会出错。因为（wéi）我刚才讲，今天的（de）数字化世（shì）界，我们很多数（shù）据是来自于（yú）物联网设备及（jí）各种（zhǒng）传感器。如果这个（gè）传感（gǎn）器数据出错，传给（gěi）系（xì）统的数据本身信号就是错的，那（nà）么系统当然就会做出错误的判断。

比如说（shuō）美国波音公司的737Max前（qián）几年出了（le）几次空难，实际上（shàng）是自（zì）动压机头和（hé）自动（dòng）提升的软件出了（le）错（cuò）误。因为（wéi）机（jī）头升降仰角（jiǎo）读取的传感器读出了（le）错误（wù），以至于AI发生（shēng）了错误判断（duàn）。

包括今天我们比较看好的无人驾驶车，都会（huì）装有激光雷（léi）达，用激光雷达来对前方的路障进（jìn）行（háng）识别。但（dàn）是，如果我用类似的激光笔或者对激光雷达进行干扰，可能无（wú）人驾驶车，就会（huì）发生错误的判断。所以，硬件是整个AI数字（zì）化很重（chóng）要的基础，硬件有可能会带来错误的数据。

第二（èr）个，软件存在漏（lòu）洞。特（tè）别是我们今天的AI训练，很（hěn）多都是基于开（kāi）源（yuán）框架，这（zhè）些（xiē）开（kāi）源框架本身软件（jiàn）都（dōu）有很多的漏洞。在（zài）过（guò）去的时（shí）间里面，我们360已（yǐ）经挖取了不（bú）少的（de）漏洞（dòng）。

比（bǐ）如（rú）说最近有（yǒu）一个AI编程（chéng）神器的（de）软件，自动（dòng）生成代码（mǎ）中（zhōng）有40%存在漏洞，这个（gè）漏洞比一个优秀的（de）人工工程师的漏洞还要多出10倍以上。

第三（sān）个，通信协议可能会被劫持。你比如说，刚才（cái）我们讲（jiǎng）了无人驾驶汽车，跟车厂之间（jiān）是有特殊的协议（yì），来进行软件的更新和远程控制。如果（guǒ）这个协（xié）议被破获之后，无人驾驶车就可（kě）能（néng）会失（shī）控。

那么，伊朗曾经通过GPS信号的欺骗，把美国的一架无人机迫降到（dào）伊（yī）朗（lǎng）的（de）机场，这种GPS的信号欺骗也是一种通信协议的劫（jié）持（chí）。

第四个，算法可（kě）以被欺（qī）骗、被误导。谷歌曾经有一（yī）个（gè）AI算法，把黑人识别（bié）成猩猩，惹出了很大的风波。现在我们有一些人工智能漏洞挖掘团（tuán）队（duì），发（fā）现（xiàn）当你（nǐ）走在街（jiē）上，面对满（mǎn）大街（jiē）人（rén）工（gōng）智能的基（jī）于人脸识别的摄像头，你如果不想被他认出来你是一个人，你穿上特殊条纹或者特（tè）殊图案（àn）的（de）T恤，摄像头就会（huì）不（bú）认（rèn）为（wéi）你是一个（gè）人，它就对你不会（huì）做面（miàn）部识（shí）别（bié），这（zhè）就说明了算法是可以通过一（yī）种（zhǒng）特殊的组合数据来进行欺骗和误导的。

更重要的数（shù）据可以被（bèi）污染，或（huò）者我们（men）称之为数据（jù）投毒。因为数据是宝贵的数字（zì）资产（chǎn），AI的深度学（xué）习是要基于大（dà）量（liàng）的数（shù）据训练。但是，如果我们（men）在训练过程中，我（wǒ）们给（gěi）的数据（jù）是有误的，有可能训（xùn）练出一个完（wán）全不一样的AI的结果。

比如说，如果（guǒ）我们在（zài）训练如（rú）何识别猫的（de）这（zhè）样一个训（xùn）练集的（de）时候，我们给了很（hěn）多狗的（de）图（tú）片，那将来这个AI可能就会把狗误认为是（shì）猫。

AI比（bǐ）较独有的两个特（tè）点，我们也在这儿提一下。就是（shì）应用上可（kě）能会（huì）危（wēi）害人类的根本利益（yì），这里面的（de）案例有两个，主（zhǔ）要是（shì）涉（shè）及到社会伦理的问题。

第一，AI在5G上战场直接攻击人类。原来阿西·莫（mò）夫就希望说，只要有AI能力（lì）的，把这（zhè）些机器都称之为叫机器人（rén），机器（qì）人永远不要伤害（hài）人类。但是现在看来（lái）这（zhè）个原（yuán）则已经（jīng）被（bèi）打破。所以，我们可能有一（yī）个建议说，因为现在各国都在AI跟武器（qì）结合方（fāng）面，世界各国都在展（zhǎn）开军备竞赛，这也是未来大国角力的焦点。

所以，AI武器应（yīng）该把最后的决定权，应（yīng）该让人（rén）来做（zuò）最（zuì）后的控制，而不是完全让AI做自（zì）动的（de）判断（duàn）、自动（dòng）的决策。包（bāo）括（kuò）深度伪造技术，前面已经（jīng）讲了，这个技术也涉及（jí）到（dào）对人的利益的伤害。不仅（jǐn）可以用于网络诈骗，制造色情（qíng）视（shì）频，甚至伪造新闻（wén），误导舆论。

你比如说（shuō），最近有（yǒu）人用马斯（sī）克的视（shì）频，深度伪造（zào）。伪造了一个他鼓动粉丝购买特定（dìng）的虚拟货币的（de）事（shì）件，害得马斯克不（bú）得不出来辟谣，说这（zhè）个视（shì）频（pín）是（shì）别人（rén）用Deepfake来伪造（zào）的（de）。

AI最大的一个问题，也（yě）是（shì）现在我们国家很（hěn）多学（xué）者都在讨论（lùn）的，AI在社会伦理上，有可能超出现有的社会法律和道德的规范。

比如（rú）说，有（yǒu）一个（gè）电车（chē）难题，如何认定无人驾驶（shǐ）车出（chū）事以后的责任（rèn）。比如说在高速行驶之中，自动驾驶（shǐ）汽（qì）车，如果避让行人（rén），可（kě）能会撞（zhuàng）上旁边的障碍物，导致车主人身伤亡；如果不避（bì）让，就会导致（zhì）行人伤亡。在（zài）这种情况下，就有两个问题，AI的程序应该如何来做出（chū）判断。第二个，如果出了车祸，到底这个（gè）责任应该算（suàn）是AI的，算是车厂的，还算是驾驶员的，所以这（zhè）些（xiē）问（wèn）题应该说（shuō）都还没（méi）有一（yī）个（gè）明确的答案（àn）。

前面我们讲（jiǎng）了数字（zì）化技术带来了诸（zhū）多挑（tiāo）战（zhàn），但（dàn）是今天也有很多人（rén），对安（ān）全的（de）认识还停（tíng）留在计算机安全和网（wǎng）络安（ān）全的时代，以为（wéi）安全（quán）就是杀杀（shā）病毒，防防木（mù）马，用防火墙（qiáng）隔离（lí）等传（chuán）统手段（duàn）。

面对大（dà）数据、人工智（zhì）能各种复杂的安全（quán）挑战，我觉得网（wǎng）络安全还应该重新被定义，要将计算机安全、网络安全升级到（dào）数字安全，才能跟（gēn）得上整个行业的发（fā）展（zhǎn）要求，才能（néng）跟得上国（guó）家的产业数字化的发展要求，才能保障（zhàng）我们进入数字文明时代。

当前（qián）一（yī）个重要的变化是，人工（gōng）智能（néng）安全已经上升为（wéi）国家安全的（de）重要组（zǔ）成部分，《国家安全战略（2021年-2025年）》明确提出加快提升网络安全、数据安全、人工智能安全等领域的（de）治理能力，这也是（shì）国（guó）家战略（luè）层面（miàn）首次提（tí）出（chū）来，人工智（zhì）能安全的概念，说明人工（gōng）智能（néng）安全是数（shù）字安全（quán）的一部分（fèn），也是平常我（wǒ）们所（suǒ）说（shuō）的“非传（chuán）统安全”。

反过来，说了（le）半天AI的问题，我们讲数字（zì）化技术（shù）也是一（yī）把双刃剑。人工智能技术高速发展，带来安（ān）全挑（tiāo）战的同时，也为（wéi）解决网络安（ān）全、数（shù）字（zì）安全（quán）的风险提供（gòng）了新的（de）技（jì）术手段（duàn）。

现在AI技术已（yǐ）经（jīng）广泛利用于大（dà）数据的分析、威胁情报的处（chù）理、智能防御等（děng）领域，特别是在恶意（yì）代码的样本检测、恶意代码流量分析、漏洞挖掘、僵尸网络（luò）检测、网络黑（hēi）灰产（chǎn）检测（cè）等（děng）方面发（fā）挥了巨大的作用（yòng）。360这几（jǐ）年（nián）连续帮助国家发现了50个境外的国家级黑客组织，与（yǔ）我（wǒ）们对（duì）AI的（de）使用都（dōu）是（shì）分不开的。

在AI数据分析方面（miàn），人工智能在海量数据分析方面，发挥了积极重要的作（zuò）用。因为大数（shù）据的（de）数量浩如烟海，依靠人工去（qù）做发现是基本不（bú）可能的。必须借助人工智能，去（qù）对（duì）多（duō）维（wéi）度海（hǎi）量、鲜（xiān）活的安（ān）全大数据进行（háng）实时的分析，用算力（lì）来代替人力，然后再从中挖掘出安全的（de）线索（suǒ），再（zài）由安全专家来（lái）进行跟进。

在AI情报处理方面，人（rén）工智能可以参与漏洞的挖掘，筛选恶意的样本、恶意的（de）网址，对APT的攻击行为进行自动化的分析（xī）跟（gēn）学习，实现针对威胁攻击的（de）智能化检测、监测、预警（jǐng）和响应。

未来在AI智（zhì）能防御（yù）方面，人工智能可以发现未知（zhī）的病毒木马（mǎ），对（duì）DDoS攻击进行（háng）监测和预警，并对APT的攻击溯源进行定位，有效提高安全运营的效率，大（dà）幅度提高我国的安全防（fáng）御能（néng）力。

作为中国数字（zì）安全的领（lǐng）军企业，360一（yī）直高度重视人（rén）工智能安全，率先在行业里进行布局，积极构（gòu）建人工（gōng）智（zhì）能安（ān）全（quán）能力体（tǐ）系（xì）。我们确立了“数据制胜”为核心的新战法，核心就是无论（lùn）任何的（de）攻（gōng）击，首（shǒu）先要强（qiáng）调能够（gòu）想办法（fǎ）利用大数据分析，能（néng）够看见攻击（jī）。看见攻（gōng）击，那么随后对它（tā）进行阻断，进行溯源，进行封堵，进行清（qīng）理，就变得比（bǐ）较简单（dān）。如（rú）果看不见，那什么都是抓瞎。

所以，如何利用（yòng）人工智（zhì）能（néng）技术，从全网大数据中进（jìn）行分析，建立全局（jú）视角（jiǎo），并且从中构（gòu）建起看见的这种能力。

在新的战法指导下（xià），360应用人（rén）工智能数据分析技术，对自身积累的全球最（zuì）大规模的（de）安全大数据（jù）进行（háng）实时分析，形成（chéng）360全网安全大脑的原型，为行（háng）业或者企业提供强大的数据（jù）和情报支撑（chēng），实现对网络威胁进行有效的分析、预警、发现和（hé）阻断。

面对（duì）人工智能自身的安（ān）全挑战，360也积极参与人工智能漏洞挖掘。我们一共（gòng）发现了150多个机（jī）器学习框架和（hé）供应链的（de）漏洞，涉（shè）及到Tensorflow、Caffe、PyTorch等（děng）主流深度学习AI开源框架（jià）。我们发（fā）现了多款人脸识别设备的安全（quán）漏洞，利用漏（lòu）洞可（kě）以实现远程控（kòng）制、隐私（sī）的（de）窃取、模型文件的（de）窃（qiè）取。360的AI安全实验室发（fā）现了多款移动APP、人脸识别功能方面存在的数字泄（xiè）漏的安全风险。

所以，未来利用AI解决安全（quán），也大有可为。

360将AI安全（quán）作为公司业务发展的重（chóng）点方向，愿意与行业、产（chǎn）业一（yī）起开放协同创新。我（wǒ）们积极承担安全大脑（nǎo），国家新一（yī）代人工智能开放创新（xīn）平台的建设，目前360安全大脑开（kāi）放平台的能力，已经（jīng）落（luò）地于工（gōng）业互联网、物（wù）联网（wǎng）、智能网联车、智慧城市、数（shù）字（zì）政（zhèng）府（fǔ）等（děng）多（duō）个场景，并（bìng）且赋能教育、运营商、信（xìn）创等诸多行业。

360还牵头研发了人工智能安全（quán）评（píng）测与（yǔ）风险监测预警平台，入（rù）选工信部（bù）的人（rén）工智能产业（yè）创新（xīn）任务揭榜单位名（míng）单。

作（zuò）为中国数字安全的领军企业，360愿意开放自（zì）身的安全大数据，将产业力量联合起来，共建AI安全生态（tài），集中推动数字安全的（de）创新，其成果（guǒ）也将最终沉淀于（yú）安全大脑人工（gōng）智能创新（xīn）开放平（píng）台的建设。

360还将在安全（quán）大（dà）脑（nǎo）人（rén）工（gōng）智能（néng）开放创新平台建设（shè）的基础（chǔ）之上（shàng），倡导建立人工（gōng）智能与（yǔ）开放创新体系，建立平台（tái）化（huà）机制，实现核（hé）心研究成果的对接与转换，赋能人（rén）工智能与安全相关的中（zhōng）小（xiǎo）微企业、高校、科研院（yuàn）所，赋能中小微初（chū）创的安（ān）全企业，全球行业、AI产业，共享技术成果，推动产业健康（kāng）快速发展，提升（shēng）国家（jiā）人（rén）工（gōng）智能安全（quán）整体（tǐ）的防御能力（lì）。

在过去的20年里（lǐ）面，360核（hé）心做的就一（yī）件（jiàn）事（shì），就是“安全”。希（xī）望在未来越（yuè）来越富有（yǒu）挑战的安全（quán）环（huán）境里面，我们做到真正能（néng）看见攻击（jī），发现（xiàn）威胁，抵御威胁。

未来360将携手合作伙伴，共同夯（bèn）实AI安全能力，把服务于国家和社会（huì）的数字安全能力复制到各（gè）个行业里（lǐ），为数字中国（guó）的建设，各（gè）个行业的（de）数字化转型贡献力量。

谢（xiè）谢大家！