7月27日，在微（wēi）博、新浪新（xīn）闻主（zhǔ）办的（de）人（rén）工智能领域行业峰会——2022新智者（zhě）大会上（shàng），360公司创始人周鸿祎分享了题为《筑牢（láo）AI安全基（jī）座（zuò） 护航智能新（xīn）时代》的演讲，从数字安全的角度，带（dài）给我们关于网络安全（quán）的全新视（shì）角和定义（yì）。

2022新智者大会-360公司创始人周鸿祎-主题演（yǎn）讲

以（yǐ）下是周鸿祎（yī）分（fèn）享实录（lù），内（nèi）容经编辑略有删减：

尊敬的各位领导、各位同仁、各位来宾（bīn），感谢大（dà）会（huì）组委会的邀（yāo）请，非（fēi）常高兴（xìng）参加“2022年新智者大（dà）会（huì）”。

我叫（jiào）周鸿祎，虽然说可能很多人都认识我，但是很多人都问我（wǒ）一个问题，为什么你老喜欢穿红衣服（fú）？那是因为我的名字老被（bèi）叫成（chéng）周鸿（hóng）“伟（wěi）”，所以我穿（chuān）一个红衣（yī）服，就是给（gěi）大家提示一下，我是鸿（hóng）祎（yi），不是鸿伟（Wei）。

本次会议的主（zhǔ）题是“融合生态，价值共创”。当前发（fā）展（zhǎn）数字经济，以人（rén）工智（zhì）能为（wéi）代表的数字（zì）技术赋能产业变革，推动整个社会经济进（jìn）入智能化的（de）新阶段。

我是绝对支持数（shù）字经济，支持新技术人工智（zhì）能的。但是，我们做安全（quán）的人（rén），稍微有点变态，天天都在琢磨这个技术有啥风险，这个技术有什（shí）么（me）不安全的地方。

那么（me），我们（men）今天谈数字经济、人工智能里不安全的问（wèn）题，也（yě）是（shì）为了保证（zhèng）让（ràng）我们建设数字中国，促进数字经济能走得（dé）更稳、更远。

简单（dān）来总（zǒng）结，当（dāng）前（qián）一个大（dà）的趋势是数字（zì）化发展（zhǎn），数字化已（yǐ）经成为国家（jiā）战略。这里边包括我觉得最重要的大（dà）家应该关（guān）注（zhù）的是产业数字化，是红海中的蓝海。为什么这么讲呢（ne）？未来所有的传统行（háng）业（yè），都值（zhí）得用数字（zì）化（huà）重塑一遍它的产业链、供（gòng）应链（liàn）、价值链（liàn），甚至是商业模式。

数字（zì）经济已经成为当代的（de）主旋律。很多人老误以为数字经济=虚拟经济，其实（shí）所有用数（shù）字化技术打（dǎ）造（zào）的经济成果，都是数字经济。中国在这（zhè）方面已经遥遥领（lǐng）先，我们数字经济占GDP的比重已（yǐ）经超（chāo）过30%。

所（suǒ）以，未来5-10年，所有的（de）企业都（dōu）将转型升级（jí）成数字化企业。

如果没有数字化的企业，可能就消失或者被淘汰（tài）了（le）。

我们（men）经常讲互联网的上（shàng）半场，我的理解互联（lián）网的上半场是消费互（hù）联网的数（shù）字化。也就是这个互（hù）联网公司，把中（zhōng）国老百姓的吃喝玩乐、衣食（shí）住行（háng），各种生活（huó）方式（shì）充（chōng）分实（shí）现（xiàn）了数字化（huà）。所以，这些传（chuán）统互联（lián）网公司，当仁不（bú）让成了主角。

但是，未来10年，我觉（jiào）得是互联网（wǎng）的下半场，主角（jiǎo）就不再是互联网公司，而是各种传统企业，各级（jí）政府（fǔ），他们才会变（biàn）成大数据、数字化（huà）真正（zhèng）的（de）玩家，把各种产业场景用数字化再重新塑造一遍（biàn）。

简单讲，数字化发展（zhǎn）的几个核心技术。为了（le）让大家记，我编了（le）一个字母（mǔ）歌（gē），叫I、M、A、B、C、D、E。

I，IoT，物联网技术（shù），主要是未来用来把这个世界，把所（suǒ）有的商业流程，所有数字化，主要是依靠物联网设（shè）备。

M，移动（dòng）通（tōng）信（xìn），5G，实际上（shàng）是为（wéi）数字时代准备的，并不是说仅（jǐn）仅（jǐn）方便我们个人为了看视频（pín），能够快速，实际上为了通过5G，把各种（zhǒng）现实世界数字化的数据传到云端（duān）。

C是Cloud computing，云计算（suàn）；A是人工智（zhì）能；B是（shì）区块链；D是大数据；E是边缘计算。

所以，这里边的逻（luó）辑，我觉得最重要是以AI为核（hé）心，AI是一个大数据（jù）的基（jī）础，才有了深度学习，所以AI也是数据基础。

数据又来源于哪（nǎ）儿呢，来源于IoT，大量对这个世界（jiè）的数字化，通过5G，传到（dào）云（yún）端（duān）。通过大（dà）数（shù）据（jù）系统管理起来。

所以，未来我们谈数字经济，我们（men）谈数（shù）字化战略，都脱（tuō）离不开（kāi）这几个技术。当（dāng）然，还有（yǒu）一个是我（wǒ）们今天要说到的，有一个技（jì）术跟它们都（dōu）不能并列，是“安全”。因（yīn）为只有“安（ān）全”，给它们提（tí）供了坚实（shí）的基础（chǔ），这（zhè）些（xiē）技术才能够充分发挥（huī）作用，而（ér）不至（zhì）于成为风险的来源（yuán）。

我可以（yǐ）举（jǔ）一个简单的例子。

最近的“俄乌冲突”相当于（yú）是一场开卷（juàn）考试，是新的时代下数字世界对抗冲突的真（zhēn）实预（yù）演，有几个特点，我给（gěi）大家总结一下。

第一，网络战（zhàn）和（hé）传统战争相结合，已经演变成一场数字（zì）化战争。

在战前，网络（luò）战已经不（bú）是传（chuán）说中的幻想小说。实际上在传统作战（zhàn）发生之（zhī）前，网（wǎng）络（luò）战已经开打（dǎ）。俄乌双方（fāng）的政（zhèng）府部门（mén），还有银行、电信、电力等关（guān）键基础设施，均（jun1）遭到了网络打（dǎ）击。那除（chú）了（le）网络攻（gōng）击之外，星链、卫星、互（hù）联网、人工智能、无人机，人工智能技术，传统武器、传统攻击方（fāng）法融为一体，打了一场新型（xíng）的数字（zì）战争。乌克兰获得了北约（yuē）和美国的支持。在数字化（huà）技（jì）术方面，弥（mí）补了弱势（shì），而俄方由于（yú）在数字化方面落后（hòu），所以不（bú）免有扩大的损失。

第二，网络攻击的手段无所不用其极。

此次，双方除了使用包括原来常规（guī）的基（jī）于漏洞（dòng）的APT攻（gōng）击，还把DDoS拒绝服务攻击，特（tè）别是数据（jù）查处攻击、供应链攻击各种网站攻击，各种传统手段，包括新（xīn）的手段结合起来，所以这一次战（zhàn）争（后面我会（huì）讲（jiǎng））还有一个特点，不仅是数字化战争，还是第一次人工智（zhì）能参战的数字战争。

第（dì）三（sān），这一次是一场数字时（shí）代的人民战（zhàn）争。

正因为双方都（dōu）大量使用了数字化技术，而数字化的技术，真正的高（gāo）手在民间。所以，很多高科技公（gōng）司走向攻防的前沿，民间的黑客成为（wéi）主力军（jun1）。

比如美国有很多高（gāo）科技的（de）公司，哪怕是民间（jiān）公司，实际（jì）上都（dōu）参与（yǔ）了战斗。包括IBM、微（wēi）软、谷歌，他（tā）们对（duì）俄（é）罗斯禁运（yùn）芯片，或者终止服务，包括埃隆（lóng）马（mǎ）斯克，提（tí）供星链、卫（wèi）星、互联网等技术。

然后（hòu），民间（jiān）的网（wǎng）安公司也（yě）纷纷参战。也就（jiù）是包括俄罗斯的卡巴斯（sī）基，还有（yǒu）欧洲的（de）很（hěn）多（duō）传统杀毒软件公司都纷纷参加，成为网络攻击攻防的重要力量（liàng）。

本来俄罗（luó）斯在乌克兰的系统里，预埋了（le）一些（xiē）后（hòu）门和（hé）漏（lòu）洞。但（dàn）是，美国（guó）的网（wǎng）络战（zhàn）部队和美国的一些安（ān）全公司（sī）出手（shǒu）。帮助（zhù）乌克（kè）兰做了漏洞（dòng）和预埋后门的清理，使得俄罗（luó）斯原来预设的（de）网络打击效果大打折扣。

乌克兰还组（zǔ）织了（le）30万国际黑客，又叫“IT志愿军”，这30万黑客冲到俄罗斯的网络空间里，大打出（chū）手，导致（zhì）俄罗斯的（de）网（wǎng）军精（jīng）力（lì）难以兼（jiān）顾，处处被动。

所以，我们可（kě）以从俄乌的例子来看，这是人类历史上第一次数（shù）字化战争，也是第一次AI战争。体现了双方谁的（de）数字化（huà）技术落后（hòu），谁就（jiù）要挨（āi）打（dǎ）这个（gè）机制。

过去我们（men）有句老话（huà）讲“落（luò）后就要挨打”。通过俄乌战争，我们可（kě）以把这句话改成，今天（tiān）在数字（zì）化的时（shí）代里，谁在数字化体（tǐ）系上落后，谁就（jiù）要挨打（dǎ）。

我们可以看到，这次俄乌（wū）战争表面上（shàng）是两个国家的武力冲突（tū）。但实际上背后是俄罗斯和西方（fāng）两大数字体系的碰撞。结果不言而喻，西（xī）方（fāng）强大的数字（zì）体系（xì），不再区分军（jun1）工、民用，也不再区分国企、民企，也（yě）不再区分企业、个人，把整（zhěng）个的数字化力量综合在（zài）一起（qǐ），在这（zhè）方面俄罗斯就应（yīng）该说处于下风吧。

为什么我（wǒ）又讲这（zhè）是人类历（lì）史（shǐ）上第一次AI战争呢？因为在军（jun1）事冲突（tū）过程中，你会发现这一次AI（人工智能）活（huó）跃于（yú）战场的各个领域，扮演着非常重要的（de）角色。甚至包括AI的（de）武器，直接（jiē）参与了战场的（de）攻击，参与了战场（chǎng）的情报支（zhī）持，辅助战场决策，被用于心（xīn）理战的这种虚假宣传，下（xià）面呢我讲一一详细来给（gěi）大家（jiā）做一些例子的说明。

第一个（gè），AI的武器直（zhí）接参与战场攻击。

我记得当年阿（ā）西·莫夫在（zài）讲“机器人三原（yuán）则”的时候，有一（yī）个（gè）重（chóng）要的原则，就是机（jī）器（qì）人（rén）不（bú）能伤害人。实际上今天各种无人（rén）战车、无人飞（fēi）机，已经（jīng）应用在战（zhàn）场上。这（zhè）里（lǐ）面举一个（gè）例子（zǐ），乌克兰军（jun1）队（duì）使用美国的弹簧刀无人机，具备监视、侦察和打击（jī）功（gōng）能。既是（shì）无人机，又是一个自杀（shā）式（shì）导弹（dàn），在（zài）人（rén）工智（zhì）能的加持下，单兵就能熟练掌握，有效打击俄军（jun1）的（de）机（jī）动（dòng）目（mù）标，成为（wéi）战场规则（zé）的改变（biàn）者。

那（nà）今天弹簧刀无人机可能（néng）还（hái）是在被遥控，最后打击（jī）的瞬间可能还是由人来（lái）下（xià）指令（lìng）。但是，从人下指令（lìng），到（dào）它（tā）自动识别、自动判断、自主发起攻击（jī），我觉得这就是一层薄（báo）薄的窗户纸（zhǐ）。

第（dì）二个，AI参（cān）与战（zhàn）场情报支持。

乌克兰国防（fáng）部使用Clearview AI面部识（shí）别技术，通过人工智能（néng）来（lái）识别俘虏和尸体。该公（gōng）司拥（yōng）有（yǒu）一个包括来自网络的100亿张面孔的数据库（kù）。其中，仅（jǐn）来自俄罗（luó）斯（sī）社交（jiāo）媒体的图像就高达（dá）20亿张。这（zhè）种技（jì）术通过（guò）战场上（shàng）传来的（de）俄罗斯战俘（fú）或者尸（shī）体的面部照片，可以对死者的（de）身份进行匹配。

第三个，AI辅助战场（chǎng）决策。

这（zhè）次（cì）我（wǒ）们都知道说乌克兰派（pài）出很多小分队，对俄（é）罗斯的运输线进行各（gè）种灵活的打（dǎ）击，打完（wán）了（le）就跑（pǎo）。这（zhè）个前提是要有完全，应该说尽在掌握（wò）之中的战场态势感知。

这一（yī）次呢（ne），Seekr和Semantic AI的增（zēng）强智能平台相结合，应用深度分析技术，来发现（xiàn）人员地点，事件之间的隐（yǐn）蔽连接，自动生成报告和动态仪表盘，从而帮助指（zhǐ）挥者（zhě）做出更（gèng）明确（què）的选择。所以，这一次整个战（zhàn）场态势（shì）感知（zhī），大（dà）数据分析应该说（shuō）AI功不可没。

第四个，打仗既是认知战，也（yě）是心理战，也是宣传战。

所以，前面（miàn）网上流传了一个叫Deepfake的（de）视频，所（suǒ）谓Deepfake就（jiù）是利用AI做的深度伪造（zào），内容（róng）是泽连斯基宣布他（tā）投降，这（zhè）个视频害的泽连斯基不得不公开（kāi）辟谣。但还（hái）是有大量的AI水军机器人在网上狂炒，制造舆论。

所以，在（zài）这个过程中，AI发挥了（le）巨大的作（zuò）用。

第（dì）五个（gè），AI基础算力设施的服（fú）务断（duàn）供。

我们讲运行（háng）AI需要算力，算力（lì）需要大数据等基础设施。但如果数（shù）据中心，云服务都被终止，那么各种无（wú）人机（jī），自（zì）动驾驶（shǐ）坦克（kè）各种大脑（nǎo）就（jiù）失去了重要（yào）的能（néng）源。

在本次俄（é）乌（wū）冲（chōng）突中，西（xī）方对俄罗斯（sī）采取了“六（liù）断”（断网、断（duàn）供、断服务、断（duàn）证书、断域（yù）名、断舆论），包括（kuò）说微软、IBM和甲骨（gǔ）文（wén）这些公司（sī）对俄停止SSL证书，停止域名解（jiě）析，停止互联网（wǎng）接口（kǒu），中断（duàn）国际传输网络，停止了（le）各种软件跟（gēn）服务，芯片和（hé）硬件供应商，比如英特尔对俄断供，甚至包（bāo）括脸书、推特（tè）等就彻（chè）底把俄罗斯的很多帐号（hào）给禁掉，彻底（dǐ）将（jiāng）俄孤（gū）立（lì）。再（zài）试图把俄罗斯在数字化的世界里彻底抹去。

而俄罗（luó）斯由于缺乏（fá）市（shì）场化的数字产业支撑，完全被动挨（āi）打，这个都让俄罗斯算力（lì）、产品和（hé）服务的基础被掣肘。

所（suǒ）以，大家想（xiǎng）一（yī）想当（dāng）未来发生冲突的时候，实际（jì）上（shàng）就（jiù）成（chéng）了数字体系的（de）对抗。这个数字体系的强壮与否（fǒu），已经不完（wán）全取决于军（jun1）队或者仅仅是军工企业，可能跟每一家数字化的（de）公司（sī），每一家研究数字技术的科技人员，都有密切的（de）关（guān）系。

所以，我们可（kě）以得出一个（gè）结论，安全是数字化（huà）的（de）基（jī）座（zuò），在一切皆可编（biān）程，万物均要互（hù）联，大（dà）数据驱（qū）动业务（wù）、软件重新（xīn）世界（jiè）的趋势下，整个全世界（jiè）的安全环境也更（gèng）加的脆弱，这其（qí）中AI也不例（lì）外。

一切皆可编程，我刚才讲过了，就意味着所（suǒ）有的（de）东（dōng）西都是软（ruǎn）件。比如说（shuō）汽车（chē）也是软件，无人机（jī）也是软件，所以漏洞无（wú）处不在。有漏洞，就有可能被人利用，被（bèi）人利（lì）用（yòng）就可能被人攻击。

我（wǒ）稍微解释（shì）一下漏洞的原理，过去大家只要觉（jiào）得说自己的电脑口令不（bú）丢失，帐号不泄漏，就没有安全（quán）的问题。实际上“漏（lòu）洞”的出现改（gǎi）变了这一切，漏洞（dòng）改（gǎi）变了（le）整个（gè）网（wǎng）络攻防的游戏规则。基于一个（gè）我知道，而（ér）你不知（zhī）道的（de）漏洞，可能别人（rén）就能以一种完全意（yì）想不到的方法（fǎ）来控制（zhì）你的系统。

举一个（gè）例子，比如说利用一个常见（jiàn）的浏（liú）览（lǎn）器漏洞，可（kě）能你在浏览一（yī）张（zhāng）美女图片（piàn）的时候，你在享受看（kàn）图（tú）片（piàn）的（de）时候，可能（néng）在这个图片（piàn）里面编码的一（yī）个代码，就神不知鬼不觉（jiào）在你（nǐ）的电脑上开（kāi）始运转（zhuǎn）起来（lái）。

前两天，有一个（gè）WannaCry勒索病毒利用了一个漏洞，更是匪夷所（suǒ）思（sī）。一（yī）台电脑向另外（wài）一台电脑的网卡发送（sòng）了一个数据包，两台电脑毫无感觉，这个数据（jù）包就能够（gòu）在接（jiē）收机器的（de）电脑上运行，从而控制这台电脑，所以（yǐ）应该（gāi）讲，漏洞现在是无孔（kǒng）不入。

关于漏（lòu）洞最典型的例子，是去年年底阿帕奇基金开源项（xiàng）目的Log4j2的组（zǔ）件，被发（fā）现存在着远（yuǎn）程代码执行漏（lòu）洞。这个软件被（bèi）大（dà）量应用于（yú）关键业务系统底层开发，这个漏（lòu）洞就意味着我们很多重要的（de）系统，被漏洞的利（lì）用者（zhě）能够洞开。

万物均要互联，万物互联带来的（de）好处就（jiù）不（bú）讲（jiǎng）了。所（suǒ）以（yǐ），今天（tiān）的车联网、智慧城市、工业互联网都（dōu）是万（wàn）物互联的（de）典（diǎn）型例子。但是，这也意味着（zhe）在虚（xū）拟世界里的攻击，往往（wǎng）会变（biàn）成物理世界的伤害。在过去，大（dà）家中了（le）病毒，只是（shì）说（shuō）文件丢失，大不了（le）电脑不用了，邮件不收（shōu）了，网不上了。但是，今天虚拟世（shì）界里的（de）伤害，都可以（yǐ）转成对物（wù）理世界的（de）攻击。

所以，我（wǒ）们可以（yǐ）看到（dào），导致工厂停工（gōng），大面积停（tíng）电，社会停摆。

我举两（liǎng）个例子，今年2月（yuè）-3月（yuè），三家丰田的供应商（shāng）遭到黑客攻击（jī），丰（fēng）田不（bú）得（dé）不停（tíng）止其14家日本（běn）工厂的运营，导致每（měi）月的（de）生（shēng）产能力下降了5%。

前几年，在委内瑞拉（lā）、乌克兰都出现了利（lì）用网络（luò）攻击，攻击变电（diàn）站设备，远程拉闸，导（dǎo）致大（dà）面积（jī）停（tíng）电，所以（yǐ）这里就不是美国科幻电影里（lǐ）的幻想。

再举一（yī）个真实的例（lì）子，我们现在大家都（dōu）会买智能网联车或（huò）者新能源车，但是说句不好听的话，你买了（le）车，你不要以为这车（chē）就（jiù）是你（nǐ）的了，实际（jì）上是听车厂的。

我们的车每时每刻都（dōu）需要跟车厂（chǎng）保持（chí）联系，不断的从车厂各种更（gèng）新的指令（lìng）、更新软件，也不（bú）断把各种数据传回（huí）车厂。

一（yī）旦（dàn）黑客破（pò）解了这个车厂（chǎng）的协议，或（huò）者（zhě）破解了（le）车厂的云端服务器，就（jiù）可（kě）以（yǐ）远端对（duì）你的车进行遥控，那么可能就会出现更大的风险。在2017年，我们曾经帮助某（mǒu）全球（qiú）知名的一个知名车企，发现了大概19个漏洞。通过这些漏（lòu）洞，这个车厂（chǎng）在2017年以后出的全球600多（duō）万（wàn）辆车，都可以（yǐ）远程启动、远程（chéng）熄火（huǒ）、远程开门、远（yuǎn）程开天（tiān）窗，一旦这（zhè）些漏洞被黑客掌握，后果不堪设（shè）想。

大数据驱（qū）动业务，我们（men）现在（zài）对（duì）大数据都非常重（chóng）视。数据变成重要（yào）的战略资产（chǎn），数据变成整（zhěng）个信息化社（shè）会的重要的（de）像石油（yóu）一样的（de）基础血液。但是，反过（guò）来说，数据一旦遭到（dào）了攻击，可能就意（yì）味着业务停转，数据安（ān）全直接影响业务安全。

那2022年1月，我们国家（jiā）台湾地区的台达电遭到（dào）勒索软件攻击（jī），有1500台服务器，12000台电脑（nǎo）在本（běn）次（cì）攻击中（zhōng）数据被加密，被勒索1500万美（měi）金。

还有一个（gè）去年5月份（fèn），美国（guó）东海岸一家输油管道（dào）公司受到了攻击（jī），当时（shí）这个事情很（hěn）出名（míng），美国东海岸（àn）很（hěn）多加油站（zhàn）都供（gòng）不（bú）上油（yóu）了，害了美国总统都为（wéi）之（zhī）出来做了一些讲话。美国交通部甚至都要宣布，在美（měi）国东部（bù）要进入紧急状态（tài）。当时我们（men）也（yě）觉得这是一件很诡异的工业互联网（wǎng）攻击（jī）。

后来调查下来发现，其实比（bǐ）我们想得要简单。因为（wéi）来自俄罗斯（sī）的黑（hēi）客，直接把这家美国油管公司的（de）财务数据（jù）给（gěi）加密了，导致整（zhěng）个（gè）财务数据系统崩（bēng）溃之后，就没有办法向客户提供油（yóu）料（liào）了。所（suǒ）以，整（zhěng）个的业务就中止（zhǐ）了。

这几年我（wǒ）们在国内（nèi）也接到不少（shǎo）公（gōng）司的报案，他们受到勒（lè）索攻击的这种侵犯。实（shí）际上一旦（dàn）核心（xīn）数（shù）据（jù）被加密，整个业务系统立刻（kè）停摆。

所（suǒ）以，这里边我也讲一下勒索软（ruǎn）件或（huò）者勒索攻击，已经变（biàn）成（chéng）现在（zài）成（chéng）长速度最快，获（huò）利最（zuì）高的一种新的黑（hēi）产的商业模式。

过去我们很多人很迷（mí）信，我的数据很加密，别人也拿不走（zǒu），但是勒（lè）索攻击者（zhě）脑洞很清奇，他（tā）们不拿走你的（de）数据，把你的数（shù）据再加密一点，就像我说（shuō）的，我们家有（yǒu）一（yī）个（gè）保险柜，你来了之（zhī）后（hòu）不（bú）用（yòng）打开它，再带（dài）一个更大的（de）保险柜，把我的保险柜锁在你的保险柜里，这样（yàng）我只能乖乖（guāi）地找你去要保险柜的钥（yào）匙，所（suǒ）以这就是勒索攻击的核心秘（mì）密。

所以，我们可以看（kàn）到数字（zì）化技术（shù），固然一方面（miàn）给我们创造（zào）了（le）自动化，非常美好的科技的这种（zhǒng）未（wèi）来，美好（hǎo）的生活，更高的生产力、更高的效率。但是它同时（shí）也（yě）有安（ān）全上的隐患。

当然（rán）了，前（qián）面讲人（rén）工智能技术本（běn）质也是软件，本质也是基于数据，也有很多（duō）破绽（zhàn）。所以，总结（jié）起来，我觉得人工智能安全（quán）有七大（dà）安全（quán）挑战：硬（yìng）件、软（ruǎn）件、通信协议、算法、数据、应用和社会伦（lún）理。

下面（miàn）我将给（gěi）大家（jiā）逐个解释一下。

第一个，硬件，可能会出错。因为我刚才讲，今天的数字化世界，我们（men）很多数据是来自于物联网（wǎng）设（shè）备及各（gè）种传感器。如果（guǒ）这（zhè）个传感器数据出错，传给系统的数据本身信号（hào）就是错的，那么系统当然（rán）就会做出错误的（de）判（pàn）断。

比如说美（měi）国波音公司的737Max前（qián）几年（nián）出了几（jǐ）次空（kōng）难，实际（jì）上是自动压机头（tóu）和自动（dòng）提升（shēng）的（de）软件出了错误。因为机头（tóu）升降仰角读取的（de）传感器读出了错误（wù），以至（zhì）于AI发（fā）生了错误判断。

包（bāo）括今天我们比较看好的无人驾（jià）驶车，都会装（zhuāng）有激光雷（léi）达，用激光雷达来对前方的（de）路障进（jìn）行识别。但是，如果我用类（lèi）似的激（jī）光笔或者对（duì）激光雷达（dá）进（jìn）行干扰，可能无人驾（jià）驶车，就会发生（shēng）错误的判断。所以，硬件（jiàn）是整个AI数字化很重（chóng）要的基础，硬件有可能会带来（lái）错（cuò）误的数据。

第二个，软件存在漏洞。特别是（shì）我们今天的AI训（xùn）练，很多都是基于开源框架，这（zhè）些（xiē）开源框架本身软件都有（yǒu）很多的漏（lòu）洞（dòng）。在过去的时间里面，我（wǒ）们360已经挖取（qǔ）了不少的漏洞。

比（bǐ）如（rú）说最近有一个（gè）AI编程神（shén）器的软件，自（zì）动生成代码中有（yǒu）40%存在漏洞，这个漏洞比一个优秀的人（rén）工工程师的漏（lòu）洞还要（yào）多出10倍以上。

第三（sān）个（gè），通信协议可（kě）能会（huì）被劫持（chí）。你比如说，刚才我们讲了无人（rén）驾驶汽（qì）车（chē），跟车厂之间是有（yǒu）特（tè）殊的协议，来（lái）进行软（ruǎn）件的（de）更新和远（yuǎn）程（chéng）控制。如（rú）果这（zhè）个协议被破获（huò）之后，无人驾驶车就可（kě）能会失控。

那么（me），伊朗（lǎng）曾经通过GPS信号的欺骗，把美（měi）国（guó）的一架无（wú）人机迫降到（dào）伊朗的机场，这种GPS的信号（hào）欺骗也是一种通信协议的劫持。

第四个，算法可以被（bèi）欺骗、被误（wù）导。谷歌曾经有一个AI算法，把黑人识（shí）别成猩（xīng）猩，惹出了很大的风波。现在我们有一些人工智能漏洞挖掘团队（duì），发现当你走在街上（shàng），面对（duì）满（mǎn）大（dà）街人工智能的（de）基（jī）于（yú）人脸（liǎn）识别的摄像（xiàng）头，你如（rú）果不（bú）想被他（tā）认出来你是一个人，你穿（chuān）上特殊条纹或者特（tè）殊图案的（de）T恤，摄像头就会不认（rèn）为你是（shì）一（yī）个人（rén），它（tā）就对你不会（huì）做面部识（shí）别（bié），这就说明了算法是可以通过一（yī）种（zhǒng）特殊的组合数（shù）据来进（jìn）行欺骗和误导的。

更重要的数据可以被（bèi）污染，或者（zhě）我们称之为数（shù）据（jù）投毒。因为数据是宝贵的（de）数字资产，AI的深（shēn）度学习是要基于大量的数据训练。但是（shì），如果我们在训（xùn）练（liàn）过程中，我们给的（de）数据是有（yǒu）误的，有可能训练（liàn）出（chū）一个完全不一样的AI的结（jié）果。

比（bǐ）如说，如果我（wǒ）们在训练如何识别猫的（de）这（zhè）样（yàng）一个训练集的时（shí）候，我（wǒ）们给了很多狗的图片，那将来（lái）这个AI可能就会把狗误（wù）认为是猫（māo）。

AI比（bǐ）较独（dú）有（yǒu）的两个特点，我们（men）也在这儿提一下。就（jiù）是应用上可能（néng）会危害人（rén）类（lèi）的根本利益（yì），这里面的案例有两个，主要（yào）是涉及到社会伦理（lǐ）的问（wèn）题。

第一，AI在5G上战（zhàn）场直接攻击人类（lèi）。原来阿西·莫夫（fū）就希望说，只要有AI能力的，把这些机器（qì）都称之为叫机器人，机器人（rén）永远不要伤害人类。但是现在看来这个（gè）原则已经被（bèi）打破。所以，我们（men）可能（néng）有一个建议说，因为现在各国（guó）都在AI跟武器（qì）结合方面，世界各（gè）国都在展开（kāi）军备（bèi）竞（jìng）赛，这也（yě）是未来大国角（jiǎo）力的焦点。

所以，AI武器应该把最后（hòu）的决定权，应该让人来做最后的控制，而不是完（wán）全让AI做自动的判断、自动的决（jué）策。包括深度伪造技术，前面已经讲了，这个技术也涉及到对人（rén）的利益的伤害。不仅可以（yǐ）用于网络诈骗，制造色情视频（pín），甚至伪造（zào）新闻，误导舆（yú）论。

你比如说，最近（jìn）有人用马斯克（kè）的视频，深度（dù）伪造。伪造了一个他鼓动粉丝购买特定的虚拟货币的事件，害（hài）得马斯克不（bú）得不（bú）出（chū）来辟谣，说（shuō）这个（gè）视频是（shì）别人（rén）用Deepfake来伪造的。

AI最（zuì）大的一个问题，也是现（xiàn）在我们国家很多学者都在（zài）讨论的，AI在社会伦理上，有可能（néng）超出现有的社（shè）会法律（lǜ）和道德（dé）的规范。

比如说（shuō），有一个电（diàn）车难（nán）题，如何认定无人驾驶车出事以（yǐ）后的责（zé）任。比如（rú）说在高速（sù）行驶之中，自动驾驶汽车，如果避让行人（rén），可能会撞上旁边的障碍（ài）物，导致（zhì）车主人身伤（shāng）亡；如果（guǒ）不避让，就会导致行人伤亡。在这种（zhǒng）情况下，就有两个问题，AI的（de）程序应该（gāi）如何来（lái）做出判断（duàn）。第（dì）二个，如（rú）果出（chū）了车祸（huò），到底（dǐ）这个责任（rèn）应该算是AI的，算是车厂的（de），还算是驾驶员的，所以（yǐ）这些（xiē）问题（tí）应该说都还没有一个明确的答案。

前面我们（men）讲（jiǎng）了数字（zì）化技术带（dài）来了诸多挑战，但是今天也有很多人（rén），对安（ān）全的认识还停留（liú）在计算机安全和网络安全的时（shí）代，以（yǐ）为安全（quán）就是杀杀病（bìng）毒，防防木（mù）马，用防火墙隔离等传（chuán）统手段。

面（miàn）对大数据（jù）、人工智能各种复杂的安全挑（tiāo）战，我觉得网（wǎng）络安全还应（yīng）该重新被定（dìng）义，要将计（jì）算机安全、网络安全升级到数字安全，才能（néng）跟得上（shàng）整个（gè）行业的发展（zhǎn）要求，才能跟（gēn）得上国家的产业数（shù）字化的发展要求，才能保障我们进入数字文明时代。

当（dāng）前一个重要的（de）变（biàn）化（huà）是，人工智能（néng）安（ān）全（quán）已（yǐ）经上升为国家安全的重要组成部分，《国家（jiā）安全战略（2021年-2025年）》明确提出加快提升网络安全、数据安全（quán）、人（rén）工（gōng）智能安全（quán）等领域的治理能力，这（zhè）也是国家战（zhàn）略层（céng）面首次（cì）提出来，人工智能（néng）安全的概（gài）念，说（shuō）明人工智能安全是（shì）数字安全的一（yī）部分，也是平常我们所说的“非传统安（ān）全”。

反过来，说了（le）半天（tiān）AI的问（wèn）题，我们讲数字化技术也是一把双刃剑（jiàn）。人（rén）工智能技术高速发展（zhǎn），带来安全挑战的同时，也（yě）为解决网络安全、数字安全的风（fēng）险提供了新（xīn）的技（jì）术手（shǒu）段。

现（xiàn）在AI技术已经（jīng）广泛（fàn）利用于大数（shù）据（jù）的（de）分析、威胁情报的处理、智能防御等领域，特别（bié）是在恶意代码的样本检测、恶意代码流量分析（xī）、漏洞挖（wā）掘、僵（jiāng）尸网络检测、网络黑（hēi）灰产检测等方面（miàn）发挥（huī）了（le）巨（jù）大的（de）作用（yòng）。360这几年连续帮（bāng）助国家发现了50个境外的（de）国家级黑客组织，与我们对AI的使用（yòng）都是（shì）分不开（kāi）的。

在（zài）AI数（shù）据（jù）分析方（fāng）面，人工智（zhì）能在（zài）海（hǎi）量数（shù）据分析方面，发挥了积极重要的作用。因为大（dà）数据的数量浩如烟海，依靠人工（gōng）去（qù）做发现是基（jī）本（běn）不可（kě）能的。必（bì）须借助人工（gōng）智能（néng），去对多（duō）维度海（hǎi）量、鲜活的安全大数据（jù）进行实时的分析，用算（suàn）力（lì）来代替人力，然后再（zài）从中（zhōng）挖掘出安全的线索，再由安全专家来进（jìn）行跟进（jìn）。

在AI情报处理方（fāng）面（miàn），人工智能可以参与漏（lòu）洞的挖掘，筛（shāi）选恶意的样本、恶意的网址，对APT的攻（gōng）击行为进行自动化的分析跟学习，实（shí）现针对威胁攻击的智（zhì）能化检测、监测、预警和响应。

未来在AI智能防御（yù）方面，人工智（zhì）能可（kě）以发现未知的病毒木（mù）马，对DDoS攻击（jī）进行监测和预警（jǐng），并对APT的攻击（jī）溯源（yuán）进行定（dìng）位，有效提高安全（quán）运营的效率（lǜ），大幅度提高（gāo）我国（guó）的安全防（fáng）御（yù）能力。

作为中国数字安全（quán）的领军企（qǐ）业，360一（yī）直高度重视人工智能安全，率先在行业里进（jìn）行（háng）布（bù）局，积极（jí）构建人（rén）工智能安全能力体系。我们确立（lì）了“数据制胜（shèng）”为核心的新战法（fǎ），核心就是无论任何的（de）攻击，首先要强调能够想办法利用大（dà）数（shù）据分（fèn）析，能够看见攻击。看见（jiàn）攻击，那么（me）随（suí）后对它（tā）进行阻断，进行溯（sù）源，进行（háng）封堵，进行（háng）清理，就变（biàn）得比较简单。如（rú）果看不见，那什（shí）么都是抓瞎。

所以，如何利用人（rén）工（gōng）智能技术，从全网大（dà）数据中进行分（fèn）析，建立（lì）全局视角（jiǎo），并且从中构建起看见的这种能力（lì）。

在新的（de）战法指导下，360应用人工智能数据分（fèn）析（xī）技术，对自身（shēn）积累的全球（qiú）最（zuì）大规模的（de）安全（quán）大数据进行（háng）实时（shí）分析（xī），形（xíng）成360全网（wǎng）安全大脑的（de）原型（xíng），为行业或者企业提供强大的数（shù）据和情报支撑，实现对网络威胁（xié）进行有效的分析、预（yù）警、发现（xiàn）和阻断。

面对人工智能自身（shēn）的安（ān）全挑战（zhàn），360也积（jī）极参与人工智能（néng）漏（lòu）洞挖掘（jué）。我们一（yī）共发现了（le）150多个（gè）机器学习框架和供应（yīng）链的（de）漏洞，涉及到Tensorflow、Caffe、PyTorch等主流（liú）深度学习AI开源框架。我（wǒ）们发现了多款人脸识（shí）别设备的（de）安全（quán）漏洞，利（lì）用漏（lòu）洞可以实现（xiàn）远程控制（zhì）、隐私的窃取（qǔ）、模型文件的窃取。360的AI安全实验室发现了多（duō）款移（yí）动APP、人（rén）脸识别（bié）功能方面存在的数（shù）字（zì）泄漏的安全风（fēng）险。

所以（yǐ），未（wèi）来（lái）利用AI解决安全，也（yě）大有可为。

360将AI安全作为公司（sī）业（yè）务发展的（de）重（chóng）点方向，愿意与行业、产业一（yī）起（qǐ）开放协（xié）同创新。我们积极承担（dān）安全大脑，国家新一（yī）代人工智（zhì）能开放创新平（píng）台的建设，目前360安全大脑开放平台的能力，已经落地于工业互联网、物（wù）联（lián）网（wǎng）、智能网（wǎng）联车（chē）、智（zhì）慧（huì）城市、数（shù）字政府等（děng）多个场景（jǐng），并（bìng）且赋能教（jiāo）育、运营商、信（xìn）创（chuàng）等诸多行业。

360还牵（qiān）头研发了（le）人（rén）工智能安全评测与风险监（jiān）测预警平台，入选工信部的人（rén）工智能产业（yè）创（chuàng）新任务揭榜单（dān）位（wèi）名单。

作为中国数（shù）字（zì）安（ān）全的领军企业，360愿意开放自身的安（ān）全大数据，将（jiāng）产业力量联合起（qǐ）来（lái），共建AI安全生态，集中（zhōng）推动数字安全的创新（xīn），其成果（guǒ）也将最（zuì）终沉淀（diàn）于（yú）安（ān）全大脑人工智能创新开（kāi）放平台（tái）的（de）建设。

360还将在安（ān）全（quán）大脑人工智能开放（fàng）创新（xīn）平台建设（shè）的基础之上，倡导建立人工智能与开放创新体系，建立平台化机制，实现核心研究成果的对接与转换，赋（fù）能人工智能与安全相关的中小微企业（yè）、高校、科研院所，赋能中小微初（chū）创的安（ān）全企业，全球（qiú）行业、AI产业，共享技术成果，推动产业（yè）健（jiàn）康快速发展（zhǎn），提升国家人（rén）工（gōng）智能安（ān）全整体的防（fáng）御能力。

在（zài）过去（qù）的20年里面（miàn），360核心做的就一（yī）件事，就是“安全”。希望在（zài）未来（lái）越来越富（fù）有挑战的安全（quán）环境里面（miàn），我们做到（dào）真正能看见（jiàn）攻击，发（fā）现威胁，抵御威（wēi）胁。

未来360将携手合作伙（huǒ）伴，共同夯实AI安全能力，把（bǎ）服（fú）务于国家和社会的数（shù）字安全能力复制到各（gè）个行业（yè）里，为数字中国的建设（shè），各个（gè）行业的数字化转（zhuǎn）型贡献力量（liàng）。

谢谢大家！