人工智能

正在以前所未有的速度改变世界

也正在以全新的方式

考验着我们的安全底线

2026年是人工智能开启

从能说会答到能做善行的变革之年

智能变革带来便利

暗藏的安全风险却不容小觑

账号资产悄无声息流失

多年工作成果一键清零

人工智能赋能之下

网络威胁更加隐蔽

更具破坏力

人工智能安全离我们有多远

人工智能的安全问题已经不是未来的问题，而是当下的考题

北京邮电大学计算机学院教授张宇超：

　　人工智能是什么，这个问题简单的回答，它就是说让机器能够像人一样，思考、理解、决策和执行任务。今天的人工智能，已经从简单的回答问题，走向了能够替你做事情。

　　比如说，它可以登录你的账号，调用你的文件，读取你的数据，你给它的权限越大。那它能够做的事情就更多，但是它带来的风险也就越大，一旦你用的这个模型被恶意诱导，模型里面的漏洞被恶意利用，那么暴露出来的就不仅仅是你的个人隐私、你的个人财产，甚至还会是你的整个数字生活。所以说，人工智能安全，已经不是一个未来的课题，它就是我们当下需要去回答的考卷。

（北京邮电大学计算机学院教授张宇超）

面对人工智能安全风险

中央网信办统筹推进安全治理

从2024年

《人工智能安全治理框架》1.0版

明确治理原则

到2025年2.0版

新增可信应用防范失控原则

及8项可信准则

治理框架持续升级

制度体系加速构建

安全治理任重道远

需久久为功

（中关村实验室研究员刘勇）

AI时代，我们如何筑牢安全防线？

中关村实验室研究员刘勇：

　　不管是计算机时代互联网时代，还是现在的人工智能时代，虽然技术的迭代日新月异，但是面向个体的安全风险本质上没有改变，我们要学会以不变应万变，始终将安全作为不可动摇的底线。建议广大网民在日常使用人工智能的时候，要严守三大原则：

　　第一是安全保密原则。不要随意把个人的敏感信息，比如像隐私资料、个人数据、医疗记录，输入大模型或者AI助手，避免造成隐私的泄露。

　　第二是独立判断原则。特别是对于职场的白领，应该避免直接套用人工智能生成的合同条款、行业数据等，避免导致商业签约、项目申报出现重大失误，不要盲目依赖人工智能。

　　第三是遵纪守法原则。近年来，很多人利用人工智能技术实施网络犯罪，这种情况日益增加，面对诱惑不能唯利所动，必须要坚守法律的底线。

　　因此，社会公众与人工智能交互的过程当中，一定要牢记这三点：不泄露隐私、不偏信盲从、绝不触碰红线。

守住人工智能安全

没有旁观者

一次谨慎的授权

一次主动的核实

一次理性的分享

都是在为安全治理添砖加瓦

人工智能正在以前所未有的速度改变世界

监制：张宁　策划：李政葳　制作：胡平、朱昱晗