点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:张宇超:我们要思考“怎么与人工智能相处才安全”
首页> 数字化频道> 要闻 > 正文

张宇超:我们要思考“怎么与人工智能相处才安全”

来源:光明网

  【编者按】从跟跑到自主、从建网到强网、从互联到智联,技术创新浪潮不断奔涌向前,数字化、网络化、智能化趋势下,互联网早已如水电一般,成为社会运转不可或缺的基础设施。阔步迈向网络强国,既有赖关键技术的创新突围,也离不开社会各方的协同共治。近日,我们推出“网络强国・大咖论道”系列访谈,洞察数智发展新趋势、剖析网络治理新课题、汇聚各方共治共建合力,为推进网络强国建设凝聚智慧、贡献力量。

张宇超:我们要思考“怎么与人工智能相处才安全”

“网络强国・大咖论道”系列访谈①

  人工智能,正在以前所未有的速度改变世界,也正在以全新方式考验着我们的安全底线。近年来,人工智能不断从“能说会答”到“能做善行”,智能变革带来便利,暗藏的安全风险也不容小觑。

  “技术是有边界的,安全是落到我们每个人身上的。”围绕人工智能安全治理,北京邮电大学计算机学院教授张宇超给出了这样的判断。在她看来,人工智能的安全治理是一项需要多方共同参与的工作,不仅要有国家的顶层设计,也要落到每一个人、每一个主体的日常守护里,“我们每一方都要守好自己的防线”。

张宇超:我们要思考“怎么与人工智能相处才安全”

  网络形态的变化,是一条清晰的演进线索。张宇超把网络发展分成两个阶段:十年前,网络走向成熟的标志是大家把网络当成水、电一样的基础设施,让人们感知不到它的存在,这就是网络发展的成功之处;到了如今,网络变成了人们所说的“Agentic—AI”,相比此前的网络状态,它已经是一个完全全新的形态,变成了我们身边的助手。

  张宇超表示,人工智能就是让机器像人一样学习、理解、决策和执行。今天的人工智能,已经从“简单的回答问题”走向了“解决事情”与“替你做事”。它不仅能够登录你的账号,甚至会调用你的文件,读取你的数据。你给它的权限越大,它能做的事情越多,但同时暴露的风险也就越大。

  她提醒:“一旦模型被恶意诱导,漏洞被恶意地利用,泄露的就是你的隐私、你的财产,甚至是你整个的数字生活”。

  张宇超把人工智能比喻成双刃剑——用错了能够暴露你的隐私与风险,但是用对了就是你的安全哨兵。

  因此,落到每一位网民身上,首先要回答的是:“怎么跟人工智能相处才安全”。张宇超给出了三点建议:

  第一,划边界,给它厘清边界再让它干活。比如,我们使用人工智能之前,可以把任务描述清楚,把使用权限设置好,明确它能碰哪些文件,能看哪些数据,给它的权限越小,它带来的风险就越小。

  第二,核查人工智能带来的“幻觉”。遇到重要的事情别光看人工智能怎么说,我们得自己去核查一遍,有一些拿不准的内容,要去官方渠道查询,来路不明的信息也不能急着转发。

  第三,用人工智能防人工智能。人工智能不仅能干活,还能够帮我们核查风险。比如,有一批钓鱼链接,人工智能几分钟就能筛查完,比人手的效率要高得多。

  从十年前的“水电”式基础设施,到今天身边的“Agentic—AI”,张宇超判断:“人工智能安全已经不是一个未来的课题,它是我们当下就要回答的考卷了”。

张宇超:我们要思考“怎么与人工智能相处才安全”

光明网数字化频道&网络安全频道出品

  监制:张宁 策划:李政葳 拍摄:胡平 撰文:朱昱晗 制作:朱昱晗 设计:杨经国 包装:胡平

[ 责编:刘吉东 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见新加坡总理黄循财

  • 习近平会见澳大利亚总理阿尔巴尼斯

独家策划

推荐阅读
河南省济源市坡头镇农民在甘蓝制种田里进行管护作业。
2026-11-20 12:54
江西省南昌市南昌高新区鲤鱼洲管理处,沃野涌金、房舍林立,乡村公路蜿蜒向前,犹如一幅初冬时节的和美乡村画卷。
2026-11-20 12:16
在广西梧州市长洲区新兴小学,消防员在向学生讲解消防装备功能。
2026-11-20 12:12
初冬时节,山西省运城市临猗县黄河湿地迎来大批越冬候鸟,成群黑鹳、白鹭栖息于此。
2026-11-20 11:29
甘肃省河西学院医学院生命科学馆内,研学学生在专业讲师指导下,借助急救模拟人体模型实操急救技能。
2026-11-20 11:25