点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

【编者按】从跟跑到自主、从建网到强网、从互联到智联,技术创新浪潮不断奔涌向前,数字化、网络化、智能化趋势下,互联网早已如水电一般,成为社会运转不可或缺的基础设施。阔步迈向网络强国,既有赖关键技术的创新突围,也离不开社会各方的协同共治。近日,我们推出“网络强国・大咖论道”系列访谈,洞察数智发展新趋势、剖析网络治理新课题、汇聚各方共治共建合力,为推进网络强国建设凝聚智慧、贡献力量。

“网络强国・大咖论道”系列访谈①
人工智能,正在以前所未有的速度改变世界,也正在以全新方式考验着我们的安全底线。近年来,人工智能不断从“能说会答”到“能做善行”,智能变革带来便利,暗藏的安全风险也不容小觑。
“技术是有边界的,安全是落到我们每个人身上的。”围绕人工智能安全治理,北京邮电大学计算机学院教授张宇超给出了这样的判断。在她看来,人工智能的安全治理是一项需要多方共同参与的工作,不仅要有国家的顶层设计,也要落到每一个人、每一个主体的日常守护里,“我们每一方都要守好自己的防线”。

网络形态的变化,是一条清晰的演进线索。张宇超把网络发展分成两个阶段:十年前,网络走向成熟的标志是大家把网络当成水、电一样的基础设施,让人们感知不到它的存在,这就是网络发展的成功之处;到了如今,网络变成了人们所说的“Agentic—AI”,相比此前的网络状态,它已经是一个完全全新的形态,变成了我们身边的助手。
张宇超表示,人工智能就是让机器像人一样学习、理解、决策和执行。今天的人工智能,已经从“简单的回答问题”走向了“解决事情”与“替你做事”。它不仅能够登录你的账号,甚至会调用你的文件,读取你的数据。你给它的权限越大,它能做的事情越多,但同时暴露的风险也就越大。
她提醒:“一旦模型被恶意诱导,漏洞被恶意地利用,泄露的就是你的隐私、你的财产,甚至是你整个的数字生活”。
张宇超把人工智能比喻成双刃剑——用错了能够暴露你的隐私与风险,但是用对了就是你的安全哨兵。
因此,落到每一位网民身上,首先要回答的是:“怎么跟人工智能相处才安全”。张宇超给出了三点建议:
第一,划边界,给它厘清边界再让它干活。比如,我们使用人工智能之前,可以把任务描述清楚,把使用权限设置好,明确它能碰哪些文件,能看哪些数据,给它的权限越小,它带来的风险就越小。
第二,核查人工智能带来的“幻觉”。遇到重要的事情别光看人工智能怎么说,我们得自己去核查一遍,有一些拿不准的内容,要去官方渠道查询,来路不明的信息也不能急着转发。
第三,用人工智能防人工智能。人工智能不仅能干活,还能够帮我们核查风险。比如,有一批钓鱼链接,人工智能几分钟就能筛查完,比人手的效率要高得多。
从十年前的“水电”式基础设施,到今天身边的“Agentic—AI”,张宇超判断:“人工智能安全已经不是一个未来的课题,它是我们当下就要回答的考卷了”。

光明网数字化频道&网络安全频道出品
监制:张宁 策划:李政葳 拍摄:胡平 撰文:朱昱晗 制作:朱昱晗 设计:杨经国 包装:胡平
