长亭科技联合创始人、首席安全研究员 杨坤

　　随着2025年初DeepSeek的全球爆火，各类网络攻击也接踵而至，引发业界多方对大模型安全的关注。与此同时，在网络攻击“你方唱罢我登场”的同时，大模型的数据安全隐患也开始显现。业内有观点认为，守护大模型安全将是一场旷日持久的网络攻防博弈，为AI产业构筑安全可靠的网络防线势在必行。

　　“大模型兴起后，其安全威胁主要呈现三大显著特征。”在长亭科技联合创始人、首席安全研究员杨坤看来，一是威胁层级极高，正在向国家级对抗层面演进；二是数据安全风险显著增加；三是技术发展过快，许多新技术在设计之初优先考虑解决生产与效率问题，安全设计普遍滞后，导致其面世之初就可能存在严重隐患。

　　杨坤还提到，大模型的风险更呈现多层次、广覆盖特点，其不仅用于简单问答，更被集成到日益复杂的业务场景。大致可归纳为四类：其一为内容安全风险，内容生成能力可能催生偏见性、不正当言论；其二是数据安全风险，训练数据中的敏感信息或系统漏洞易引发数据泄露；其三是伦理风险，涉及训练数据与生成内容的知识产权与合规使用问题；其四是滥用风险，不法分子可利用大模型生成诈骗内容、辅助制造有害工具等，从事违法犯罪活动。

　　安全是产业发展的前提。国产大模型在技术突破与场景落地的同时，还需要将安全理念贯穿全流程，筑牢发展根基。

　　监制：张宁  策划：李政葳  拍摄：雷渺鑫  制作：赵鹏超  撰文：雷渺鑫  配音：赵鹏超

　　光明网网络安全频道＆数字化频道出品

“网络强国·百人谈”更多内容

欢迎扫码关注专栏