近日，由世界互联网大会人工智能专委会主办的“前沿人工智能安全风险的协同治理”研讨会在北京举行，安恒信息副总裁林明峰在研讨会的圆桌环节表示，要从两个角度来看当下人工智能安全的问题。

他认为，首先，随着新一代大语言模型出现和人工智能工具的出现，对赋能安全的产品提供了重要帮助。它在语义理解、人工智能事件发现、安全工具调用、事件处理方面都将传统无法做到的工作变成了现实。例如，新的大语言模型可以在很短的时间内分析更多的安全日志，甚至可以替代一线安全员工去智能化地调动这些安全工具，根据意图来实现自动安全能力编排和规划，都比原先的工具提供了更强的安全能力和安全帮助。这是从AI模型本身演进来看给我们安全产品带来了巨大的动力和帮助。

其次，新的AI能力出现以后，产业界对AI本身安全能力的防护也出现了很多新的变化和挑战。一两年前谈AI安全时，更多谈论只是模型本身的安全能力，而从近期来看，随着AI新的应用的发展、智能体新兴应用的发展，大家更多谈论的是智能体本身的安全是如何做的、如何防护的。

林明峰认为，在这些能力变化以后，AI已经不仅仅是原来的内容输入、输出的工具了，更多时候可以泛化到工具的调用，甚至推动行业里一些系统命令和分布式执行，这些调用和能力引入了很多新兴的风险和问题，AI智能体应用的安全防护能力可能是我们企业内部未来很重要的一个话题。

“当前行业发展应用了很多新兴技术，应该对现有的能力和技术保持信心，AI的应用肯定是促进了整个行业的应用和发展，在现有的技术手段控制下，在特定场景中，AI还是有足够的安全性和能力去发挥它的作用。”林明峰如是说。（文/刘吉东）