大模型之家讯 7月23日，在第24届中国互联网大会的高端对话环节，360集团创始人周鸿祎，与邬贺铨院士、吴建平院士，硅基智能创始人司马华鹏和零一万物联合创始人马杰共同登台，探讨人工智能时代的未来。周鸿祎一如既往直言不讳，围绕大模型安全、AI治理、智能体变革，提出一系列系统性且带有预警性质的判断，并明确指出，“未来的对抗将是人和算力、人和算法、人和机器之间的对抗”。
模型之模：AI不再是“工具”，而是高智商的潜在风险体
周鸿祎表示，AI带来了很多传统的安全问题，它带来了两个新的挑战。其中第一个核心问题，是大模型的随机性与幻觉问题。
与传统软件“一次编程、重复执行”的确定性不同，AI尤其是Agent类智能体，存在天然的随机性。“你设计得再好，它执行一百遍也不一定一样。”周鸿祎指出，这种“像人一样容易犯错”的特性，意味着它本身无法被彻底规范。他进一步提到，攻击者通过自然语言与AI互动、利用提示词（Prompt）攻击、进行“PUA式”引导，诱使模型泄露信息，正在成为新的安全漏洞。这类攻击方式“传统的防火墙、杀毒软件肯定是不管作用的”。
面对大模型时代的新安全问题，周鸿祎提出了“以模制模”的解决之道。即利用一个安全大模型来监测另一个通用大模型的行为，理解人们在向模型输入什么、模型输出了什么，是否存在数据泄露、恶意引导等风险。
“我们这两年做了一个产品，叫‘大模型卫士’，就是专门解决大模型新出的这种高智商问题。”这款产品，正是“以模制模”的具体体现，结合知识库、Web搜索、数据库能力，来弥补幻觉、偏差等风险。
从“黑客智能体”到“智能体安全官”：AI安全边界在扩大
周鸿祎认为，大模型对安全的第二个重大挑战，是攻击能力的智能体化。“以后希望每个人都有三五十个智能体做助理，我们就变成了超级个体。你可以这么干，对方黑客也可以这么干。”
过去，一个顶尖黑客需要多年训练、极高天赋。但现在，只要有一个成功的攻击样本，就可以训练成一个“黑客智能体”。这个智能体可以自动规划攻击路径、寻找漏洞、调用工具，一气呵成。“这一下子就把过去人跟人的对抗，变成了人和算法、人和机器的对抗。”
同时，对抗方式也必须升级。他再次强调“以模制模”，并指出360正在用过去十多年攻防经验训练安全智能体，作为“智能体安全专家”，“用智能体来对抗智能体”。
这种应对逻辑，摆脱了传统安全“系统+人工响应”的滞后模式，转而走向“算法+算法”的实战模拟。换句话说，安全边界正从“外围防御”扩展到模型内部，从“系统漏洞”扩展到“行为理解”。
在谈及人工智能安全是否可以“未雨绸缪”时，周鸿祎指出，“你总是希望这个事没有发生之前，就有一套高屋建瓴的安全解决方案，其实我觉得不是这样的。”周鸿祎坦言，AI的演进终将走向超越人类智能，“未来还有智力超过人类、变成硅基生物……”
在他看来，技术的发展永远快于治理的构建。每一轮信息化、数字化、智能化升级，必然伴随着安全问题的滞后暴露。他说：“不是说我们见招拆招，而是随着安全问题暴露得越来越多，我们积累经验。刚开始是工程化的方法，积累足够多经验以后肯定会有所提升。”
智能体时代的“人本重构”：不是老板也得学会“指挥官思维”
随着大模型向智能体演化，一个核心问题浮现：人在AI时代还扮演什么角色？
“任何技术进步一定会淘汰一些不合适的岗位，要不然就不叫技术进步了。”周鸿祎直言不讳。工业革命提高的是效率，而非就业总量。AI时代同样如此。“最重要的是主动拥抱人工智能，掌握深度学习，甚至能够引导人工智能的人，肯定会淘汰那些不太会用人工智能的人。”
他提出一个颇具挑战性的预判：未来每个人都要领导几十个智能体。智能体不再是“工具”，而是“数字助手、数字搭档、数字员工”，人要转向规划、管理和决策者的角色。这是一种全新的认知范式转移。
“过去很多人觉得自己不是老板、不是领导。但以后哪怕你是基层员工，你不光领导自己，你可能领导50到100个智能体。”
这种“微型组织管理”的能力，正在成为职场的核心竞争力。沟通能力、结构性表达、指令清晰度，都会成为基础能力。他补充说：“你跟智能体很难沟通，说不清楚，智能体也不能了解你到底想要怎么样。”
这并不仅是生产效率的问题，而是安全的前提。他重申：“我一直认为人要控制人工智能，人要有决定权。”即便AI完成自动化任务，最终拍板的权力必须归于人类。
个体崛起的未来：拉起你的“智能体部队”
“你要学会做智能体的领导，你就不会被淘汰。”周鸿祎最后用自家新推出的AI智能体——纳米AI超级搜索智能体提出了一个极具实践性的建议：“未来两年，大家应该响应目标，不管你的公司愿意不愿意投资智能体，你自己能不能尝试先用纳米AI搭建一个几十人的智能体的队伍。”
这不仅是对技术趋势的预测，更是一种个人行动的倡议。在他眼中，个体不再是组织的被动角色，而应主动构建自己的“AI作战团队”。
这种“超级个体”构想，实际上是技术下沉和认知提升的统一。智能体将赋予个体前所未有的力量，而这种力量是否被良性掌控，将决定技术红利是否转化为社会进步。
在人工智能的刀锋之上，周鸿祎为这场技术革命提出了一个值得深思的落点：用“人”的主导权，对抗“模”的不确定性；以“组织智能体”的方式，保全“人的核心价值”。
原创文章，作者：志斌，如若转载，请注明出处：http://damoai.com.cn/archives/11615
