360集团牵头成立大模型安全联盟

　　【记者牛畅北京报道】12月17日，360集团集结产业上下游合作伙伴、科研机构及用户共同在北京成立大模型安全联盟，旨在构建开放协作的大模型安全产业新模式，推进产业生态的全面融合。

　　关注大模型潜在的安全风险已成为当下各界的重要共识。中国网络空间安全协会秘书长郝晓伟、中国电子信息产业发展研究院党委副书记胡国栋、360集团创始人周鸿祎、360集团首席运营官叶健，以及联想集团副总裁、中国区首席战略官阿不力克木·阿不力米提，腾讯云高级副总裁徐翊鸣，中国载人航天工程软件和数字化中心主任程胜，清华大学教授黄永峰，北京大学（临港）大模型对齐中心执行主任等生态伙伴代表出席成立仪式。

　　郝晓伟表示，当前人工智能安全风险日益凸显，期待基于此次契机，打造协会与企业的创新合作模式，共享技术创新与产业融合的最新成果，联合应对人工智能安全的新问题、新挑战。360集团作为中国网络安全空间协会的理事单位，始终积极参与并推动协会相关工作。此次在协会与企业的紧密协作下，各方将持续发挥自身优势，为打造人工智能先锋产业生态贡献更多力量。

　　“人工智能技术是一把‘双刃剑’，在带来自动化和先进工作生活方式的同时也带来很多安全问题，是人类有史以来面临‘最大的安全挑战之一’，远超过传统数字安全。”周鸿祎在发言时表示，“尤其是包括黑产、灰产的组织者甚至犯罪分子等也可以利用大模型，提升找漏洞、写攻击代码的能力。因此，未来网络安全可能会从人与人的对抗，变成机器与人的对抗，再发展为机器与机器的对抗。”

　　在周鸿祎看来，人工智能在提升生产力的同时，也带来了包括幻觉、深度伪造、注入攻击、数据污染或投毒等前所未有的安全新挑战。随着大模型在无人驾驶汽车、无人机、智能机器人等领域的应用日渐广泛，一旦产生幻觉等安全问题，可能对个人、社会甚至国家安全形成重大隐患。

　　除宣布联盟成立外，360集团也在成立仪式上推出了一系列大模型安全产品，包括大模型系统安全检测平台“360智鉴”、大模型内容安全护栏“360智盾”、大模型可信增强工具“360智搜”、专为企业打造的智能知识管理与应用平台360智能文档云3.0和360舆情卫士。

　　去年，360集团发起成立大模型产业联盟，经过一年发展，成员已突破千家，核心伙伴超400家，覆盖十几个行业。今年360集团开放了安全卫士、安全浏览器、搜索、智能硬件四大AI应用场景，联合国内16家主流大模型厂商，共同开启国内最强“大模型联盟”，打造了360AI助手。

　　“组建大模型安全联盟的意义在于要解决大模型发展过程中出现的安全问题，这既需要像360这样的网络安全专家，也需要对大模型有深入研究的同行。”周鸿祎说。

　　周鸿祎对联盟提出三点期望。第一是开放性，随时欢迎更多的大模型从业者加入；第二是技术上互通有无，形成真正保护大模型的应用成果；第三是联盟能发出自己的声音，让公众在重视安全的同时，对大模型可能犯的一些小错能够宽容和理解。

　　（编辑 牛畅）