周鸿祎：建议制定保障通用大模型安全的标准体系

全国政协委员、360集团创始人周鸿祎向大会提交了《关于鼓励兼具“安全和AI”能力的企业解决通用大模型安全问题的提案》。

周鸿祎表示，目前，国内的大模型安全问题不容乐观。一方面，国内大模型企业不熟悉内容安全、数据安全、科技伦理、网络安全等人工智能带来的安全挑战；另一方面，大部分安全公司又很少真正有能力深入大模型研究，上述两方面原因导致国内大模型安全领域成为整个产业链的薄弱环节。建议国家有关部门采用“揭榜挂帅”等方式，鼓励并扶持兼具“安全和AI”能力的企业，给予专项扶持政策，支持企业担起大模型安全重担，聚焦攻坚，为解决通用大模型安全问题提供坚实保障。

其次，他建议国家在内容安全、数据安全、科技伦理、网络安全等细分领域，牵头研究制定安全检测标准，在规范的安全标准体系下，推动通用大模型的安全评测工作，通过接入安全服务来保障大模型的安全。最后，他建议政府和央国企加强与兼具“安全和AI”能力企业的合作，在政策和招投标条件上，给予更多合作机会，發挥此类企业在人工智能安全领域的优势作用，为国家安全贡献力量。