12月13日，国家重点研发计划“国家质量基础设施体系”重点专项“高风险领域生成式人工智能系统内容安全检测技术与标准研究”项目年度研讨会在中国科学院软件研究所召开。项目主责单位国家市场监督管理总局科技和信息化司副司长潘牧，项目管理部门中国21世纪议程管理中心项目主管王浩，重点专项总体专家组专家中国标准化研究院研究员刘碧松、中国机械总院标准化研究院常务副院长李海斌，项目跟踪咨询专家组专家哈尔滨工业大学网络空间安全学院院长姜伟、中国电子科技集团有限公司正高级工程师刘奎恩、公安部第三研究所等保中心主任助理王勇、国家计算机网络应急技术处理协调中心等专家，项目应用示范单位代表浙江省公安厅网安总队副总队长张燕春，项目牵头单位中国科学院软件所副所长田丰等各方代表和项目组成员共30余人参加了会议。

田丰代表软件所致辞，对各位领导和专家的到来表示热烈欢迎，并对项目主责单位、项目管理部门以及项目跟踪咨询专家长期以来的指导和支持表示衷心感谢。软件所王青研究员作为项目负责人，从项目指南要求、本年度研究内容、项目科研组织、项目年度完成情况、代表性研究成果等方面，对项目年度进展进行了详尽的汇报。随后，四个课题负责人复旦大学潘旭东副教授、软件所王俊杰研究员、湖南大学廖鑫教授、浙江警察学院吴坚副教授分别代表各课题，对年度研究进展和阶段性成果进行了汇报。

与会专家对项目和课题年度进展情况进行了深入研讨，充分肯定了项目和课题年度进展，并在聚焦关键技术、展现创新性与前沿性、加强课题间交流协作等方面提出了指导意见和建议。王青代表项目组对专家组的意见和建议进行了回应，表示项目组将根据专家意见，严格遵循项目任务书内容、管理要求和时间节点，高标准推进项目研究与应用示范。

通过此次项目年度研讨会，项目组认真总结了前一阶段的研究成果，进一步明确了下一阶段的研究思路，在充分听取专家组意见的基础上，将积极投入项目研究，力争产出更高水平的科研成果，为项目中期检查奠定了坚实基础。

该项目由中国科学院软件研究所牵头，联合复旦大学、湖南大学、浙江警察学院、中国网络空间研究院、中国电子技术标准化研究院、厦门市美亚柏科信息安全研究所有限公司、司法鉴定科学研究院、广东中科实数科技有限公司、中国刑事警察学院九家单位共同承担。项目针对生成式人工智能（AIGC）目前存在的内容短时高效大量生成、多模态交互、多范式毒性注入、安全标准缺失等问题，研究目标包括建立面向高风险领域AIGC内容安全的检测、鉴别标准和评价指标体系；形成面向大模型的内容安全测评和防控技术；多模态生成内容安全检测技术；全生命周期人工智能生成内容标识生成、鉴别与取证技术；开发内容安全智能检测平台，形成模型－内容协同的安全检测方法，以期全面提升AIGC内容安全治理的科学性。

项目年度研讨会现场

项目负责人王青研究员汇报项目年度进展情况