上海市地方标准《人工智能系统生命周期治理指南》项目启动会在上海软件中心召开

2023年4月11日下午，上海软件中心组织召开了《人工智能系统生命周期治理指南》上海市地方标准启动会，该标准是第一个人工智能治理方向的上海市地方标准，旨在制定人工智能治理“上海方案”，将对上海市乃至全国人工智能应用系统的规范化治理具有重要意义。上海市经济和信息化委员会人工智能处、上海市市场监督管理局标准创新处、上海市人工智能行业协会的相关领导出席会议，来自上海交通大学、上海人工智能实验室、华东师范大学等多家企事业单位、高校的领导、专家共同启动了该项标准的研制工作。上海软件中心软件工程研究所所长沈颖主持了此次会议。

会议首先由上海市人工智能行业协会研究咨询部部长陈曦代表人工智能地标委秘书处致欢迎词。陈曦指出，当前人工智能应用面临着技术与伦理的风险，迫切需要技术性指南来指导人工智能系统生命周期的治理。《人工智能系统生命周期治理指南》的提出有利于实现安全可信、负责任的人工智能应用，助力上海人工智能产业健康发展。

接着上海软件中心陈敏刚博士、陈文捷分别介绍了该标准的立项背景与主要内容。上海市地方标准《人工智能系统生命周期治理指南》由上海市经济和信息化委员会提出，由上海软件中心主导编制，该标准在2022年8月上海市市场监督管理局下达的第三批上海市地方标准制修订项目计划中立项。该标准拟制定人工智能系统生命周期治理的总则和治理框架，提供了人工智能系统生命周期治理的建议，包括概念设计、设计开发、测试验证、部署、运行监测、重新评估、退出使用等全过程。

随后，上海市经济和信息化委员会人工智能处在发言中指出，当前人工智能的快速发展以及大模型的提出，使得AI的治理必须加快完善和落实。上海市市场监督管理局标准创新处指出，地方标准的制定应以发布后的落地实施为目标，人工智能治理地方标准应立足本市人工智能产业发展，标准内容要与提出单位后续政策和举措的实际标准化需求相匹配，保证标准的有效实施。

与会领导和专家对标准内容的修订提出了诸多建设性的意见。专家认为，标准可从政府、企业、第三方机构等不同层次考虑人工智能治理的具体要求，聚焦人工智能技术特有的治理挑战，加强人工智能治理条款的强制性，为后续标准实施提供参考。与会专家还提出了诸如敏捷治理、科技向善、利益相关方的责任划分等人工智能治理标准的改进建议。

最后，标准编制组确定了后续的标准研制计划，明确了标准编制的任务分工。上海市市监局将在平台交流、人才培养、项目经费与标准宣贯方面大力支持该标准的研制工作。下一步，上海软件中心将按照标准研制计划，组织标准编制单位对该标准进一步完善，布局标准的宣贯和落地实施，为上海市人工智能系统的治理提供理论依据和方法指导，更好地支撑上海人工智能技术与产业的创新发展。

  人工智能测评服务

  上海市计算机软件测评重点实验室（SSTL）人工智能测评服务面向计算机视觉、语音识别、自然语言处理、推荐与搜索等领域，聚焦人工智能应用过程中的模型功能有效性评估、模型性能评估、数据集质量评估、对抗样本防御能力等，提供全方位的测评服务，保障人工智能应用的质量。