以青年之智，护AI之善

为树立典型、表彰先进，集中展现在习近平新时代中国特色社会主义思想指导下，在建设上海国际科创中心，助力实现高水平科技自立自强中，做出突出贡献的青年集体和青年典型，2025年4月25日，市科技团工委对2024年度上海科技青年典型选树获奖的集体和个人进行表彰。上海软件中心人工智能治理与测评青年团队荣获2024年度上海科技系统五四青年典型选树(集体)称号。

上海软件中心人工智能治理与测评青年团队通过“技术突破－标准引领－服务赋能”三位一体的创新模式，在生成式人工智能的治理与测评赛道上交出了亮眼答卷。这支平均年龄不足30岁的青年团队，支撑中心完成了全国首家生成式人工智能质量检验检测中心的建设，近五年承担国家与省部级科研项目10项，授权专利和软著15项，发表高水平论文20余篇，牵头或参与人工智能相关国际、国家和团体标准18项，为产业提供专业人工智能测评服务近500项。展现了上海软件中心青年迎难而上、挺膺担当的良好形象。

一、勇攀高峰，深耕人工智能治理与测评

首创“面向开放问题的大模型自动化测评系统”，迎战生成式AI引发的质量与安全挑战。上海软件中心人工智能治理与测评青年团队致力于提升人工智能可靠性与安全性，通过构建大规模、多维度测评用例数据库，提出大模型智能化测评理论与方法，攻关全栈式大模型测评工具箱研发，形成面向行业应用的大模型测评解决方案。相关论文荣获2024 IEEE第11届网络安全与云计算国际会议最佳论文奖，“构建全栈式大模型测评系统，保障生成式人工智能系统质量”荣获上海市第一届检验检测大赛三等奖，应用成果获评2023年长三角检验检测促进产业优化升级典型案例，关键技术支撑了国内多个类ChatGPT模型横评、上海市多个委办局城市治理大模型、三甲医院医疗大模型等国产大模型系统可信测评服务。

构建“知识图谱－文献典籍－自身能力”多层次可解释机制，助力解决传统医疗AI落地难题。团队瞄准全球AI技术发展前沿，面对传统医疗AI由于可解释性弱带来的落地难的问题,提出多智能体协作的范式以提升AI问诊的透明度和可信度，最终惠及患者福祉，研发基于国产书生基座模型的中医问诊大模型，荣获2024年浦源大模型夏季挑战赛获得一等奖，并受邀在世界人工智能大会直播间宣传推广。在研发过程中，在原先预设的方案因数据问题陷入困境的情况下，团队发挥各自专长，通力协作，主动放弃多个周末和平时休息时间，通宵达旦，攻克关键技术难关，团队成员最终交出了完美答卷，展现出超强凝聚力和战斗力。

同时，团队成员还积极探索多项人工智能治理与测评关键技术，深度合成视频鉴别算法获全球Deepfake攻防挑战赛Top20，并获视频赛道优秀奖，为维护网络空间的只秩序贡献力量；面向自动驾驶的对抗攻击方法支撑了IEEE国际自动驾驶仿真技术白皮书并发表多篇学术论文。

二、开拓创新，以标准规范引领行业发展

敢想敢为，为人工智能治理与测评定制“标准尺”。团队深刻认识到，人工智能治理与测评需要有一把标准尺，用于规范AI技术的应用，促进其负责任和有益的发展。团队以业务沉淀技术，将经验转化为标准，牵头研制了《计算机视觉系统测评规范》《自然语言处理系统测评规范》团体标准，填补了上海市在人工智能测评标准领域的空白。团队还积极参与《人工智能大模型》系列国家标准，并正在牵头研制《使用人工智能的信息系统生命周期治理指南》《生成式人工智能分级分类应用指南》等地方标准。

能打能胜，推动人工智能治理上海模式落实。在制定《计算机视觉系统测评规范》过程中，团队放弃了假期休息，不断对标准文本进行打磨，与依图、上海人工智能研究院等企事业单位通力合作，加班加点完善标准的文本。团队成员多次出差参加标准讨论，同时跟踪多个标准的进度，经常出差回沪已是深夜，第二天依旧马不停蹄继续整理多项标准的修订意见，召集团队共同审阅标准文件。以“落地”为导向，团队同时走访调研多家企业，将标准成果应用于多家机构的人脸识别系统的测评项目中。最终“创新人脸识别测评技术，提升人工智能应用安全”获评2022年国家市场监督管理总局“检验检测促进经济社会创新发展”优秀案例；推动上海在人工智能治理领域形成“技术研发－标准输出－产业落地”的创新模式，为构建负责向善的人工智能生态贡献力量。

三、服务赋能，打造科技报国实践样板

顶天立地，将研究成果转化为现实生产力。团队始终秉持“顶天立地”的科研理念，依托“上海市生成式人工智能质量检验检测中心”，为上海乃至长三角等省市提供人工智能测评服务近500项，覆盖政务、交通、能源、医疗等重点领域，为AI产业健康发展保驾护航，用实际行动诠释新时代青年科技工作者的责任担当。同时团队成员积极参与各类科普活动，向公众普及人工智能前沿技术与安全风险，提升了公众对人工智能技术的理解和信任，为AI技术的健康发展营造良好社会氛围。

正如团队座右铭：“以技术之器，载治理之道；以青年之智，护AI之善。”这支年轻的科研突击队，正在用智慧和汗水谱写属于这个时代的青年科技强音。