四十周年专题 | 人工智能治理与测评技术创新论坛顺利举办

2023年12月12日，由上海计算机软件技术开发中心（上海市生成式人工智能质量检验检测中心(筹)）联合上海马桥人工智能创新试验区共同举办的“人工智能治理与测评技术创新论坛”在金地威新达闼人工智能创新产业基地隆重举行。此次论坛作为上海软件中心成立40周年的系列技术论坛之一，聚焦人工智能应用测评技术与标准化，助力人工智能产业质量提升。此次论坛得到了上海市闵行高端人才服务中心（春申金字塔人才学院）、上海市计算机软件评测重点实验室、上海市计算机学会软件工程专委会、金地威新达闼人工智能创新产业基地的大力支持。上海计算机软件技术开发中心主任蔡立志、上海马桥人工智能创新试验区董事长、总经理、副总经理等相关领导出席了此次论坛。

人工智能治理与测评技术创新论坛海报

当前，人工智能已成为新一轮科技革命和产业变革的重要驱动力量，特别是人工智能预训练大模型在近两年成为了海内外科技前沿的热点话题，然而，人们在享受人工智能应用的技术红利和价值的同时，也面临着其带来的技术与伦理的风险。此次论坛邀请了上海交通大学资深教授、上海人工智能实验室青年研究员进行专题报告，探讨了计算机视觉应用、自然语言处理应用、大模型应用的可信技术、评价方法和评价标准，共同推进相关领域的技术发展。

上海马桥人工智能创新试验区董事长赵女士首先为论坛致欢迎辞。赵女士介绍了上海马桥人工智能创新试验区的产业生态、发展战略，并对此次论坛的举办给予了大力支持和殷切希望。

上海软件中心主任蔡立志对论坛发表了致辞。蔡主任对参加论坛的所有来宾表示了热烈欢迎，对上海软件中心40周年以及论坛的举办表示了热烈的祝贺，并就论坛对于人工智能治理的技术推进和业务促进作用给予了热切展望。

蔡立志主任发言

然后论坛进入了专题讲座环节。上海交通大学资深教授介绍了大语言模型的前沿应用，详细地介绍了语言模型的历史，并展示了交大团队自主研发的大语言模型BatGPT，引发了热烈讨论。上海市计算机软件评测重点实验室副主任陈敏刚研究员带来了“大模型应用治理与测评的思考与实践”专题报告，介绍了基于大模型的AI应用测评方法，并展示场景化大语言模型测评工具箱相关的研发与实践。上海市人工智能实验室青年研究员通过“下一代大模型安全评测体系”报告，梳理了大模型安全所需要考虑的技术要求和评测方法。上海软件中心的资深研究人员还分享了计算机视觉系统可信赖技术及标准化、自然语言处理系统测评技术及标准解读等专题报告，展示了人工智能不同领域的治理技术。论坛进行过程中，嘉宾与观众热烈互动，就人工智能应用与测评进行了一场头脑风暴，启发了观众对人工智能治理的思考。

交大教授和上海人工智能实验室研究员专题报告

陈敏刚研究员专题报告

未来上海软件中心将进一步深耕人工智能治理技术的研究，完成“上海市生成式人工智能质检中心”的筹建，在人工智能治理技术研究、标准研制、测评业务拓展、人才培养等方面继续做出更多贡献，打造人工智能测评服务新领域，为人工智能产业的发展保驾护航。