上海软件中心组织的“新型人工智能社会实验与治理”专题讨论会顺利举行

  2022年3月23日上午，上海计算机软件技术开发中心与上海交通大学联合组织的上海市科委人工智能科技支撑专项“人工智能新型社会实验与治理方法研究与应用示范”专题讨论会在线上顺利举行。该项目由上海交通大学牵头，上海软件中心、华东师范大学、腾讯（上海）科技、上海人工智能研究院等单位共同参与。虽然上海的疫情给会议的举办造成了些许不便，但各课题组骨干仍然克服困难，共同推进项目的研发工作。本次会议还邀请了上海人工智能实验室、上海依图科技等专家参与研讨。

  会上，各子课题组的负责人和课题骨干交流分享了人工智能社会实验方向上的最新研究成果和工作进展，研究讨论了项目下一阶段的工作方案和行动计划。

  研讨会上，华东师范大学张志忠老师介绍了多智能体仿真博弈相关调研成果。张志忠老师认为利用游戏引擎实现疫情传播的模拟，进而研究人工智能技术对疫情传播的影响，是一个很好的切入点。下一步计划以健康码的仿真为案例，研究在虚拟仿真环境下，健康码的使用与否对疫情传播的影响，并开发出能够运行的样例程序。

  上海交通大学陈玉珑博士后介绍了智慧医疗调查问卷的设计进展。问卷设计借鉴了D&M信息系统成功模型和TAM技术接受模型。上海交通大学马利庄教授、依图科技技术总监赵春昊、华东师范大学叶淑兰老师均对该问卷设计提出了改进思路，项目组讨论后认为问卷设计需要针对医生和患者两种角色分别设计，仔细考量医生和患者答题的可行性，未来计划召开专题研讨会，听取专业医生对该问卷的意见。

  来自上海交通大学的谭鑫博士介绍了人脸识别赋能互联网金融场景社会实验设计的调研结果，提出两种思路：从公开数据资料中分析出金融用户规模、使用效率方面的启发式结论，或以问卷形式调研人脸识别对金融用户的影响。未来计划与上海软件中心、星展银行合作共同推进该研究工作。

  上海软件中心人工智能治理研究所执行所长陈敏刚博士和技术骨干马泽宇、胡瑞分别介绍了上海软件中心近期在项目上的工作，包括AI治理地方标准的申请、AI风险评估、自动驾驶对抗样本的研究与竞赛、舆情感知平台等。同时陈敏刚与上海人工智能实验室交流，计划未来共同申请人工智能社会实验相关的标准。

  随后，上海人工智能研究院的沈灏技术总监介绍了近期在智慧医疗领域的标准体系探索，包括数据采集规范、接口规范、决策评价方法等，并详细介绍了《医院病理数据采集规范》的标准制定工作。

  上海人工智能实验室的瞿晶晶博士介绍了人脸识别虚拟实验的工作进展，从人脸识别场景与公众认知角度，以游戏的形式收集用户数据并分析。未来计划与各课题组合作，开发社会学实验“元宇宙”，创新研究范式。

  研讨会最后，项目负责人上海交通大学马利庄教授在总结发言中充分肯定了各课题组的工作推进成果。马利庄教授还对进一步深化相关研究工作提出两点建议：一是对照项目的考核指标开展下一步工作；二是根据上海智慧医疗应用的实际情况和相关标准，对社会实验调查模式进行进一步改进。希望在各课题组的共同努力下，不断取得新的研究成果，使人工智能成为一项惠及全人类的技术。

  上海软件中心课题组接下来将继续积极开展子课题的研究，大力推进人工智能治理相关的国际标准、国家标准、地方标准、团体标准的研制，研发人工智能风险评估和治理系统，研究对抗样本、舆情感知技术，并在人脸识别、智慧医疗等领域联合其他各课题组推进人工智能社会实验的研究与实践。