SSC Time | 陈敏刚博士专题讲座《ChatGPT应用风险与治理》 ——第三党支部支部生活

  自ChatGPT发布以来，其广泛的应用已迅速席卷全球的各行各业。ChatGPT的发展带来了许多积极的影响。它可以提高人们的工作效率和生活质量，为用户提供更优质、更个性化的服务。然而，随着ChatGPT应用范围的进一步扩大，它可能产生的风险也应该引起足够的重视。4月17日，第三党支部举行了一场科普性质的组织生活，由软件测评重点实验室副主任陈敏刚博士，为支部党员带来题为《ChatGPT应用风险与治理》的专题讲座。

  本次科普讲座涵盖了 ChatGPT 的应用、关键技术、行业变革和安全风险与治理等内容。陈敏刚博士向与会人员演示了 ChatGPT 根据用户对话要求，完成作文、写诗、写代码等应用方式，从技术层面详细介绍了 ChatGPT 的演化过程，包括从最初的基础模型 Transformer 到发布版本 GPT-3 的技术发展，以及 ChatGPT 基于人类反馈强化学习而实现的学习和推理能力提升，这项技术在学术界、产业界及资本界引起轩然大波。

  此外，讲座就 ChatGPT的安全漏洞可能引发数据安全问题、滥用风险、可解释性、偏见与歧视问题进行了深入探讨。强调了建立监管规范的必要性，明确人工智能在不同领域中的使用规定，并建立有效的反馈机制，来避免和减轻人工智能应用可能导致的不良影响不良影响。软件中心近年来也在人工智能治理领域做了相应的研究，由软件中心牵头发布的《人工智能系统生命周期治理指南》提出了人工智能治理“上海方案”，有望弥补当前国际与国内缺乏标准化、可落地的人工智能治理标准的现状。

  此次活动受到了广大中心员工的热烈关注和踊跃参与，讲座的科普方式得到了很好的反响。讲座不仅加深了与会人员对 ChatGPT 技术的了解和认识，同时进一步提升了人工智能安全风险防范与治理的理解和能力水平，意识到加强人工智能治理的必要性和重要性。讲座通过对新技术、新领域、新知识的探索，提高员工对新技术领域的理解和掌握，更好地推动支部品牌建设，为促进人才培养和技术交流创造更好的条件搭建更好的平台。