上海市计算机软件评测重点实验室2022年开放课题立项公示

  根据《2022年上海市计算机软件评测重点实验室开放课题指南》的要求，经公开自主申报、专家评审，拟定“面向人工智能应用的深度安全技术研究”等5项课题作为上海市计算机软件评测重点实验室2022年开放课题。

  现将立项名单予以公示，公示期为2022年3月25日至3月31日。如对立项名单有异议，请于公示期内向上海市计算机软件评测重点实验室反映。邮箱：huy@sscenter.sh.cn,电话：021-54325166。

  1、“面向人工智能应用的深度安全技术研究”，上海交通大学，易冉

  近年来随着人工智能技术的发展，人工智能算法广泛应用于日常经济、生活的各种场景。然而以人脸识别技术为代表的人工智能技术容易受到演示攻击、虚假内容攻击和对抗样本攻击等威胁，给个人和企业利益以及公共安全带来严重的安全隐患，亟需研究深度安全技术对各类攻击进行检测与防御。本项目拟围绕面向人工智能应用的深度安全技术，研究针对虚假内容、演示攻击、对抗样本等人工智能攻击的深度安全技术，具体包括活体检测技术研究、虚假内容检测技术研究和对抗样本防御技术研究。开展面向活体检测、虚假内容验证识别、对抗样本防御等深度安全技术；通过基于决策扰动的攻击方式，结合解耦对抗学习，求解智能决策边界，提升模型安全性和鲁棒性。

  2、“开源软件代码异味检测与质量分析技术”，华东理工大学，虞慧群

  代码异味的研究无法充分反映开源软件中存在的设计问题，更难以指导软件重构。本课题主要研究建构开源软件代码异味数据集，定义开源软件中的通用和特定领域代码异味，选择区分度最佳的检测指标，使用统计和经验研究方法确定检测阈值；结合易错性和易变性等软件质量指标，确定与质量退化相关的异味，使用关联规则学习等机器学习方法，结合实证研究和可解释性机器学习技术，分析异味关联及其影响软件质量的程度；从缺陷追踪系统、开发仓库和社区中提取语义、任务权重、开发者偏好等上下文因素，考虑异味在不同情境下的对软件质量的影响，确定重构优先级最高的代码组件，实现自适应的重构推荐。本课题研究为代码异味的自动化重构提供理论基础，提升开源软件的可靠性。

  3、“基于深度神经网络的恶意通信识别研究”，华东理工大学，杨海

  随着网络技术的迅速发展，互联网成为人们日常生活中不可或缺的一部分。“互联网+”模式给各个领域带来了新的发展机遇。然而，我们在享受互联网的便捷的同时，其安全问题也不容忽视。在信息更新迭代快速的时代，病毒、攻击等网络入侵随之而来，增强入侵防范意识及其技术至关重要，但传统的一些方法无法达到高性能、高准精度和实时性的要求。深度学习在处理高维、多量数据时，仍然能从中提取出有效的表示特征，足以应对目前网络环境的需求。为构建更安全的网络环境，本项目旨在研究基于深度学习的网络流量层面和进程行为层面的恶意通信识别方法，面对不断变化的网络环境，探索具有可迁移性的检测方法，实现通用识别恶意软件通信的模型算法。

  4、“面向隐私保护的人脸伪造检测与匿名化”，西安电子科技大学，彭春蕾

人脸数据在采集、传输、存储和使用的各个环节都面临隐私泄露的风险。如何将人脸数据隐私进行高质量的匿名处理对于在公共安全、医疗问诊、新闻采访、数据共享与发布等领域的安全应用具有重要意义。为此，本项目拟开展面向隐私保护的人脸伪造检测与匿名化研究，从互相对抗与协作的人脸伪造检测和人脸匿名化任务出发，内容包括：（1）研究公开视频数据人脸伪造检测；（2）在训练数据隐私保护条件下研究非公开视频数据伪造检测；（3）研究面向身份隐私保护的人脸匿名化生成；（4）探索匿名化人脸图像识别方法。本项目的研究有助于保障信息安全、数据安全和隐私安全，探索安全可信的人脸真伪分析与匿名识别新模式。

  5、“网络威胁语义表征与深度学习入侵检测”，北京航空航天大学，王天博

  当前网络空间面临多途径、多样性、多目标期望的攻击威胁，借鉴本体论方法和深度学习技术，本课题围绕表征计算网络威胁和提高入侵检测性能的需求，研究网络威胁形式化表示方法，建立网络威胁概念语义模型，实现对网络威胁的准确界定；研究网络入侵数据的高度重叠问题的缓解方法，解决网络正常数据与异常数据重叠分布难以分类问题；研究网络入侵数据不平衡问题的消除方法，提升数据分布的均衡程度，引入全连接网络二次检测框架，提高模型检测性能；研究网络入侵数据多类型特性的特征融合方法，结合深度学习神经网络和特征融合方法，实现不同类型数据的分类学习和关联分析。相比传统入侵检测技术，预期成果能够提高应对多样化智能攻击的检测能力。

上海市计算机软件评测重点实验室

2022年3月25日