大学生创新创业训练计划智能管理平台
第二十六期“上海交通大学大学生创新实践计划”项目
深度学习模型安全评价系统
创新训练项目
工学
计算机类
创新类
电子信息与电气工程学院
刘功申
指导教师
登录状态下查看
（1）中电28所项目，横向项目，多语言信息处理软件系统，2018-01 至 2019-07，结题，主持。
（2）国家自然科学基金委员会，面上项目，61772337，文本纹理模型及其在恐怖情报分析领域的应用研究，2018-01至2021-12，在研，主持。
（3）国家科技部，973，2013CB329603，社交网络分析与网络信息传播的基础研究，2013-01至2017-08，结题，参加。
（4）国家自然科学基金委员会，面上项目，61272441，面向网络舆论的定题情感分析技术研究，2013-01至2013-12，结题，主持。
（5）国家自然科学基金委员会，青年基金，60502032，开放式文档同构引擎（ODIE）研究，2006-01-2008-12，结题，主持。
设备支持：提供GPU服务器用于算法训练；提供CPU服务器用于搭建安全测试系统等；
数据支持：提供常用的深度学习模型和数据集。
理论及算法指导：指导深度学习模型攻击和防御的算法理论。
近年来，深度学习模型在实际生活中的应用越来越多，但同时也面临许多安全威胁，如对抗样本、数据投毒、后门攻击、隐私窃取等，通过攻击深度学习模型来达到一些恶意目的。目前针对深度学习模型的安全性仍然没有一个标准有效的测试和评估方式，因此，项目组拟针对深度学习模型的攻防安全进行研究，构建安全性评估标准与人工智能安全测试平台。