本文提出了一种新的卷积网络权重初始化方法,它的思路是利用FSP矩阵来表示相邻两层输出之间的关系,这种关系能告诉我们“神经网络解决问题的思路”,然后训练学生网络来最小化FSP矩阵的L2距离,以此初始化学生网络权重,之后再接着训练。该方法在cifar10、cifar100数据集上被证明具有收敛快、精度高、适于迁移学习的效果。
HopSkipJumpAttack论文分析
HopSkipJumpAttack是发表于2020年S&P的论文,提出了一种新型黑盒对抗攻击的方法,利用采样+逼近的思路来生成对抗样本,理论基础完备,实验效果达到了SOTA。
实验室服务器虚拟环境配置日志
使用LXD虚拟化技术为实验室服务器配置多用户隔离运行环境。