0%

基本信息

会议/期刊 S&P
年份 2021
机构 University of Florida
一作 Hadi Abdullah
领域 Speech Recognition, Speaker Recognition, Audio Adversarial Example

主要贡献

本综述将语音识别(Speech Recognition)和说话人识别(Speaker Identification)统称为Voice Processing Systems(VPS)。该综述对VSP的威胁模型进行分类,按分类整理了现有工作,经过大量测试证明,目前还无法实现恶意输入在VPS之间的迁移性。

Read more »

基本信息

会议/期刊 arxiv
年份 2021
机构 Google
一作 Zhiyun Lu
领域 Audio Adversarial Example, Universal Adversarial Example, End-to-end ASR

主要贡献

这篇文章主要探索不同端到端模型架构对通用语音对抗样本的影响。在三种不同架构的e2e ASR上(CTC、Attention、RNN-T)训练universal perturbation,评估三种模型的鲁棒性。

提出了一种新的攻击思路,prepending attack,在对抗语音前追加对抗噪声,而不改变原语音。由于e2e模型具有良好的推理能力(尤其是LAS模型),因此很容易受这种攻击影响。

发现了Attention机制是鲁棒性低的原因,在对抗攻击场景下,Attention模型容易只考虑少数注入了对抗噪声的frame,而忽略掉其他部分。

发现CTC模型对universal perturbation非常鲁棒。Targeted universal attacks exist for both LAS and RNN-T, but not for CTC models.

Read more »

基本信息

会议/期刊 IJCAI
年份 2020
机构 华中科技大学
一作 Hongting Zhang
领域 Audio Adversarial Attack,Speech Recognition,White-box Attack

主要贡献

本文提出了一种新型白盒语音对抗攻击算法Iterative Proportional Clipping(IPC),成功攻击了基于CNN的wav2letter++语音识别系统。该算法生成的对抗样本仍然保持了temporal dependency性质,temporal dependency based defense无法检测IPC算法生成的对抗样本。

本文提出了两种进一步优化对抗样本的方法,分别将对抗噪声隐藏到high-intensity和high-frequency band上,人耳实验表明两种优化方法确实提高了人耳隐蔽性。

Read more »

基本信息

会议/期刊 NSDI
年份 2018
机构 MIT Media Lab
一作 Neha Narula
领域 Blockchain,Zero Knowledge Proof,Auditing

主要贡献

本文提出了一种支持对链上密文数据进行实时审计的区块链系统zkledger。zkledger上记录着多个银行间进行场外交易的交易记录,链上记录的交易内容是加密的。通过zkledger提出的审计协议,审计方可以实时地对任意银行进行质询,以验证银行间的交易行为符合监管当局的规定和法律要求。zkledger的证明机制确保银行无法向审计方撒谎,也无法合谋转移资产。

Read more »

基本信息

会议/期刊 ICCV
年份 2019
机构 EPFL
一作 Yujia Liu
领域 Adversarial Example, Decision-based Black-box Attack

主要贡献

本文提出了一种新型黑盒对抗样本生成算法qFool。该算法不依赖模型输出的概率分布,仅利用Top-1预测结果就能构造出对抗样本。qFool算法的特点是查询次数较少,其变种qFool-subspace算法还能将对抗样本限制在输入的低频子空间中,在计算上更加高效

Read more »