19 针对文本分类对抗样本的防御技术

张子越,王永平,张晓琳,顾瑞春,徐恩惠,张帅

• 1:内蒙古科技大学信息工程学院

• 2:中国电子科技南湖研究院

• 3:上海大学计算机工程与科学学院

• 
  

摘要(Abstract)：

虽然文本分类对抗样本的防御技术在相应的工作中取得了较好的效果，但是防御技术在检测词级和句子级的对抗样本时效果不佳，因此，如何利用防御技术提高目标模型的鲁棒性(Robust)已是目前学术界关注的问题。为此提出了一种新的运算法，使用了单词的重要性分数及检测错误字的概率来定位样本中的对抗字。结果表明：目标模型的分类准确率由原来平均14.7%提高到平均89.2%,改善了文本分类对抗样本的防御技术。

关键词(KeyWords)： 鲁棒性;对抗样本;掩码;防御技术

基金项目(Foundation): 国家自然科学基金(61562065)

作者(Author): 张子越,王永平,张晓琳,顾瑞春,徐恩惠,张帅

DOI: 10.16559/j.cnki.2095-2295.2024.01.019