Publications
CONFERENCE (DOMESTIC) 敵対的攻撃に対する密検索モデルの脆弱性分析
薄羽 皐太 (筑波大), 加藤 誠 (筑波大), 藤田 澄男
第15回データ工学と情報マネジメントに関するフォーラム（第21回日本データベース学会年次大会） (DEIM 2023)
April 25, 2023
本論文では、大規模言語モデルをベースとした密検索モデルが、敵対的な攻撃に対してどの程度脆弱性で あるかを調査する。ここでの攻撃とは、あるクエリについて下位に位置していた文書に改変を加えることで、同じク エリで改変を加えた文書を上位に位置させることを指す。近年の密検索モデルでは、大規模言語モデルでの入力トー クン数の制限から、長い文書は分割した上で、一部の高適合な文章の適合度を文書全体の適合度として用いる。これ を利用し、本論文では上位1 位に位置する文書の中で、検索モデルにおいて高適合であった文章を推定し、その文章 を下位の文書に挿入することで順位の上昇を図る。実験では文書検索データセットを用い攻撃手法に対する密検索モ デルの脆弱性を評価した。
Paper :
敵対的攻撃に対する密検索モデルの脆弱性分析
(external link)