Publications
論文誌 (国内) モデルマージによるドメイン特化検索モデルの構築
佐々木 泰河 (兵庫県立大), 山本 岳洋 (兵庫県立大), 大島 裕明 (兵庫県立大), 藤田 澄男
情報処理学会論文誌データベース (IPSJ-TOD)
2026.4.21
本研究では，アドホック検索タスクにおけるモデルマージの効果を検証する．モデルマージは，複数のモデルの異なる特性を組み合わせて新たなモデルを構築する技術である．我々は，モデルマージをドメイン特化アドホック検索タスクに適用することで，検索モデルの性能を向上させられると考えた．この仮説を検証するため，検索モデルとドメイン特化（非検索）モデルの重みを線形補間により統合し，マージモデルを構築した．この手法の主な利点はモデルのファインチューニングを必要としない点にある．我々は，医療ドメインと日本語ドメインにおいて，それぞれ2種類の実験を行った．1つ目の実験では，マージモデルとマージ元検索モデルを比較し，2つ目の実験では，十分なデータがある場合と限られたデータしか利用できない場合の両設定において，LoRAファインチューニングモデルとの比較を行った．実験結果から，4つ中3つのテストコレクションでマージモデルがマージ元検索モデルよりも高い検索性能を示し，4つ中3つのテストコレクションでマージモデルがLoRAファインチューニングモデルよりも高い検索性能を示した．
Paper :
モデルマージによるドメイン特化検索モデルの構築
（外部サイト）