Publications
その他 (国内) 連合学習におけるクライアントサイドでの局所差分プライバシの検証
松本 茉倫 (お茶の水女子大学), 髙橋 翼, リュウ センペイ, 小口 正人 (お茶の水女子大学)
第15回データ工学と情報マネジメントに関するフォーラム（第21回日本データベース学会年次大会） (DEIM 2023)
2023.3.5
クライアントに分散された機微データをプライバシ保護しながら活用し，機械学習モデルを訓練する方 法として，局所差分プライバシ (以下 LDP: Local Differential Privacy) を適用した連合学習 (以下 FL: Federated Learning) がある．LDP は，プライバシパラメータ ? で表される程度に情報の識別性を困難にすることができる一方 で，どういった攻撃に対してどの程度の強度があるのかは未知であり，FL のクライアントにとって理解しやすい説明 が必要となる．そこで本研究では，FL で送信する勾配の判別可能性を FL のクライアント自身が検査し，経験的なプ ライバシ強度を得ることを考える．このとき，2 つの勾配を判別可能な確率が高くなるほどにランダム化手法のプラ イバシ強度が十分でなく，逆に判別可能な確率が低くなるほどプライバシ強度が高いことを示すことができる．また， この勾配の生成方法についてはアクセスレベル (入力画像を加工できる，勾配を加工できる，など) の異なる 5 種類を 提案し，クライアントがプライバシ保護レベルについて理解することを助ける．
Paper :
連合学習におけるクライアントサイドでの局所差分プライバシの検証
（外部サイト）