Publications
OTHERS (DOMESTIC) 局所差分プライバシを適用したFederated Learning の安全性評価
松本 茉倫 (Ochanomizu University), 髙橋 翼, リュウ センペイ, 小口 正人 (お茶の水女子大学)
第14回データ工学と情報マネジメントに関するフォーラム（第20回日本データベース学会年次大会） (DEIM 2022)
February 27, 2022
クライアントに分散された機微データをプライバシ保護しながら活用し，機械学習モデルの訓練する方法として，局所差分プライバシ (以下 LDP: Local Differential Privacy) を適用した Federated Learningがある．LDP は，プライバシパラメータ ? で表される程度に情報の識別性を困難にすることができる一方で，どういった攻撃に対してどの程度の強度があるのかは未知であり，? の決定に必要な判断材料が不足している．そこで本研究では，Federated Learningで送信する勾配の判別可能性を検査し，経験的なプライバシ強度を得ることを考える．このとき，2 つの勾 配を判別可能な確率が高くなるほどにランダム化手法のプライバシ強度が十分でなく，逆に判別可能な確率が低くな るほどプライバシ強度が高いことを示すことができる．この検査では，現実的な設定のクライアントとサーバを想定 した場合には理論的なプライバシ強度と経験的なプライバシ強度のギャップが大きく，クライアントとサーバが共謀する想定の場合は理論的なプライバシ強度と経験的なプライバシ強度のギャップが小さいことを示す
Paper :
局所差分プライバシを適用したFederated Learning の安全性評価
(external link)