Header
ポスターセッション発表概要
フォールト攻撃を想定したDNNモデルに対するデータポイズニング手法の検討
○飯田 啄巳,吉田 康太,汐崎 充,白畑 正芳,藤野 毅(立命館大学)
深層ニューラルネットワーク(DNN)の普及により,外部への学習データの作成委託が行われている.攻撃者が委託者の中にいる場合,細工したデータを学習データに混入させることでDNNに特定パターンで反応する脆弱性を埋め込むことができる.本研究では,その脆弱性埋め込みの検討を行うと共に,カメラへのレーザ照射を利用して実際の攻撃を行う.実験では,初期検討としてカラー画像データセットのCIFAR10に細工をし,DNNモデルへの脆弱性埋め込み時のステルス性と実際のレーザ照射攻撃の攻撃確率の評価を行い,本攻撃の有効性を示す.これは,アノテーション委託先の信頼性と品質保証が重要であることを示している.
《ポスターセッション一覧》