機械学習の脆弱性

-敵対的攻撃とは- 敵対的攻撃とは、人工知能（AI）システムを欺くために特別に設計された改変手法です。敵対的攻撃は、AIシステムの入力をわずかに変更することで、システムの出力を意図した結果から逸らすことを目的としています。たとえば、画像認識システムに毒素が含まれていないものとして認識させるために、画像に目に見えないほど小さなノイズを追加することがあります。