MicrosoftのSeeing AIアプリからAIモデルを抽出

セキュリティ研究者のAltay Akkusは、MicrosoftのSeeing AIアプリから通貨認識AIモデルを抽出することに成功しました。このアプリはTensorFlow Liteフレームワークを使用しており、モデルはAPKファイル内に暗号化されて保存されています。AltayはFridaフレームワークを使用して、TensorFlow Liteのモデルロード関数をフックするコードを動的に挿入し、復号化されたモデルファイルをダンプすることに成功しました。これは、一見安全に見えるアプリでも、AIモデルの抽出に対して脆弱であることを示しており、モバイルAIモデルのセキュリティの重要性を強調しています。