Extraindo um Modelo de IA do Aplicativo Seeing AI da Microsoft

O pesquisador de segurança Altay Akkus extraiu com sucesso o modelo de IA de reconhecimento de moeda do aplicativo Seeing AI da Microsoft. O aplicativo usa a estrutura TensorFlow Lite, e o modelo é armazenado criptografado no arquivo APK. Usando a estrutura Frida, Altay injetou dinamicamente código para interceptar a função de carregamento do modelo TensorFlow Lite, extraindo com sucesso o arquivo de modelo descriptografado. Isso demonstra a vulnerabilidade de até mesmo aplicativos aparentemente seguros à extração de modelos de IA, destacando a importância da segurança de modelos de IA móvel.