마이크로소프트 Seeing AI 앱에서 AI 모델 추출

보안 연구원 Altay Akkus는 Microsoft의 Seeing AI 앱에서 통화 인식 AI 모델을 성공적으로 추출했습니다. 이 앱은 TensorFlow Lite 프레임워크를 사용하며, 모델은 APK 파일에 암호화되어 저장됩니다. Altay는 Frida 프레임워크를 사용하여 TensorFlow Lite의 모델 로드 함수를 후킹하는 코드를 동적으로 삽입하여 복호화된 모델 파일을 성공적으로 덤프했습니다. 이는 안전해 보이는 앱조차도 AI 모델 추출에 취약할 수 있음을 보여주며, 모바일 AI 모델 보안의 중요성을 강조합니다.