Inferência de IA de borda: Uma imersão profunda do software para a aceleração de hardware
2025-07-04
Este artigo mergulha nos desafios e oportunidades de executar inferência de IA em microcontroladores com recursos limitados. Começando com a mecânica do TensorFlow Lite Micro, o autor analisa a implementação de software e os esquemas de aceleração de hardware baseados em extensões de arquitetura ARM para o operador de adição. O artigo também abrange o uso da NPU Arm Ethos-U para aceleração de modelos. Ele revela como diferentes arquiteturas de hardware impactam o desempenho da inferência de IA e como as otimizações de software e hardware podem ser combinadas para melhorar a eficiência.