Construire des systèmes de production d'IA rentables : une approche Taco Bell pour le cloud computing

Cet article explore la construction de systèmes de production d'IA rentables. En établissant des parallèles avec le menu simplifié de Taco Bell, l'auteur préconise la construction de systèmes complexes à l'aide de composants simples et standardisés de l'industrie (tels que S3, Postgres, HTTP). L'accent est mis sur la minimisation des coûts de cloud computing, notamment les frais d'égress de réseau. En utilisant un stockage d'objets sans frais d'égress (comme Tigris) et en dimensionnant dynamiquement les instances de calcul en fonction de la demande, les coûts sont réduits de manière drastique. L'importance du choix des dépendances pour minimiser le verrouillage des fournisseurs est soulignée, avec une architecture d'exemple fournie utilisant des requêtes HTTP, la recherche DNS, Postgres ou le stockage d'objets et Kubernetes, permettant la portabilité entre les fournisseurs de cloud.