Implémentation Go haute performance des mécanismes d'attention et des couches Transformer

L'équipe de recherche de pointe de takara.ai présente la première implémentation pure en Go des mécanismes d'attention et des couches Transformer, privilégiant les hautes performances et la facilité d'utilisation. Cette bibliothèque inclut l'attention produit scalaire, l'attention multi-têtes et une implémentation complète de la couche Transformer, avec des opérations par lots pour améliorer les performances et des opérations matricielles optimisées pour le CPU. Idéale pour l'informatique de périphérie, le traitement en temps réel, les applications natives du cloud, les systèmes embarqués et les déploiements de production. Les améliorations futures incluent le codage positionnel, le dropout et l'accélération CUDA.