Implementación Go de alto rendimiento de mecanismos de atención y capas Transformer

El equipo de investigación de frontera de takara.ai presenta la primera implementación pura en Go de mecanismos de atención y capas Transformer, priorizando el alto rendimiento y la facilidad de uso. Esta biblioteca incluye atención de producto punto, atención multi-cabeza y una implementación completa de la capa Transformer, con operaciones por lotes para un mejor rendimiento y operaciones de matriz optimizadas para CPU. Ideal para computación perimetral, procesamiento en tiempo real, aplicaciones nativas en la nube, sistemas integrados e implementaciones de producción. Las mejoras futuras incluyen codificación posicional, abandono y aceleración CUDA.