Google lanza biblioteca estable de firma de modelos para proteger la cadena de suministro de IA
El auge de los grandes modelos de lenguaje (LLM) ha puesto de manifiesto la importancia de la seguridad de la cadena de suministro de IA. La manipulación de modelos, el envenenamiento de datos y otras amenazas son preocupaciones crecientes. Para abordar esto, Google, en colaboración con NVIDIA y HiddenLayer, y con el apoyo de la Open Source Security Foundation, ha lanzado la primera versión estable de su biblioteca de firma de modelos. Esta biblioteca utiliza firmas digitales, como las de Sigstore, para permitir a los usuarios verificar que el modelo utilizado por una aplicación sea idéntico al creado por los desarrolladores. Esto garantiza la integridad y la procedencia del modelo, protegiéndolo contra manipulaciones maliciosas durante todo su ciclo de vida, desde el entrenamiento hasta la implementación. Los planes futuros incluyen la extensión de esta tecnología a conjuntos de datos y otros artefactos de ML, construyendo un ecosistema de confianza de IA más robusto.
Leer más