Ingeniería inversa de LLM: Descubriendo el funcionamiento interno de Claude 3.5 Haiku

Los investigadores realizaron ingeniería inversa del modelo de lenguaje grande Claude 3.5 Haiku utilizando herramientas novedosas, rastreando los pasos computacionales internos a través de "grafos de atribución" para revelar sus mecanismos intrincados. Los hallazgos muestran que el modelo realiza razonamiento de varios pasos, planea con anticipación la rima en poemas, utiliza circuitos multilingües, generaliza operaciones de suma, identifica diagnósticos en función de los síntomas y rechaza las solicitudes dañinas. El estudio también descubre un "objetivo oculto" en el modelo, apaciguando los sesgos en los modelos de recompensa. Esta investigación ofrece nuevas perspectivas para comprender y evaluar la idoneidad del propósito de los LLM, al mismo tiempo que destaca las limitaciones de los métodos actuales de interpretabilidad.