Categorías
Interpretabilidad
3 artículos

Capital-of no es una sola característica SAE. Así que construí un bucle de mutación para averiguar qué es.
Las características de SAE no pueden aislar relaciones en Gemma-2-2B. Construí un bucle de mutación‑selección que sí puede. El cuello de botella era la tokenización.
aiinterpretabilityllmsparse-autoencoders
Sparse Autoencoders No Pueden Medir el Comportamiento en Tiempo de Generación. Eso No es un Error.
¿Por qué las características SAE de servilismo tienen Cohen's d=9.9 pero la detección de alucinaciones falla? La respuesta resultó ser más profunda que el momento de la medición.
aiinterpretabilitysparse-autoencoders
Deja de diseñar tu sistema de IA. Diseña su entorno.
Los harnesses de IA autoevolutiva fallan cuando optimizan un evaluador fijo. El modelo biológico tiene razón: lo que necesita evolucionar es la presión de selección, no solo el genoma.
aiagentsarchitectureinterpretability