Kategorien
Interpretierbarkeit
3 Beiträge

Capital‑of ist kein einzelnes SAE‑Feature. Also habe ich eine Mutationsschleife gebaut, um herauszufinden, was es ist.
SAE‑Funktionen können Beziehungen in Gemma-2-2B nicht isolieren. Ich habe eine Mutations‑Auswahl‑Schleife gebaut, die das kann. Der Engpass war die Tokenisierung.
aiinterpretabilityllmsparse-autoencoders
Sparse Autoencoders können das Verhalten zur Generierungszeit nicht messen. Das ist kein Fehler.
Warum Sycophancy‑SAE‑Merkmale Cohen's d = 9,9 haben, aber die Halluzinationserkennung scheitert. Die Antwort war tiefer als das Messzeitpunkt‑Problem.
aiinterpretabilitysparse-autoencoders
Hör auf, dein KI‑System zu entwerfen. Entwirf seine Umgebung.
Selbstentwickelnde KI‑Systeme scheitern, wenn sie einen festen Evaluator optimieren. Das biologische Modell ist richtig: Was sich entwickeln muss, ist der Selektionsdruck, nicht nur das Genom.
aiagentsarchitectureinterpretability