📱 The paper in five short screens, for a phone or a first look: the result, what it says in words, how it is proved, what has been checked, and where to try it. Nothing here loads Python.
🎯 The result 1 / 5
At distance \(d_k\), a probe averages allowed attention entries using weights \(\alpha _{kr}\ge 0\), \(\sum _r\alpha _{kr}=1\). If row \(r\) has \(n_{kr}\ge 1\) allowed keys, its uniform-attention null is
For every positive profile on the same grid and regression weights,
A constant null has zero slope. Keeping the same queries, support sizes and averaging weights at each distance is sufficient for a constant null.
💬 In plain words 2 / 5
La pendiente medida depende de la sonda y de los pesos de la regresión. Una fila uniforme puede producir un perfil aparente; restar la pendiente de un nulo construido con el mismo instrumento cancela esa contribución de forma algebraica. La prueba no describe cómo se comporta un modelo entrenado.
next ↓🛠️ How it is proved 3 / 5
La Parte I reúne cinco teoremas y dos proposiciones del cuerpo, ocho teoremas de calibración y cotas en el apéndice K, seis definiciones y una conjetura empírica. Las pruebas Isabelle cubren ocho grupos del apéndice; Lean verifica partes de cuatro resultados del cuerpo. Ninguna de esas pruebas establece cómo se entrena un modelo.
It rests on:
- Familias exponenciales y teoría de la información — Desigualdad de Gibbs, unicidad MaxEnt, entropía finita y cuantiles en soportes declarados.
- Análisis de regresión y de softmax — Covarianza en una malla ponderada, sesgo del nulo, mezclas, truncación y cotas de estabilidad.
- Geometría RoPE y sumas oscilatorias — Frecuencias geométricas, ciclos completos e integral coseno con residuo; la hipótesis sobre scores es adicional.
🛡️ What is checked 4 / 5
🟢 3 formal · 🟡 9 formal in part · 🔴 3 by hand · ⚪ 7 cited / no proof here.
Cite: Definition 7.3, p. 33, doi:10.5281/zenodo.24379538
next ↓🧪 Try it 5 / 5
Labs in your browser (they load Python the first time):
- Figure 2 live: turn the rotary-cycle surface in 3D (Definition 4.1)
- Figure 5 live: turn the historical Padé candidate in 3D (Proposition 5.1)
- Figure 12 live: continuous and integer mass windows (Theorem 11.1)
- Sharp softmax stability for your score errors ()
📕 The paper (PDF)📘 The full blueprint
📎 Cite: doi:10.5281/zenodo.24379538