TOKEN FIELD ARCHITECTURE LAB
WebGL 2 · 初始化
ATTENTION IS ALL YOU NEED → CAUSAL ENCODER–DECODER

沿着一个 token,走进两代架构。

旋转、暂停、拆层。看见信息在哪里汇合,哪些计算被复用。

实时 3D,而不是播放视频。
模型结构按论文 / 配置;粒子是过程示意,不是实测推理。
32,768
拖动旋转 · 滚轮缩放 · 点击模块查看计算含义
01 / VASWANI ET AL. · 2017
原始 Transformer
6 + 6 层 · 8 heads · d = 512 · Base 配置
DENSE
BIDIRECTIONAL ENCODER
6 encoder + 6 decoder blocksORBIT ↔ ZOOM
02 / DEEPSEEK · V4.1 · 2026
DeepSeek V4.1 Flash
20 + 20 层 · 64 query heads · d = 5120
CED + CSA2
CAUSAL ENCODER
4 Full · 4 Reindex · 30 Reuse · 2 SWAORBIT ↔ ZOOM
过程位置嵌入 → 编码0%

不是把原模型放大,而是重组读取与生成。