从 Token ID 到 Dense Vector：Embedding 到底在做什么Sep 9, 2026·3814 words·8 minsDeep-Learning Embedding Tokenizer CS336 6.S191 Ml-Infra起因 # 最近在继续 CS336 和 MIT 6.S191。
从 Bytes 到 Tokens：我在 CS336 中实现 BPE TokenizerAug 23, 2026·8149 words·17 minsMooc CS336 Tokenizer BPE NLP LLM最近在做 Stanford CS336（Language Modeling from Scratch）的 Assignment 1，实现了一个 BPE Tokenizer。最初的 trainer 跑 TinyStories 要约 8 分钟，改完后降到约 36 秒。