Things I read, build,
and notice.

A derivation-first path from softmax attention to fixed-size associative memory, DeltaNet, Gated DeltaNet, and Kimi Delta Attention.

三月里的珠海、阳江和广州。

Deriving the log-derivative trick and connecting the objective to surrogate losses used in code.

一些旧的习惯，一些新的开始，以及学习慢一点生活。

回望忙碌、健康起伏与研究生最后一年的 2024。

一篇关于故乡、环境与告别的短篇故事。

从杭州搬到上海之后，关于实习、散步和慢慢恢复的一段记忆。

关于本科最后的考试、实习，以及衰老与告别。