词条索引
词条
文章里出现的术语都会自动链接到这里。每条先给一句人话，再讲机制和代价。 共 10 条。
AI
- 推理
- 模型训练完成后实际使用它的过程——你提问、它输出，这一步的成本决定了服务价格。
- Agent
- 能自己决定下一步做什么、并实际去操作工具的 AI 程序，而不只是回答问题。 2 篇引用
- Benchmark
- 一套固定的任务集合，用来给不同模型打分排名——有用，但容易被误读和针对性优化。 1 篇引用
- KV Cache
- 模型生成文字时用来记住前面内容的临时笔记，省去重复计算，代价是占显存。
- Transformer
- 当前几乎所有大模型的基础架构，核心是让每个词直接权衡它该关注哪些词。
物理
加密与分布式
理论
- 纠删码
- 把数据拆成多份并加上冗余，丢掉一部分也能把原数据完整还原出来。 1 篇引用