Alex Wong

最新文章

查看更多

  1. 在 Copilot 使用中学习、理解 Agent

    agent的许多概念听起来不难，但具体细节值得玩味

    GitHub Copilot Agent AI应用

  2. 何为自注意力机制

    记录一下对自注意力机制的理解。主要是阅读《从零构建大模型》时的笔记。

    变形金刚 大模型 注意力

  3. 理解大模型推理及其优化

    以vLLM为例子，深入大模型推理的原理，以及如何进行优化实践

    vLLM 大模型 推理部署

  4. jemalloc 原理及内存管理

    性能优化时对jemalloc的深入学习。顺便谈谈内存管理机制。

    jemalloc Linux 内存管理 性能优化

按标签浏览