2026年11月3日
CSS336 Lecture1&2
本文基于 Stanford CS336 前两讲,介绍了大语言模型训练的基本原理,包括神经网络训练流程、张量与矩阵运算、浮点数精度和计算量估算。同时,讲解了显存优化、GPU 性能分析以及稠密模型与 MoE 模型的区别,为理解大模型训练与性能优化奠定基础。

于喧嚣之外,写自己的答案
本文基于 Stanford CS336 前两讲,介绍了大语言模型训练的基本原理,包括神经网络训练流程、张量与矩阵运算、浮点数精度和计算量估算。同时,讲解了显存优化、GPU 性能分析以及稠密模型与 MoE 模型的区别,为理解大模型训练与性能优化奠定基础。

大模型真正跑起来以后,瓶颈往往不在“会不会算”,而在数据怎么搬、显存怎么用、请求怎么排。KV Cache、Prefill / Decode、PagedAttention、并行策略和推理引擎,看起来分散,其实都在解决同一件事:让有限的 GPU 资源支撑更长的上下文、更高的并发和更低的延迟。

一开始看 AI Infra,最乱的其实不是概念,而是工具太多:CUDA、NCCL、DeepSpeed、Megatron-LM、vLLM。顺着大模型真正跑起来的过程去看,这些工具处理的无非是几类问题:显存不够、通信变慢、GPU 跑不满,以及推理时怎么把资源用得更省。AI Infra 关注的,就是这些系统瓶颈

围绕视觉语音到语音生成开展研究,完成从数据处理、模型训练到实验评测的完整流程。研究涉及 VSR、ASR-guided generation 与扩散模型,并通过对照实验与误差分析研究不同方法的有效性与失效模式。
关注 LLM Agent 与网络安全的交叉应用,探索 Agent 在安全信息获取、分析与自动化任务中的能力,并关注工具调用、权限控制、可靠性与真实安全场景中的行为边界。