AI
学习博主
探索
投稿
吃
吃果冻不吐果冻皮
📘
2万
收藏
访问主页
内容标签
大模型推理
模型量化
LLMOps
TensorRT-LLM
简介
大模型从业者,LLM/LLMOps领域博主,公众号:吃果冻不吐果冻皮
进阶
·
图文
代表作
1.
大模型推理优化技术-KV Cache系列
2.
大模型量化技术原理总结
3.
TensorRT-LLM保姆级教程
评价与评论
点击评分
发布
相似推荐
游
游凯超
📘
8.3万
清华大学软件工程博士,vLLM核心贡献者,深度学习优秀答主
大模型推理
vLLM
CUDA
PyTorch
进阶
·
图文