安裝中文字典英文字典查詢工具!
中文字典英文字典工具:
複製到剪貼板
英文字典中文字典相關資料:
Xing-Kai Yu @ LAMDA, NJU-CS 俞星凯 Xing-Kai Yu M Sc Student, LAMDA Group Department of Computer Science and Technology Nanjing University, China Supervisor: Associate professor Wei Wang Email: yuxk@lamda nju edu cn
DeepSeek研究员1200行代码复刻vLLM,H800硬件实测性能反超原版 DeepSeek研究员俞星凯 搞了个开源项目引得大伙拍手叫绝。 项目名为 Nano-vLLM (纳米级-vLLM) ,有三大特点: 快速离线推理 :推理速度可与vLLM相媲美
1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版-51CTO. COM 近日,DeepSeek AI 研究者、深度学习系统工程师俞星凯从零开始构建了一个轻量级 vLLM 实现 ——Nano-vLLM,将代码简化到了 1200 行。 开源社区的人应该对 vLLM 不陌生,它是一个由加州大学伯克利分校团队开发的高性能、开源 LLM
俞星凯归档 - 每时AI - mmssai. com Nano-vLLM 是一个由 DeepSeek AI 研究者俞星凯构建的轻量级 vLLM 实现,代码简化至 1200 行。其亮点包括快速离线推理、简洁易读的代码库以及优化套件等功能。与 vLLM 相比,Nano-vLLM 在输出 token 和时间上表现相近,但略逊于 vLLM 的吞吐量。
1200行代码重磅开源,DeepSeek大神俞星凯再度引领LLM领域! 值得一提的是,俞星凯的背景同样引人注目。 他不仅参与了DeepSeek-V3和DeepSeek-R1的开发,还曾开发过一个植物大战僵尸的Qt版,获得了270多个星的关注。 此外,他毕业于南京大学,并参与了多个计算机项目,包括计算机图形学绘图系统、分布式系统Raft算法的最简
GeekExplorer - 知乎 前言:写这个不是为了背后蛐蛐学生。最遗憾的不是你不行,而是你本可以。我们总结了很多经验教训,希望能帮助来实习的同学在科研上突破自我,更进一步 做实验不扎实,各种细节(如batch size, epoch,training data)都和论文对不齐,感觉闭着眼睛瞎搞 idea killer。
DeepSeek研究员1200行代码复刻vLLM,H800硬件实测性能反超原版 - 知乎 DeepSeek 研究员俞星凯搞了个开源项目引得大伙拍手叫绝。 项目名为Nano-vLLM(纳米级-vLLM),有三大特点: 快速离线推理:推理速度可与vLLM相媲美; 可读性强的代码库:基于不到1200行Python代码实现,简洁干净; 优化套件:包含前缀缓存、Torch compilation 、CUDA graph等
以往研究生 博士后 - LAMDA 俞星凯: 2024硕士毕业: 现在:DeepSeek,杭州: 张福翔: 2024硕士毕业: 现在:南洋理工大学,新加坡,博士研究生: 张嘉吉: 2024硕士毕业: 现在:阿里巴巴,北京: 张磊: 2024硕士毕业: 现在:蚂蚁集团,杭州,算法工程师: 张乐凡: 2024硕士毕业: 现在:小红书,上海: 张韶
俞凯,上海交通大学 - GitHub Pages 俞凯 特聘教授 跨媒体语言智能实验室(X-LANCE) 计算机科学与工程系 上海交通大学 邮箱: kai yu [AT] sjtu [DOT] edu [DOT] cn 地址: 上海市闵行区东川路800号上海交通大学计算机科学与工程系 200240 |[中文]
#DeepSeek研究员搞出轻量vLLM##DeepSeek俞. . . 来自量子位 - 微博 DeepSeek研究员俞星凯,他2021年获得南京大学计算机科学与技术系学士学位,同年又被南京大学免试录取为硕士研究生,在校他同时也是由周志华教授领导的LAMDA团队的成员。