硕士·统招
北京
若干
全职
职位类别:
职位描述 参与快手大模型推理引擎研发,工作内容包括: 1、参与大模型推理引擎的设计和研发,支撑快手自研以及开源模型的快速部署和高性能推理; 2、通过各种技术手段持续优化性能,降低推理成本,包括但不限于:算子/编译优化、异构推理、模型量化&蒸馏、分布式并行等; 3、支持RL中的多样化采样、generation性能优化等。 任职要求 1、有较强的学习能力和编程能力及数学基础; 2、有开源大模型推理框架(vllm/slang/trt-llm)使用和优化经验者优先; 3、有cuda或triton开发优化gpu算子经验者优先; 4、有昇腾、寒武纪、沐曦、海光、AMD 等算力芯片优化经验者优先; 5、有大模型推理相关从业经验者优先。
北京市海淀区北京海淀区元中心快手乐园查看大图
北京快手科技有限公司
行业: 电子/微电子技术/集成电路 规模: 2000以上 性质: 股份制企业 当前职位: 大模型推理引擎研发工程师
我们的使命: 我们致力于成为全球最痴迷于为客户创造价值的公司。我们的使命是帮助人们发现所需、发挥所长,持续提升每个人独特的幸福感。 我们是谁: 快手APP是中国流行的短视频和直播应用之一。作为普惠的数字社区,快手不仅让数亿普通人记录和分享生活,更帮助人们发现所需、发挥所长。快手致力于创造一个温暖和信任的社区,让更多普通人拥有表达和被看见的机会,并由此培育了繁荣与高互动的社区生态,每天有数千万优质内容上传。快手希望将短视频+直播作为商业基础设施,助力各行各业的数字化升级,让劳动和创造释放更大的能量,让价值创造者得到更好的回报。 快乐工作 在快手,同事互称老铁,交给彼此,共同奋斗。 美食诱惑 美味食堂为你补充满满能量~ 健康守卫 商业保险、定期体检、心理咨询…呵护你和家人健康~ 假期福利 除法定年假、公司福利年假、带薪病假外,快手员工还有机会享受春节特惠假、育儿假、父母陪护假、延长产假,给家庭更好的陪伴~ 租房补助 帮助职场新人减轻生活压力,通勤更便捷~ 配套完善 楼下就是健身房,私教、团课等你来~理发师每周固定来公司,不出门即可拥有靓丽发型~