最近中文字幕免费mv在线视频,野狼第一精品社区,中文在线中文a,最近2019免费中文第一页,永久免费观看美女裸体的网站

崗位職責(zé)：
1、高性能推理引擎開發(fā)，研發(fā)低延遲推理模型。
1、負(fù)責(zé)千億級(jí)基座模型深度優(yōu)化和架構(gòu)改造，優(yōu)化注意力機(jī)制與位置編碼，提升對(duì)復(fù)雜語(yǔ)義模式的捕捉能力；
2、設(shè)計(jì)領(lǐng)域自適應(yīng)訓(xùn)練框架，實(shí)現(xiàn)垂直知識(shí)的高效注入與模型快速收斂；
3、開發(fā)動(dòng)態(tài)計(jì)算路徑，針對(duì)高并發(fā)與深度分析任務(wù)定向優(yōu)化計(jì)算資源。
4、大模型分布式訓(xùn)練攻堅(jiān)，基于Megatron-LM 、DeepSpeed或 構(gòu)建集群方案，突破顯存/通信瓶頸；
5、設(shè)計(jì)混合精度管理模塊（FP8/FP16），解決梯度異常問題；
6、構(gòu)建自動(dòng)化監(jiān)控系統(tǒng)，實(shí)時(shí)診斷萬(wàn)億Token級(jí)訓(xùn)練任務(wù)。
7、為NVIDIA H20/Ascend 910B定制CUDA/Triton算子，實(shí)現(xiàn)計(jì)算密集型任務(wù)加速。
8、探索MoE動(dòng)態(tài)路由機(jī)制在復(fù)雜任務(wù)中的負(fù)載均衡優(yōu)化。
任職要求
1、計(jì)算機(jī)科學(xué)/AI/應(yīng)用數(shù)學(xué)方向碩士及以上學(xué)歷；
2、2年及以上大模型研發(fā)經(jīng)驗(yàn)；
3、精通矩陣分析、概率圖模型、優(yōu)化理論，深入理解計(jì)算復(fù)雜性理論、分布式系統(tǒng)CAP定理；
4、主導(dǎo)過大集群訓(xùn)練200B+參數(shù)模型實(shí)戰(zhàn)經(jīng)驗(yàn)；
5、能構(gòu)建顯存優(yōu)化方案，改造模型通信模塊，降低通信開銷；
6、高性能推理引擎，交付過萬(wàn)QPS高并發(fā)服務(wù)（P99延遲<200ms）
7、具備模型架構(gòu)深度改造能力，改進(jìn)RoPE/ALiBi位置編碼（支持>128K上下文），
設(shè)計(jì)動(dòng)態(tài)稀疏Attention機(jī)制，開發(fā)領(lǐng)域適配層；
8、有昇騰910B 或H20 算子開發(fā)經(jīng)驗(yàn)，能設(shè)計(jì)HBM分層KV緩存策略，提高緩存命中率。
9、具有高水平論文或?qū)＠芰φ邇?yōu)先：在 NeurIPS/ICLR/ICML/ACL 發(fā)表過模型優(yōu)化相關(guān)論文，或持有分布式訓(xùn)練或推理加速有效發(fā)明專利；