无码AV无播放器|中文无码AV在钱|免费A页在线观看|日韩精品一区久久|欧美另类超碰自拍|在线亚洲成人在线|欧美自拍偷拍视频|日韩欧美视频专区亚洲不卡免费高清|5月婷婷AV性爱|9久久久亚洲中文字幕mv

崗位職責(zé)

1、負(fù)責(zé)深度學(xué)習(xí)在線推理引擎的設(shè)計(jì)與開(kāi)發(fā)，打造低延時(shí)，高吞吐的推理引擎；

2、參與神經(jīng)網(wǎng)絡(luò)加速技術(shù)的調(diào)研、探索和落地；

3、負(fù)責(zé)nlp大模型在實(shí)際業(yè)務(wù)場(chǎng)景中落地。

任職要求

1、本科及以上學(xué)歷，具備豐富的模型推理加速算法經(jīng)驗(yàn)，熟悉各類(lèi)主流加速庫(kù)，如：tensorrt / cudnn / mkl / xla等；熟悉各類(lèi)ir，包括不限于onnx；

2、熟悉主流深度學(xué)習(xí)框架：tensorflow / pytorch，熟悉主流推理引擎：triton / openvino；

3、有算子開(kāi)發(fā)經(jīng)驗(yàn)，具備深度學(xué)習(xí)模型性能分析和優(yōu)化能力；

4、熟悉圖優(yōu)化、混合精度、剪枝、編譯優(yōu)化技術(shù)，有實(shí)操業(yè)務(wù)落地經(jīng)驗(yàn)的優(yōu)先；

5、熟悉模型部署優(yōu)化，如模型量化、模型壓縮，模型轉(zhuǎn)換，模型稀疏化等；

6、熟練掌握c/c++/python編程，有大模型端到端落地經(jīng)驗(yàn)者優(yōu)先；

7、熟悉pytorch源碼者優(yōu)先。