(資料圖片僅供參考)
南方財(cái)經(jīng)6月30日電,據(jù)金山辦公官微30日消息,金山辦公與 NVIDIA 團(tuán)隊(duì)合作,通過 NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識別與理解的推理效率;借助 NVIDIA Triton 推理服務(wù)器的部署,成功優(yōu)化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗時(shí)共下降 84%;采用 NVIDIA Triton 推理服務(wù)器部署,其部署成本節(jié)省了 23% 。
(文章來源:南方財(cái)經(jīng)網(wǎng))
關(guān)鍵詞: