(資料圖片)
據(jù)金山辦公官微30日消息，金山辦公與 NVIDIA 團(tuán)隊(duì)合作，通過 NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識(shí)別與理解的推理效率；借助 NVIDIA Triton 推理服務(wù)器的部署，成功優(yōu)化 GPU 利用率，提供高推理吞吐量。相比于 CPU 其 pipleline 耗時(shí)共下降 84%；采用 NVIDIA Triton 推理服務(wù)器部署，其部署成本節(jié)省了 23% 。（財(cái)聯(lián)社）
關(guān)鍵詞：
