据了解，WPS AI是一个基于大语言模型下的生成式人工智能应用，可以帮助生成文档，支持多轮对话，以及对已有的文档进行处理等。最新发布的资料显示，WPS AI 的能力已经覆盖文字、表格、PPT、PDF 四大办公组件，这部分 AI 新能力集中在阅读理解、问答、人机交互等方面。而与NVIDIA团队合作后，能通过NVIDIA Tensor Core GPU、TensorRT提升图像文档识别与理解的推理效率，并借助NVIDIA Triton推理服务器的部署，成功优化 GPU利用率，提供高推理吞吐量。

　　图像识别与理解是一个很复杂的过程，一个任务的 pipeline 用到的深度学习模型多达 20+ 个，且日请求量级较大(上亿级别)需要大量的计算资源。在于NVIDIA团队合作前，金山办公就已经在图像文档识别与理解领域已达到了国内领先水平，其主要使用了 CV(Computer Vision)与 VIE(Visual Information Extraction 视觉信息抽取) 等相关深度学习技术，例如通过 CV 技术识别发票和 PDF 大纲并获取其中的数据关系，其日请求次数已达上亿次。而此次与NVIDIA团队合作，主要是为了提升效率、降低成本。

　　金山办公采用了NVIDIA T4 Tensor Core GPU进行推理、NVIDIA TensorRT 8.2.4 进行模型加速、NVIDIA Triton推理服务器 22.04 在 K8S 上进行模型部署与编排。通过GPU推理和TensorRT加速，成功将耗时降低到了 2.4 秒左右;而在引入了Triton 推理服务器进行推理部署后，将推理与业务代码解耦，初步实现将 GPU 资源池化调度。最终在同等业务规模情况下，部署成本节省了 23%。金山办公成功提高了速度和资源利用率，不仅给用户端带去了更高的速度响应，提高了用户体验，也为公司节约了大量的服务端 GPU 资源，收获了更高的效益。

　　根据金山办公公布的 WPS AI 最新进展：在 PPT 中，WPS AI 已支持输入主题，一键生成 PPT 演示文稿，并会根据用户要求进行细化调节，如更改主题风格、单页美化、更改字体、更改配色、生成演讲稿等等。在 PDF 中，WPS 则展示了阅读分析和理解能力。WPS AI 能够阅读包括论文、合同、课件等文档，用户以问答方式则可以获得关键信息。并且，问答助手也会提供文档溯源功能，确保用户能够得知信息来源。此外，用户还能够通过手机等移动设备拍摄相关文档，而后 WPS 给出相关翻译、概括、分析等功能。

　　金山办公 CV 团队总监熊龙飞表示：WPS AI 将进一步向三个方向迈进，包括 AIGC、阅读理解和问答、人机交互，也期待在NVIDIA团队的支持下，WPS AI的发展能更加迅速，同时，也希望金山办公在文档识别与理解领域的应用案例也可以启发到 OCR 和版式识别领域的其他公司和学者，相信随着更多客户通过采用 TensorRT 加速会给行业带来很大的收益。