登录社区云，与社区用户共同成长
邀请您加入社区
OpenVINO 2025安装与配置指南
OpenVINO™ 是一个开源工具套件，用于对深度学习模型进行优化并在云端、边缘进行部署。它能在诸如生成式人工智能、视频、音频以及语言等各类应用场景中加快深度学习推理的速度，且支持来自 PyTorch、TensorFlow、ONNX 等热门框架的模型。实现模型的转换与优化，并在包括 Intel® 硬件及各种环境（本地、设备端、浏览器或者云端）中进行部署。
OpenVINO™ GenAI API 提供了一个原生的 C++ 接口，消除了对 Python 依赖的需求，使开发者可以用更高效的方式创建 AI 应用程序。下面是一个基于 Windows 操作系统的分步骤指南，手把手教你如何在 C++ 中构建 OpenVINO™ GenAI 应用程序。
本文将详述如何使用OpenVINO™生成式AI的C++ API编写Llama3.1模型的推理程序。
