登录社区云,与社区用户共同成长
邀请您加入社区
Qwen3.8 系列在代码编写、专业工作、科学研究及长流程 Agent 任务方面提供顶尖性能。
本文为 OpenVINO™ 社区开发者的实践分享。此项目面向 AI PC 的本地发票 OCR 财务提取 Skill:ocr-finance-skill。
本次发布进一步扩展了 OpenVINO™ 支持的模型范围,新增了一批覆盖语言、视觉和目标检测任务的模型。
本文会带你完整走一遍这条部署路径:用 optimum-cli 一条命令导出 OpenVINO IR,用 NNCF 做「有选择」的权重压缩,再用 optimum-intel 的 OVModelForVisualCausalLM 在 Intel CPU / 核显 / Arc 独显上完成流式推理,最后启动一个交互式 Gradio Demo。
第三期以「OpenVINO™的AI开源朋友圈:贡献、集成、一起成长」为主题,围绕OpenVINO™ 2026.2最新特性,覆盖三大方向:更广的模型支持、更快的GPU推理,以及更强的智能体构建能力,同时展示OpenVINO与LangChain、VLLM等开源项目的无缝协作。
一份 Windows 实战部署指南——从零环境到模型开口说话(还会看图)
本地运行 · 不上传云端 · 一句话部署 —— 基于 MiniCPM 桌宠 + OpenVINO™。
做出一个能用的 Agent,曾经意味着不低的门槛——算力要够、链路要通、工程要硬,普通开发者很难轻装上路。
本文将介绍 INT4 KV Cache 压缩是什么、如何开启,以及在实际使用中可以期待怎样的效果。
本文给出一条参考部署路径:环境安装 → optimum-cli 一键导出 INT4 IR → openvino-genai LLMPipeline 推理 → Hybrid Reasoning 双模式实战。
本文给出一条与OpenVINO Notebooks 中minicpm-v-4.6 教程严格对齐的部署路径。
英特尔 OpenVINO™ 中文社区与魔搭社区联合发起「Intel AI PC 创新应用征文 \x26amp; OpenClaw 技能挑战赛」,旨在邀请每一位 AI 开发者,以代码探索端侧智能的无限可能。
本文将带你了解如何借助 Intel® OpenVINO™ 工具套件,将 FLUX.2 Klein 4B 模型部署到 Intel 硬件上,充分释放其实时图像生成与编辑的能力。
我该如何把机器人、摄像头和平台正确连接起来,从而开始采集可用于训练的演示数据?
本文基于 OpenVINO™ Notebooks 官方示例,带你从 0 到 1 把 VoxCPM2 部署到 Intel CPU/iGPU/独显上,并覆盖 5 种实用玩法。
当手边没有CUDA环境时,如何把ERNIE-Image在本地跑起来?
OpenVINO™ 已正式实现对 ERNIE-Image 的 Day 0 支持。这意味着开发者可以在模型发布后的第一时间,将 ERNIE-Image 更方便地跑在 Intel CPU 和 GPU 上,快速完成从模型导出、推理验证到应用落地的全流程实践。
Gemma 4 正清晰地体现了这种变化:它将多模态理解、长上下文交互和推理能力整合进了同一个模型家族中。
开发者不需要放弃熟悉的 llama.cpp 工具链,也不需要切换到另一套全新的软件栈,就可以在 Intel® CPU、GPU 和 NPU 上运行 GGUF 模型。
OpenVINO™ 2026.1 持续扩展模型支持版图,并针对 GenAI 模型带来进一步的性能优化。
GPU 和 CPU 处理KV Cache动态性很自然——运行时动态分配内存就行。
本文将详细介绍如何使用 Intel® OpenVINO™ 工具套件优化和部署 MiniCPM-o-4.5 模型,将其 15 个子模型全部转换为 OpenVINO™ IR 格式并进行 INT4/INT8 量化,在 Intel CPU/GPU 平台上实现高效推理。
第十期飞桨黑客松已经正式开启。在本期文心合作伙伴赛道中,英特尔作为合作伙伴之一,带来了面向开发者的 OpenVINO™ 赛题。这一次,我们希望不只是让大家“看见”多模态文档理解的能力,更希望大家亲手把它跑起来、用起来、做成真正可展示、可复现、可落地的作品。
EAGLE-3作为新一代投机解码(speculative decoding)技术的重要突破,其核心价值在于突破了传统投机解码依赖完全独立草稿模型的技术局限。
欢迎体验 OpenVINO™本年度的首个版本发布!
通过MCP(Model Context Protocol) 和A2A(Agent-to-Agent) 协议协作多个专用智能体(酒店搜索、机票搜索、图片描述),并且用OpenVINO™ 模型服务器(OVMS) 在本地高效运行优化后的推理。
本文分享一个真实跑通的案例:在AI PC上,使用 Unsloth 进行 LoRA 微调,对 meta-llama/Llama-3.2-3B-Instruct 进行训练,让模型具备 Function Calling(工具调用) 能力,并完成推理与评测。
通义千问团队正式发布了 Qwen3-ASR 系列模型,包含 1.7B 和 0.6B 两个版本。作为 Qwen 语音家族的最新成员,它在多语言识别和处理复杂声学环境方面展现了卓越的性能。
继语音识别(ASR)之后,阿里巴巴通义团队再次发力,推出了全新的 Qwen3-TTS 系列模型。
OpenVINO™ 已完成 PaddleOCR-VL-1.5 的 Day 0 适配,并在英特尔® 酷睿™ Ultra 3系列上部署端到端文档解析流水线。
本文会通过实时语音翻译示例,带你一步步了解如何通过 Intel® OpenVINO™ 工具,把这两个模型优化成更轻量、推理更快、部署更灵活的版本,从而在 AIPC 上获得理想的性能。
如需获取适配的 Archive 版本库文件,可访问官方文档地址(https://openvinotoolkit.github.io/openvino.genai/docs/getting-started/installation),根据自身操作系统及版本下载对应的归档包;目前,开发者需要自行下载该项目,将其源代码中的 src 文件夹复制到自己的代码当中,以便更好地利用 OpenVINO™ Java
Z-Image-Turbo是阿里巴巴通义实验室最新发布的高性能文生图模型。它基于先进的Diffusion Transformer架构,拥有60亿参数,核心特性在于仅需极少的推理步数(通常8至10步)即可快速生成细节丰富、质感逼真的高质量图像。Z-Image-Turbo模型非常适配AI PC场景,目前已针对搭载Intel Core Ultra处理器的平台进行优化,能够充分利用其内置的CPU与GPU进
【开篇寄语】本文为 OpenVINO™ 社区开发者的实践分享,内容基于作者在真实项目中的经验整理。作为开源AI工具套件,OpenVINO™欢迎大家结合自身场景验证、交流、分享,共同推动技术实践进步。
WWB工具全称为who_what_benchmark,是OpenVINO™ GenAI中的生成式AI模型简易准确率基准测试工具,主要用于评估转换或量化压缩后模型与原版模型的相似度,也是社区优选模型的重要评审工具。
在 PC 上运行生成式 AI,从未如此简单与强大
Intel OpenVINO™工具套件(https://openvino.ai/)以其在Intel硬件上优化和部署AI模型的能力而闻名,近日与AI工作流平台ComfyUI (https://www.comfy.org/ )达成合作:通过最近合并的OpenVINO™ node拉取请求(PR),将OpenVINO™的强大功能集成到ComfyUI中,为使用Intel硬件的创作者带来了显著的工作效率提升
Qwen2.5-Omni是Qwen 模型家族中新一代端到端多模态旗舰模型。该模型专为全方位多模态感知设计,能够无缝处理文本、图像、音频和视频等多种输入形式,并通过实时流式响应同时生成文本与自然语音合成输出。
AI PC 是一台配备专门用于加速 AI 工作负载的硬件的计算机,意味着我们可以高效地运行包含 AI 模型的应用程序。就是这样!我们将看看如何组装它?
本方案基于边缘智能驱动,融合YOLOv8模型与OpenVINO轻量化部署技术,通过哪吒派实现焊点缺陷毫秒级识别与自动补焊闭环,结合霍夫圆变换与Python视觉算法完成电池极柱±0.2mm精确定位及多型号柔性焊接路径规划。该方案构建“检测-解析-补焊”全流程自动化体系,推动良品率提升至97.5%、生产效率提高40%,为锂电池模组焊接提供智能化解决方案。
随着智能化技术与海洋产业的深度融合,本刺参 AI 分拣系统具备广阔的发展空间与战略价值。在技术层面,深度优化算法与硬件,引入 Transformer 架构提升粘连检测精度至 95% 以上,进一步提升分级精度;同时结合边缘计算与云端协同,构建 “设备端实时分拣 + 云端大数据分析” 的智慧管理平台,为企业提供生产优化、市场预测等增值服务。
本项目打造基于YoloV8-pose的挥杆姿态智能分析系统,通过OpenVINO平台模型轻量化部署于哪吒派开发板,利用多源挥杆图像数据实现毫秒级动作解析。系统构建17关节点动态捕捉模型,精准量化杆头轨迹、躯干旋转等核心参数,可广泛应用于家庭训练场、初级高尔夫运动员训练等场景,为千万高尔夫爱好者提供低门槛、高精度的科学训练工具。
本项目的开展能有效解决实验室人工进行菌落统计耗时长,人为误差大,数据难以保持等痛点,同时相较于市面上菌落检测仪在降低成本的基础上提高了检测精度,其简单的界面设计降低对于操作人员的要求,全自动一体化的软硬件结合在解放科研人员的时间和精力的同时结合Deepseek模型对菌落进行深入分析,助力菌落知识的科普。
该项目基于OpenVINOTM模型推理库,在C#语言下,调用封装的OpenVINOTM动态链接库,部署推理PP-OCRv5中的文字识别模型;实现了在Labview平台调用OpenVINOTM部署PP-OCRv5文字识别模型。
OpenVINO 2025.2 是我们今年的又一重要版本,持续推进在 Intel 硬件上释放 AI 性能的目标。我们由衷感谢开发者社区的支持,并已在着手为下一个版本打造更多令人期待的功能。
OpenVINO™工具套件的新版本现已可用,您可以进行升级。
在本文中,将演示如何使用的OpenVINO.CSharp.API.Extensions.PaddleOCR NuGet Package快速在Intel CPU平台落地PP-OCRv5模型