登录社区云,与社区用户共同成长
邀请您加入社区
暂无图片
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
第三期以「OpenVINO™的AI开源朋友圈:贡献、集成、一起成长」为主题,围绕OpenVINO™ 2026.2最新特性,覆盖三大方向:更广的模型支持、更快的GPU推理,以及更强的智能体构建能力,同时展示OpenVINO与LangChain、VLLM等开源项目的无缝协作。
一份 Windows 实战部署指南——从零环境到模型开口说话(还会看图)
很多开发者可能已经见过各种 AI 加速盒子,但英特尔这次基于酷睿™ Ultra 架构打造的 AI Box 有点不一样——它直接打破了传统“外挂算力盒子”的形态,把 PC 级的旗舰算力带进了汽车座舱。说白了,就是给车加一个能跑大模型的“外挂大脑”。
如果你最近在做文档智能、屏幕文字提取、工业字符识别,或者希望在 PC 本地实现一个“看得懂图片中文字”的 AI 应用,大概率绕不开 OCR。
本地运行 · 不上传云端 · 一句话部署 —— 基于 MiniCPM 桌宠 + OpenVINO™。
做出一个能用的 Agent,曾经意味着不低的门槛——算力要够、链路要通、工程要硬,普通开发者很难轻装上路。
办公、游戏、观影时腾不出手?樱桃 AI 语音助手,语音指令轻松访问复杂系统功能与设置,从文件操作到系统配置,一句话搞定。
本文将介绍 INT4 KV Cache 压缩是什么、如何开启,以及在实际使用中可以期待怎样的效果。
根据腾讯混元官方发布稿,Hy-MT2 在多个维度做了系统性升级,本节先梳理几个对部署侧最具参考价值的特征。
本文给出一条参考部署路径:环境安装 → optimum-cli 一键导出 INT4 IR → openvino-genai LLMPipeline 推理 → Hybrid Reasoning 双模式实战。