登录社区云,与社区用户共同成长
邀请您加入社区
暂无图片
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
如果你最近在做文档智能、屏幕文字提取、工业字符识别,或者希望在 PC 本地实现一个“看得懂图片中文字”的 AI 应用,大概率绕不开 OCR。
本地运行 · 不上传云端 · 一句话部署 —— 基于 MiniCPM 桌宠 + OpenVINO™。
做出一个能用的 Agent,曾经意味着不低的门槛——算力要够、链路要通、工程要硬,普通开发者很难轻装上路。
办公、游戏、观影时腾不出手?樱桃 AI 语音助手,语音指令轻松访问复杂系统功能与设置,从文件操作到系统配置,一句话搞定。
本文将介绍 INT4 KV Cache 压缩是什么、如何开启,以及在实际使用中可以期待怎样的效果。
根据腾讯混元官方发布稿,Hy-MT2 在多个维度做了系统性升级,本节先梳理几个对部署侧最具参考价值的特征。
本文给出一条参考部署路径:环境安装 → optimum-cli 一键导出 INT4 IR → openvino-genai LLMPipeline 推理 → Hybrid Reasoning 双模式实战。
围绕英特尔酷睿Ultra硬件平台与OpenVINO™ 推理加速工具链,结合飞桨框架与FastDeploy极速部署能力,深度拆解多模态模型在通用算力设备上的适配逻辑、提速技巧与性能调优策略,详解产业级AI部署的技术要点与工程难题解法。聚焦飞桨开源技术体系、文心大模型多模态能力与英特尔oneAPI全栈开发生态,解读软硬件协同适配的底层逻辑,展示通用算力环境下,文档智能识别、图文解析、结构化提取等AI应
本文给出一条与OpenVINO Notebooks 中minicpm-v-4.6 教程严格对齐的部署路径。
英特尔 OpenVINO™ 中文社区与魔搭社区联合发起「Intel AI PC 创新应用征文 \x26amp; OpenClaw 技能挑战赛」,旨在邀请每一位 AI 开发者,以代码探索端侧智能的无限可能。