登录社区云,与社区用户共同成长
邀请您加入社区
1、项目背景 目前我们通过借助OpenVINO 平台可以在Intel平台上快速实现各种AI 能力,如目标检测、文生图、语音识别、语音生成、LLM等多种AI能力。但对于移动端或者边缘计算设备(树莓派、低成本MCU)支持不是特别的好,虽然在Android、树莓派等边缘计算设备或者移动设备上已经具备了TF Lite或者其他的小型AI推理框架,但对于推理设备还是有一定的要求,且部署需要一定的学习能力。所以
之前分享了哪吒开发板Ubuntu22.04系统的安装和基于OpenVINO(C++)推理Transformer模型的过程,这篇文章分享一下如何通过OpenVINO™ Model Server将模型部署在开发版上。 OpenVINO™ Model Server OpenVINO™ Model Server(OVMS)是一个高性能的模型部署系统,使用C++实现,并在Intel架构上的部署进行了优化,
上篇文章分享了哪吒开发板的开箱和Ubuntu22.04系统的安装,这篇文章将分享一下我使用哪吒开发板在iGPU上使用OpenVINO(C++)推理Transformer模型的过程。 OpenVINO配置 在OpenVINO官网下载linux版本的压缩包到开发板上将压缩包解压 tar -zxvf l_openvino_toolkit_ubuntu22_2024.3.0.
7月底在我颜导的群里看到了2024 Intel®“走近开发者”互动活动,刚好最近项目在尝试使用OpenVINO进行部署,便申请了一张哪吒开发板试用,提交申请一两周收到官方初选通过的邮件,三天后开发板就通过顺丰快递到了我的手上,速度还是很快的。 开发板介绍 哪吒(Nezha)开发套件以信用卡大小
本文深入探讨了如何将微控制单元(MCU)与OpenVINO™ LLM(大语言模型)有效结合,实现在智能终端设备上的本地化自然语言处理。文章不仅提供了详尽的实施流程,还展望了在此基础上开发更多创新功能的可能性。通过这种端侧的大语言模型实现技术,不仅能够提升交互性能,还能为各类智能设备提供更加人性化的服务。
智茄星——基于YOLO的智能茄子采摘机器人摘要本研究设计并实现了一种智能茄子采摘机器人,旨在提高茄子的采摘效率和质量。该系统以Nezha Developer Kit为核心控制板,通过OpenVINO加速YOLOv5目标检测模型,实现茄子的高效识别与定位。系统包括机械臂和末端执行器的设计与运动学分析,夹剪一体化末端执行器的实现,确
关于哪吒开发板 哪吒(Nezha)开发套件以信用卡大小(85 x 56mm)的开发板-哪吒(Nezha)为核心,采用英特尔®处理器 N97(Alder Lake-N),结合了高性能和低功耗的特性。它支持四核 SoC,时钟频率高达 3.60GHz&
活动报名链接:英特尔开发套件专区 英特尔作为IT领域的领军企业,为开发者们提供了全面的支持,包括芯片、开发套件、培训课程和开发环境等。为了更好地与开发者互动,英特尔发起了“走近开发者”活动,其中包括哪吒开发套件的免费试用机会、AI创新计划以及有奖征文活动。旨在倾听开发者的意见和建议,并通过丰厚的奖励激发创新。开发者们,快来加入这场盛会,与英特尔共同探索无限可能吧! 互动活动一:哪吒开发套件免费试用
架构设计图本系统设计硬件设计采用 Intel® CPU(iGPU) + GPU[可选] ,CPU 必须为 Intel® 架构,独立 GPU 可根据实际需要灵活扩展。 本系统全部采用 Docker 微服务运行,描述如下: 图例中,①作为 AI 推理服务器,运行 OpenVINO™ Model Server 容