登录社区云，与社区用户共同成长
邀请您加入社区
暂无图片
英特尔® Extension for Transformers 创新工具包中的 LLM Runtime 是一种轻量级的高效 LLM 推理运行时。在搭载英特尔® 至强® 铂金 8480+ 的系统上的测试结果显示，LLM Runtime 可为 GPT-J-6B、LLAMA2-7B-Chat、MPT-7B、ChatGLM-6B、ChatGLM2-6B、Mistral-7B、Dolly-v2-3b 和 B
英特尔最近推出的 BigDL-LLM 库，可助力应用开发者和研究人员在英特尔® 平台上加速优化大语言模型，解决他们在使用大语言模型开发应用时因模型的超大规模参数导致的高时延困扰。BigDL-LLM 提供了各种低精度优化，并可利用现代硬件加速技术和全新的软件优化，从而赋能大语言模型在英特尔® 平台上实现高效优化和快速运行。
开源预训练大模型 ChatGLM-6B 通过以下三个方面可实现基于第四代英特尔® 至强® 可扩展处理器的高效微调优化：一是借助英特尔® 高级矩阵扩展，大幅提升模型微调计算速度；二是结合英特尔® MPI 库充分利用处理器架构特点和多核配置，发挥 CPU 的整体效率；三是利用英特尔® 至强® CPU Max 系列处理器集成的 HBM 满足大模型微调所需的大内存带宽。
简介 intel推出基于N97(Alder lake)的哪吒开发板, 为边缘计算、工业控制等领域提供了新的硬件、软件平台, 可以支持OpenVINO、oneAPI等开发工具.
前言 随着机器人技术的迅猛发展，越来越多的研究者与开发者投身于这一兼具挑战性和前沿性的领域。哪吒开发板作为一款面向机器人开发的高性能平台，凭借其卓越的计算能力和丰富的硬件接口，为机器人技术爱好者和专业团队提供了理想的实验与开发环境。本文将为读者呈现一份详尽的指导，涵盖从哪吒开发板的基本介绍，到Ubuntu 20.04操作系统的安装，再到ROS1（机器人操作系统）的部署与最终的ROS应用开发与实现的
一. 前言 随着激光器的发展，激光在光通信、光学检测、光学加工等领域起着越来越重要的作用。激光光斑质量是激光系统性能的重要指标，直接影响其在科学研究、工业加工和通信等领域的应用效果。影响激光光斑质量的因素主要包括：1、激光器内部元件（如增益介质、不均匀泵浦、镜片）或外部系统（如空气湍流、热效应）引起波前的不平整；2、模式纯度；3、激光器输出角度不稳定或准直光学元件调整不佳等。激光质量差可能直接导致
本文围绕深度学习模型训练效率提升与硬件资源优化利用这一核心主题，聚焦于英特尔AI PC系列平台，深入阐述了从传统 CPU 训练模式向 XPU 赋能训练模式的转型历程，尤其以 YOLO 模型训练作为典型范例展开剖析。
前言 随着智能机器人技术的快速发展，越来越多的研究者和开发者开始涉足这一充满挑战和机遇的领域。哪吒开发板，作为一款高性能的机器人开发平台，凭借其强大的计算能力和丰富的接口，为机器人爱好者和专业人士提供了一个理想的实验和开发环境。本文旨在为读者提供一个全面的指南，从哪吒开发板的简介开始，逐步引导读者完成Ubuntu 20.04操作系统的安装，ROS1（Robot Operating System）的
前言 随着人工智能技术的快速发展，人体姿态检测已经成为计算机视觉领域中一个重要的研究方向。本教程将介绍如何使用哪吒开发板和 MediaPipe 框架来实现实时人体姿态检测。 哪吒开发板凭借其强大的 Intel 处理器和优秀的 GPU 性能，非常适合进行各类 AI 应用的开发和部署。通过本教程，您将学习到： - 哪吒开发板的基本特性和优势 - Ubuntu 系统的安装和配置 - MediaPipe
本文中我们将验证了ROS环境的正确配置和功能，包括节点管理、主题通信、服务调用以及动作服务器的测试。
