来源 :智微智能科技2024-12-27
“AI+”行动等相关政策实施后，生成式 AI 大模型在各行各业应用成效渐显，需求呈爆发式增长。开发者需要更高效地设计、训练、部署大模型模型，将其融入产品和服务中，推动生成式 AI 技术商业化、普及化。
智微生成式AI超级边缘终端E608
“Super”升级
智微智能E608 基于NVIDIA Jetson Orin? Nano 平台，采用工规级设计，为机器人、多模态智能产品以及行业大模型部署提供边缘侧推理能力。
智微智能将于2025年1月起，全面升级JetPack 6.1，提供性能更强、性价比更高的“Super”生成式AI终端。
性能跃升
?AI能力由40 TOPS提升至67 Sparse TOPS，提升1.7倍，支持最新生成式AI推理任务。
?内存带宽由68GB/s提升至102GB/s，提升1.5倍，大幅优化高性能生成式AI计算需求。
?CPU频率由1.5GHz提升至1.7GHz，提升14%，性能增加，更高效运行各种生成式AI模型。
升级支持
现有智微智能E608用户仅需通过软件升级，即可享受1.7倍性能提升，无需更换硬件。
多样化适用场景
?机器人与物流：支持机器人和多模态智能体中，生成式 AI 工作负载的新兴应用。
?计算机视觉：从物体检测到图像分割，轻松处理复杂视觉任务。
?具身智能生成式AI应用：无缝运行从LLMs到ViTs的各种Transformer模型，为边缘设备赋能。
