数据存储产业服务平台

Arm推出Arm AI Portal,加速Arm平台AI应用优化与开发

随着智能体AI(Agentic AI)正从云AI向边缘AI与物理AI延伸,开发者需要跨模型、运行时与硬件目标进行开发,其复杂度持续攀升。Arm计算平台覆盖这一AI计算连续体,并依托超过2,200万开发者构成的广泛生态,为开发者提供优化的AI软件支持。

开发AI应用,无需以数周的模型搜索、基准测试与优化工作为起点。开发者需要快速定位适合的模型并了解其性能表现,智能体同样需要清晰的信号指引,以发现对应的模型、工具及技术资源。

在刚刚举办的Arm Create开发者大会上海站,Arm正式推出Arm AI Portal,为开发者与智能体提供统一入口,从而在Arm计算平台范围内完成AI软件的发现、优化及部署。开发者可查找面向特定任务的预优化模型,获取性能与准确率数据,对比延迟、内存占用和模型规模,并访问代码示例及部署工作流。

后续,Arm AI Portal还将提供相关工具,支持开发者导入包括专有模型在内的自有模型,并在Arm平台上开展性能分析与优化。目前,面向智能体AI的资源已开放预先体验,正式版本将于后续推出。

依托Arm技术优化AI,加速开发进程

Arm AI Portal面向基于Arm架构的计算平台,支持语言、语音、视觉及神经图形等多类AI工作负载。首批预优化模型包括阿里巴巴通义千问、Google Gemma及Ultralytics YOLO,支持的runtimes涵盖ExecuTorch、LiteRT及ONNX-RT。生态合作伙伴包括阿里巴巴、树莓派(Raspberry Pi)及Ultralytics。

Arm AI Portal适配开发者与智能体的现有开发环境,经Arm优化的模型可通过Hugging Face获取,Portal相关资源则可通过模型上下文协议(MCP)供编程智能体访问。

经Arm优化的模型已实现显著性能提升:

•采用单线程执行与混合量化配置,搭载Q8_0 talker与code predictor 组合方案,Qwen3-TTS在 vivo X300上通过第二代Arm可伸缩矩阵扩展(SME2)的加速,实现了超过4倍的速度提升。

•Ultralytics YOLO26在vivo X300上依托SME2技术,单线程FP16相较FP32实现超40%性能提升;在树莓派5平台依托NEON技术,采用FP16与INT8混合量化方案,相比FP32同样实现超40%的性能提升。

在Arm计算平台全面释放AI潜能

Arm AI Portal覆盖云AI、边缘AI和物理AI领域的Arm计算平台,帮助开发者快速定位适配目标场景的优化模型。无论是机器人视觉模型、智能手机端的生成式人工智能(GenAI),还是运行于云CPU的任务专属大语言模型(LLM),开发者均可通过该平台获取。

Arm AI Portal将SVE、SME及神经网络加速能力等Arm技术与优化软件生态连接起来。以第二代移动终端计算子系统(Arm CSS for Mobile 2)为例,其模型可借助SME2和集成神经加速器的GPU实现加速,并可通过AI Portal获得支持。

数十年来,Arm始终致力于软件生态系统的构建。如今,AI Portal将这一投入延伸至AI时代,帮助超过2,200万开发者及其智能体发现并使用针对目标硬件优化的软件。

AI Portal现已正式上线。

未经允许不得转载:存储在线-存储专业媒体 » Arm推出Arm AI Portal,加速Arm平台AI应用优化与开发