来源 :深交所互动易2025-02-11
irm2246043问彩讯股份(300634)请问公司的大模型训推平台RichBoost，在大模型的推理方面，效率能提高多少倍？公司在布局推理算力方面的优势和进展？谢谢。
2025-02-06 12:36:47
彩讯股份答irm2246043
尊敬的投资者，您好！彩讯股份的RichBoost大模型训推平台在推理效率上有显著提升，其大语言模型推理引擎RichLLM加速比可达5倍以上，最高效率可达同类开源产品的10倍。在多模态推理方面，RichDiff使图像生成速度提升3倍，同时保持图像质量与原生PyTorch一致。彩讯股份在推理算力布局方面具有明显优势，公司AI原生云计算解决方案Rich AICloud采用三层架构：底层的RichNet提供高性能算力网络，中层的RichMoss支持万卡集群管理，顶层的RichBoost提供推理加速。该方案已在多个千亿参数级别的大模型训练和推理项目中成功落地。感谢您的关注！
2025-02-11 11:45:12