无问芯穹与天数智芯联合完成GPU百卡推理集群测试，智铠100GPU现已正式上线并对外提供大模型服务
近日，天数智芯与无问芯穹联合将无问芯穹的Infini-AI异构云平台成功部署于天数智芯智铠100 GPU推理集群，实现了多种主流大模型在自主GPU百卡推理集群上的全功能适配，并正式对外提供MaaS服务。目前，该推理集群已在Infini-AI异构云平台上线，适用于从学术研究到行业应用的各场景大模型推理。
本次合作，是无问芯穹自今年7月与天数智芯等企业联合完成千卡异构混训，并将异构云平台打造成全球首个可进行单任务千卡规模异构芯片混合训练的平台之后，再次与天数智芯联手完成的大模型百卡级推理集群接入与兼容工作。这一系列联合行动验证了天数智芯自主研发的通用GPU产品——智铠100能够以媲美国际主流产品的性能表现，高效完成各种大模型训练与推理任务。
经过无问芯穹与天数智芯严格的功能和性能测试，双方现已完成智铠100 GPU产品与无问芯穹Infini-AI异构云平台的全面接入。该集群已适配对话问答、数据标注、内容理解与分析，信息抽取等主流任务场景，兼容国内外主流AI生态，灵活支持各种算法模型，满足文本、、视频等多场景下的大规模实时推理需求。
当前，智铠100现已在无问芯穹Infini-AI异构云平台上架，且支持70B以上的模型推理，可用于更佳效果的数据生成与处理。Infini-AI异构云平台是无问芯穹推出的高性能算力和原生工具链平台，其中大模型服务平台可为应用开发者提供各种高性能、易上手、安全可靠的大模型服务，能力覆盖了从大模型开发到大模型服务化部署的全流程。现已收录包括Stable Diffusion、Qwen2.5、CogvideoX、Llama3.1在内的多种主流大模型，支持模型一键微调部署、模型与ComfyUI workflow托管等功能。Infini-AI平台用户可以屏蔽硬件生态影响，通过极少步骤操作调用各种模型API，实现模型的快速部署。同时，还能享受到与国际主流产品相比，具有更高性价比的算力服务。
随着人工智能技术的快速发展及应用场景的拓展，国内大模型技术与应用企业对高可控性、高效能、高性价比、高附加值的算力需求日益迫切。无问芯穹依托“多元异构、软硬协同”的核心技术优势，致力于构建连接多种模型和芯片的AI基础设施新范式，成为大模型时代首选的算力运营商。天数智芯作为中国领先的通用GPU高端芯片及超级算力系统提供商，致力于打造更可信、更高效、更绿色的世界一流算力引擎。未来，无问芯穹与天数智芯将继续全面合作，在智算中心、央国企、互联网等领域，共同探索并推动技术普及和创新发展，深度参与到自主可控的算力生态建设中，共建AGI时代的大模型算力基座。
天数智芯
天数智芯是中国领先的通用GPU高端芯片及超级算力系统提供商。天数智芯通用GPU产品具有高性能、通用性、灵活性等特点，支持国内外主流AI生态和各种深度学习框架，已支撑各行业客户在人工智能领域进行超过数百个不同种类的模型训练，获得客户高度认可。天数智芯致力于打造更可信、更高效、更绿色的世界一流算力引擎，赋能千行百业数字化转型，促进我国数字经济高质量发展。
无问芯穹
无问芯穹（Infinigence AI）作为国内领先的AI基础设施企业，致力于成为大模型时代首选的算力运营商。依托“多元异构、软硬协同”的核心技术优势，打造了连接“M种模型”和“N种芯片”的“MxN”AI基础设施新范式，实现多种大模型算法在多元芯片上的高效协同部署。无问芯穹Infini-AI异构云平台基于多元芯片算力底座，向大模型开发者提供极致性价比的高性能算力和原生工具链，为大模型从开发到部署的全生命流程降本增效。
无问芯穹以“释放无穹算力，让AGI触手可及”为使命，通过不断的技术创新实现普惠AI，让算力成本实现万倍下降，如同水电煤一般为千行百业注入新质生产力。
评论排行