(上接第一版)
“有了这个平台,我们按需购买算力就行,降低了大模型推理成本。”日前,天谋科技(北京)有限公司首席技术官乔嘉林说,公司通过河北省算力监测调度平台成功达成了算力交易。
天谋科技是一家时序数据库软件和时序大模型开发公司。最近,公司发展TimechoAI时序大模型云平台需要大量算力,于是向河北省算力监测调度平台提出算力购买需求。平台工作人员快速匹配优质算力,保障大模型推理任务顺利进行。目前,公司的大模型推理算力成本平均下降50%。
建设河北省算力监测调度平台,如同给全省算力安排了一名“管家”,让沉睡在机房里的算力资源“流动”起来,从硬件资产变成可交易、可服务的数字商品,推动算力资源与市场需求高效衔接。
去年3月,廊坊市数城科技集团有限公司规划建设方案、组织建设力量、梳理需求清单,启动平台建设。历经迭代升级,今年4月,平台各项核心功能部署到位,进入试运行阶段。
为什么把平台建在廊坊?原因在于廊坊紧临京津,兼具区位优势和算力优势。同时,廊坊算力集群到北京算力平台时延控制在2毫秒以内,能够就近承接北京庞大的算力需求。