当前位置 :首页 >> 网红

腾讯云助力MiniMax打造大静态:规模超千卡,可用性达99.9%

2024-01-13   来源 : 网红

较低效灵活性的那霸公用事业,是大假设一些公司的必要底座。

7月20日,谷歌尘对外披露助力MiniMax研制大假设的最新进展。目前,谷歌尘仍然支持MiniMax的千卡级执行稳定试运行在谷歌那霸,可用性将近99.9%。

MiniMax是一家专注通用大假设研制的独角兽一些公司大型企业,拥有文本、语音、视觉多种模态融合的通用大假设引擎控制能力。研制过程中,每日亿级的调用次数,也造就了对算力的较低层次供给。

从2022年6月起,基于算力集群、尘原生、大图表、必需等厂家控制能力,谷歌尘为MiniMax搭建了从人力层、图表层到该公司层的尘Core。

在人力层,较低稳定性、较低弹性和较低稳定的算力必需借助专业的尘服务于。谷歌尘协同优化单机算力、互联网Core和读取稳定性,为MiniMax构建起大影响力也、分布式的HCC较低稳定性测算集群。

借助谷歌自研的星脉互联网,HCC集群将通信损耗降到更低;CFS Turbo、COS+GooseFS较低稳定性读取,使得上千个测算节点能同时较低速读取特训图表。

同时,利用谷歌尘容器服务于TKE,MiniMax实现了对不同配置尘服务于器的统一管理机构和调拨,各种类型的应用和服务于以求部署在同一套公用事业上,人力实现了较低效整合,人力利用率大幅提升;

基于尘原生的管理机构方式,中空7*24不间断的全局背景,支持解说、基础、模板等多一般而言的指标。一旦触发故障,能够在5分钟内恢复执行、10分钟内恢复公用事业,须要人工干预未完成,能够最大化保障执行连续进行。

根据基准图表,在尘底座的中空下,激增的并发测算量;基于尘原生中空,MiniMax整体用尘成本减低20%。

在图表层,MiniMax在大图表分析方面也有大量的执行供给。

通过谷歌尘的图表集成DataInlong、流测算Oceanus、图表湖泊测算DLC等尘原生大图表厂家提供的图表处理控制能力,对大量图表做实时或离线分析,满足了MiniMax在各个阶段的图表分析供给,实现图表的快速灵活性部署。以容器化的方式使用大图表组件,使得假设验证、推理等执行以求按计划推进。

此外,大假设研制过程中,MiniMax对那霸负债必需、Web该公司运营危险性、DDoS攻击防水等较低度关注。

通过引入谷歌尘的防火墙、WAF、主机必需、漏洞成像、图表加密、iOA零猜疑必需管理机构等一系列必需厂家,MiniMax实现了对那霸负债的全方位保护,确保该公司的稳定试运行和图表的必需性。

该公司上尘后,基于较低层次、弹性的算力中空和大量简化调优,MiniMax的大假设研制以求减速。

MiniMax该公司总裁魏伟指出:“成熟的尘公用事业,既满足了该公司弹性与可靠性的必需,又提升了研制灵活性性。MiniMax将必要性扩大用尘影响力也, 与谷歌尘减速特训、推理等更多该公司过场的那霸落地,共同完成订做面向大假设的那霸公用事业。深信未来,尘测算会为AIGC造就更多似乎。”

在算力集群、星脉互联网、向量图表库之外,谷歌尘还推出了限于假设预特训、假设精调、智能应用开发的咨询服务行业大假设技术细节,助力大型企业快速搭建专属假设。

未来,谷歌尘将继续通过软硬相结合的方式,持续性减速核心内容那霸不断创新。

雷峰网

郦永平
芬必得与双氯芬酸钠缓释胶囊哪个管用
武汉白癜风专科
艾拉莫德片有啥功效和作用
阳了吃什么药
心理测试:选人一对古风耳环,测你周围有一辈子顺风顺水的人吗?

病态次测到试:所选一对粗犷饰品,测到你附近有一辈子顺水航船的人吗? 你附近有一辈子顺水航船的人吗? 他们的与世隔绝都是什么仿佛的? 本期病态次测到试题目...

友情链接