企业决定用裸金属,通常是为了拿到云主机给不了的东西。但裸金属的裸到底裸到哪一层,各家给的不一样。有的只开放操作系统登录,有的把带外管理也交出来。这个差别在报价单上看不出来,等真需要装一套特定驱动时才会撞上。签约前把边界谈清楚,比事后争价格有用。49.png

一、三层栈,权限通常停在不同位置50.png

一台GPU服务器可以分成三层:固件层是BIOS与BMC,系统层是操作系统与驱动,应用层是训练框架与业务代码。云主机只开放系统层以上,固件层完全不可见,换镜像就是能做的极限。裸金属的价值在于把系统层和固件层一起交出来,但交到哪一层,各家产品线不同。

判断方法很简单:问对方能否在控制台里改BIOS设置、能否挂载自己的ISO镜像。两个都能,说明拿到了固件层权限;只能换预置镜像,说明停在系统层。这个区别直接决定了后面能不能做特定配置。

为什么固件层值得争。GPU相关的几项关键设置在BIOS里:Above 4G Decoding 决定系统能否识别大容量显存地址空间,Resizable BAR 影响CPU直接访问显存的方式,SR-IOV 与 PCIe ACS 关系到虚拟化与设备直通。这些选项默认值不一定适合你的负载,若拿不到BIOS权限,遇到兼容性问题就只能等供应商改。

二、带外管理到底能做什么

带外管理指通过BMC这条独立于操作系统的通道控制机器,接口是IPMI或更新的Redfish。各家有自己的实现名,常见的有iDRAC、iLO、iBMC以及厂商自研的BMC。它跟业务网络是两条线,机器系统崩了、网络不通了,只要供电正常、管理口可达,仍然能操作。

具体能力有五项,按重要性排:远程开关机与强制重启,这是最基础的;KVM over IP,能看到开机画面、进BIOS、操作安装向导;虚拟光驱,把本地ISO挂成远端光驱,用于系统安装;传感器读取,CPU与进风口温度、风扇转速、电源功率、电压;日志导出,硬件事件日志与系统串口日志,后者在排查启动失败时特别有用。

对GPU整机来说,还有一项常被忽略:单卡状态与整机功率的关联读取。八卡满载时整机功率可能在六千瓦以上,若电源冗余不足或市电容量不够,机器会在高负载时重启。这类问题在系统日志里只留下一行意外重启记录,要看BMC的电源事件才能定位。

三、三种权限档位

档位能做做不了
仅系统登录装软件、跑任务、看应用日志重装系统、改BIOS、看硬件事件
BMC 只读看温度功耗、看硬件日志、看链路状态开关机、挂镜像、改设置
BMC 全权挂ISO重装、改BIOS、KVM操作、电源管理换硬件、动交换机与机柜配电

三档对应不同的工作方式。只给系统登录时,每次换内核或驱动都要提工单排队,适合负载稳定、版本锁定的推理服务。BMC只读适合需要自建监控的场景,把温度与功率采进自己的看板,但改不了任何东西。BMC全权适合研发期,团队需要反复试不同驱动组合。

多数供应商默认给第二档,因为这一档既能让客户看到硬件状态,又不会因为误操作把机器刷坏。第三档通常要单独谈,也常附带额外的操作规范条款。谈的时候不要只问给不给,要问给到什么程度:能不能改BIOS、能不能挂自己的ISO、管理口是共享还是独占、是否走独立管理网。

四、自己装系统的实际理由

第一是版本锁定。企业生产环境的内核版本、GPU驱动版本、CUDA运行时版本往往被上游框架限死,预置镜像很难刚好匹配。差一个小版本就可能出现编译失败或性能异常,而这类问题在业务侧表现为训练变慢,排查成本很高。

第二是定制化启动参数。GPU直通场景需要开IOMMU,大页内存需要预留Hugepages,NUMA绑定需要固定的CPU亲和策略。这些都在内核启动参数里,改完必须重启生效,没有固件层权限就做不了。

第三是安全合规。部分行业客户要求操作系统基线自建、审计日志本地留存、磁盘加密密钥自管。预置镜像通常不满足这些要求,只能自己装。

第四是故障自恢复。系统盘损坏时,有BMC全权可以自己挂救援镜像修复,没有就只能等供应商排期。对跑长任务的团队来说,这个差别决定了中断时长是几小时还是几天。

五、权限越大,误操作代价越高

拿到全权之后第一个风险是重装时选错盘。以 B300 288G 在四川一区的配置为例,系统盘是1920GB两块,数据盘是3.84TB八块,数据盘合计30.72TB。安装向导里若把数据盘勾成系统盘,整个训练数据集会被格式化。按这台机器月付470400元折算,日均15680元,一个五天的训练任务若没有同步到对象存储,重跑成本是78400元。

第二个风险是BIOS改坏。改错启动模式、关掉必要的解码选项,机器可能连自检都过不去,只能靠现场清CMOS。远程清不了,就必须等人到机房。所以谈权限时一定要同时谈救援时限:从提交工单到现场介入,承诺多少小时。

第三个风险是管理口暴露。BMC若直接暴露在公网且用默认口令,等于把物理控制权交出去。正规做法是管理口走独立管理网,通过跳板机或VPN访问,并且强制改初始口令。这一点要写进安全条款,不能只靠口头承诺。

所以权限和流程要配套。内部至少定三条规矩:重装前必须双重确认盘符与序列号,重装操作要有第二人在场或录屏,BIOS变更要记录变更单。这些规矩比权限本身更能防止事故。整机配置与挂牌价可在GPU裸金属整机报价逐台核对,同一型号在不同区域的内存、数据盘与带宽配置差异较大,核对时不能只看型号。容器实例与整机的档位对照可以查算力市场实时价目。实际价格根据GPU型号、租赁周期、资源配置动态调整,以官网实时价格为准。

六、采购时要问清的七件事

一是重装权限归谁。自己能否通过BMC挂ISO重装,还是必须提工单。二是BIOS能否修改,特别是GPU相关的解码与直通选项。三是管理口形态,共享还是独占,是否在独立管理网内。四是重装时数据盘是否默认保留,有没有防止误格的技术手段。

五是故障响应时限,硬件故障从报修到现场介入、到备件更换各承诺多少小时,备件池在哪个城市。六是数据处置,退租时硬盘是消磁、覆写还是物理销毁,能否出具凭证。七是网络与管理网是否分开计费,有的方案管理口占用额外IP或带宽额度。

这七条里,第一、二、五条决定日常运维效率,第四、六条决定数据安全,第三条和第七条影响成本。全部问清之后再谈价格,顺序不能反。

常见问题

Q1:裸金属是不是一定能自己装系统?
不一定。能否自己装取决于是否获得BMC的虚拟光驱与电源控制权限。只给操作系统登录的方案装不了,必须先确认权限档位再签约。

Q2:IPMI 和 Redfish 用哪个?
两者都是带外管理接口,Redfish 基于 HTTPS 与 JSON,脚本化更友好,新机型普遍支持;IPMI 兼容性更广但安全性较弱。实际使用以供应商提供哪个为准,能走 Redfish 优先。

Q3:管理口暴露在公网有风险吗?
有明显风险。BMC 拥有关机、重装、KVM 等能力,一旦被入侵等同于物理接触。应要求走独立管理网或VPN,并强制修改初始口令。

Q4:只做推理,需要这么高的权限吗?
多数情况不需要。推理负载版本稳定、部署一次长期运行,BMC只读加系统登录基本够用。需要频繁试驱动的训练与适配场景才值得争全权。

数据来源与时效

B300 288G 八卡整机配置与价格取自极智算官网 GPU 裸金属页面,采集日期 2026年10月26日,配置为系统盘 1920GB 两块、数据盘 3.84TB 八块、IB 800G 十条。成本算例为估算口径,不含存储、网络与人力。各平台权限档位与响应时限以实际合同约定为准。

按机型核对配置与在架余量

查看算力市场

标签

算力租赁平台 GPU裸金属 BMC带外管理 系统重装 运维权限