AI助手›服务器性能
服务器性能
2026-11-05 · GPU 与风扇实时监控
GPU：读取中…
模型：qwen2.5-7b
推理速度：--
检测中…
最后更新：--
推理速度
--tok/s
正在读取 GPU 时钟…
推理服务器实时状态
模型状态检测中…
驱动：--
检测中
正在读取 nvidia-smi …
① GPU 核心温度Core Temp
--℃
阈值读取中…
② HBM 显存温度Memory Temp
--℃
阈值读取中…
③ SM 核心频率Clock
--MHz
读取中…
④ GPU 功耗Power Draw
--W
上限读取中…
⑤ 显存占用VRAM Used
--GB
读取中…
⑥ GPU 利用率Utilization
--%
推理是脉冲式波动；满载本身不是问题，满载时掉频才要查
⑦ 性能状态标记Throttle
--
读取位掩码…
⑧ 距降频余量Headroom
--℃
核心温度距离热降频阈值还剩几度
近期趋势
服务端每轮刷新采样一点（所有人共享），最多保留 120 点；关掉页面后历史仍会累积一会儿
机箱风扇 · 转速与档位
V100 是被动散热，靠机箱风扇吹；转速来自 OMSA，档位经 iDRAC 设置（转速每 15 秒缓存一次）
当前档位：--
MinimumFanSpeed：--
GPU 风扇读数：--
档位说明：255 = 出厂默认（iDRAC 按自身温控曲线调速，噪音最低）；0~100 = 强制最低转速百分比，
100 即全速。全速很吵，建议只在排查高温 / 降频时临时使用，验证完点「恢复出厂默认」。
每次调节都会写入审计日志（E:\ai_deploy\fan_audit.log），含操作时间与来源 IP。
判定口径阈值可在根 web.config 的 appSettings 调整
| 指标 | 预警 | 降频 / 严重 | 说明 |
|---|
| GPU 核心温度 | > 80℃ |
≥ 83℃ 降频 / > 85℃ 严重 |
本机实测在 83℃ 触发 SW Thermal Slowdown，时钟被压到最低档；同一张卡 1380MHz 时 76 tok/s，被压到 255MHz 后只剩 21 tok/s |
| HBM 显存温度 | ≥ 80℃ | ≥ 85℃ |
显存常常先于核心过热：核心 78℃ 时显存可能已到 85℃ 并触发降频 |
| SM 核心频率 | < 标称 90% | < 标称 55% |
标称 1380 MHz。空闲时（利用率≤5% 且功耗<35% 上限）时钟低属正常省电，不判降频，否则页面在没人用时一直飘红 |
| 功耗 | ≥ 上限 90%
或「报了功耗制动但不到 50%」 | ≥ 上限 98% |
达上限是满载时的正常保护；远没到上限却报功耗制动，才是供电异常（查 8-pin 是否插紧、是否用转接头、是否共用电轨） |
| 显存占用 | ≥ 85% | ≥ 95% |
qwen2.5-7b 常驻时的显存占用见上方 ⑤ 卡片；未常驻时每次提问都要冷加载十几秒 |
| GPU 利用率 | — | — |
推理就是脉冲式波动，满载 90%+ 是正常状态、不参与告警；只有「满载 + 时钟掉下来」才说明被压制 |
| 性能状态标记 | Slowdown Active | Thermal / Power |
来自 nvidia-smi 的 clocks_throttle_reasons.active 位掩码；本页会区分是「热墙」还是「功耗墙」，两者处理办法完全不同 |
| ⑧ 距降频余量 | ≤ 3℃ | ≤ 0℃（已到阈值） |
核心温度距降频阈值还剩几度。余量只有 1~2℃ 时，哪怕当前全绿，一场批量推理就会把速度打掉，属「看着正常但不耐跑」 |