快科技 10 月 8 日消息,近日一位 Reddit 网友发帖分享了一个颇为另类的显存优化技巧,他将显示器视频线从 RTX 4090 的 HDMI/DisplayPort 接口改接到主板上的核显输出接口。
据称可以释放约 2.5GB 显存,让他在运行 Qwen3.8-27B 大模型时将上下文窗口直接翻倍至 132K。

众所周知,RTX 4090 拥有 24GB 显存,运行 Qwen3.8-27B 这类中等规模的大语言模型尚可胜任,但实际表现还要取决于所用量化等级,同时用户也需要对上下文窗口等参数进行调整优化,才能确保显存占用不超出限制。
据该网友描述,此前显示器连接在 RTX 4090 上时,受显存容量所限,其上下文窗口最大只能设置到 65K。
但由于他的桌面处理器带有核显,他便将 HDMI 线从显卡拔下改插到主板视频输出接口上,结果不仅将上下文窗口一口气提升到了 132K,token 生成速度也达到了 125。
不过这一操作也并非没有代价。该网友表示,唯一的麻烦在于玩游戏或运行其他图形密集型负载时,他必须把 HDMI 线从主板接口重新插回 RTX 4090。
对此有网友指出,核显启用后会占用 PCIe 通道,具体影响程度取决于 CPU 和主板,可能对性能造成明显冲击,也可能毫无影响。
还有用户表示,即便是三台外接显示器连接同一块显卡,待机状态的显存占用也仅有 0.9GB,播放 4K YouTube 视频时显存占用最多也只会上升到 2.5GB。
也有网友尝试此方法后表示,他使用的单张配备 32GB 显存的 Radeon AI PRO R9700 在运行 Qwen3.7-27B 搭配 128K 上下文窗口时同样捉襟见肘,而将显示输出切换到核显后,显存释放了约 1GB。
需要注意的是,该网友并未提供任何视频演示来佐证这一说法,而且台式机 CPU 必须带有核显才能尝试这一方法,至于该技巧的实际效果是否如原帖所述那般显著,还有待更多实测验证。



登录后才可以发布评论哦
打开小程序可以发布评论哦