总是提示显存不足(whole all Unable to allocate)
显存满了,使用小点的模型,比如使用 medium
small
而不是 large-v3
,large-v3
最低要求显存是8G,但不代表8G显卡就一定能顺畅运行,其他软件也会同时占用显存,而且视频越大所需显存也会越多,当提示这个错误时,请尝试:
- 使用小点的模型,比如
small/medium/base
- 如果仍然想使用大模型,选择使用“预先分割”或“均等分割”
- 修改 菜单栏--工具/选项--高级选项
CUDA数据类型=float32改为 int8,如果报错,再改为int16,
beam_size=5 将5改为 1
best_of=5 将 5 改为1
上下文 将 true改为false