diff --git a/modules/zluda.py b/modules/zluda.py index 37e946825..795ea1f3e 100644 --- a/modules/zluda.py +++ b/modules/zluda.py @@ -12,3 +12,4 @@ def initialize_zluda(): torch.backends.cuda.enable_flash_sdp(False) torch.backends.cuda.enable_math_sdp(True) torch.backends.cuda.enable_mem_efficient_sdp(False) + shared.opts.sdp_options = ['Math attention']