Offline Slow Performance

[Retrobricker]

8GB RAM
2060 Super
i7-11700k
Win10
I just ran python inference_offline.py and it was abysmally slow, a whole hour I think it took.

25%|████████████████████▊
29%|███████████████████████▋
32%|██████████████████████████▎ | 9/28 [09:55<42:04, 132.
36%|████████████████████████████▉ | 10/28 [12:05<39:34, 131.
39%|███████████████████████████████▊ | 11/28 [12:55<30:16, 106.
43%|███████████████████████████████████▏ | 12/28 [14:10<25:55, 97.
46%|██████████████████████████████████████ | 13/28 [15:11<21:29, 85.
50%|█████████████████████████████████████████ | 14/28 [16:16<18:38, 79.
54%|███████████████████████████████████████████▉ | 15/28 [17:00<14:58, 69.
57%|██████████████████████████████████████████████▊ | 16/28 [17:38<11:56, 59.
61%|█████████████████████████████████████████████████▊ | 17/28 [18:17<09:45, 53.
64%|████████████████████████████████████████████████████▋ | 18/28 [18:58<08:16, 49.
68%|███████████████████████████████████████████████████████▋ | 19/28 [19:39<07:02, 46.
71%|██████████████████████████████████████████████████████████▌ | 20/28 [20:20<06:02, 45.
75%|█████████████████████████████████████████████████████████████▌ | 21/28 [21:16<05:40, 48.
79%|████████████████████████████████████████████████████████████████▍ | 22/28 [22:01<04:45, 47. 82%|██████████████████████████████████████████████████████████████████▌ | 23/28 [35:29<22:58, 275. 86%|█████████████████████████████████████████████████████████████████████▍ | 24/28 [36:48<14:26,216.
89%|████████████████████████████████████████████████████████████████████████▎ | 25/28 [55:44<24:37, 492. 93%|█████████████████████████████████████████████████████████████████████████| 26/28 [1:28:11<30:57, 928. 96%|████████████████████████████████████████████████████████████████████████████ |27/28[1:43:25<15:24,924.
100%|███████████████████████████████████████████████████████████████████████████████| 28/28 [1:43:56<00:00, 656.100%|███████████████████████████████████████████████████████████████████████████████| 28/28 [1:43:56<00:00, 222.73s/it]

[Retrobricker]

The live version also doesn't work it says Wait... indefinitely and sometimes just throws a CUDA runtime error

File "C:\Users\Shujath\miniconda3\envs\personalive\lib\site-packages\torch\nn\modules\module.py", line 1527, in _call_impl return forward_call(*args, **kwargs)
File "C:\Users\Shujath\PersonaLive\src\liveportrait\util.py", line 339, in forward Gx = torch.norm(x, p=2, dim=(1, 2), keepdim=True) File "C:\Users\Shujath\miniconda3\envs\personalive\lib\site-packages\torch\functional.py", line 1611, in norm return torch.linalg.vector_norm(input, _p, _dim, keepdim, dtype=dtype)
RuntimeError: CUDA error: invalid argument CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

it ALWAYS gives breaks the same way at this Gx = torch.norm part