Feat (nn/sdpa): quantization of scaled dot-product attention #1907
Job | Run time |
---|---|
2m 18s | |
1m 56s | |
1m 51s | |
2m 33s | |
1m 51s | |
1m 31s | |
2m 23s | |
2m 8s | |
1m 48s | |
2m 28s | |
2m 19s | |
2m 10s | |
2m 51s | |
2m 21s | |
2m 14s | |
2m 26s | |
2m 4s | |
1m 45s | |
2m 48s | |
2m 12s | |
1m 35s | |
2m 21s | |
1m 47s | |
1m 35s | |
2m 21s | |
2m 8s | |
1m 15s | |
2m 33s | |
1m 55s | |
1m 43s | |
3m 19s | |
2m 17s | |
1m 39s | |
2m 40s | |
1m 59s | |
1m 27s | |
2m 48s | |
2m 4s | |
1m 35s | |
2m 44s | |
2m 7s | |
1m 43s | |
1h 29m 32s |