| 1 | #include "common.cuh" |
|---|---|
| 2 | |
| 3 | #define CUDA_ROPE_BLOCK_SIZE 256 |
| 4 | |
| 5 | void ggml_cuda_op_rope(ggml_backend_cuda_context & ctx, ggml_tensor * dst); |
| 6 | |
| 7 | void ggml_cuda_op_rope_back(ggml_backend_cuda_context & ctx, ggml_tensor * dst); |
| 8 |
| 1 | #include "common.cuh" |
|---|---|
| 2 | |
| 3 | #define CUDA_ROPE_BLOCK_SIZE 256 |
| 4 | |
| 5 | void ggml_cuda_op_rope(ggml_backend_cuda_context & ctx, ggml_tensor * dst); |
| 6 | |
| 7 | void ggml_cuda_op_rope_back(ggml_backend_cuda_context & ctx, ggml_tensor * dst); |
| 8 |