llama_kv_cache_can_shift method

bool llama_kv_cache_can_shift(
  1. Pointer<llama_context> ctx
)

General Library Documentation Undocument By General Corporation & Global Corporation & General Developer

Implementation

bool llama_kv_cache_can_shift(
  ffi.Pointer<llama_context> ctx,
) {
  return _llama_kv_cache_can_shift(
    ctx,
  );
}