llama_sampler_init_typical method

Pointer<llama_sampler> llama_sampler_init_typical(
  1. double p,
  2. int min_keep
)

@details Locally Typical Sampling implementation described in the paper https://arxiv.org/abs/2202.00666.

Implementation

ffi.Pointer<llama_sampler> llama_sampler_init_typical(
  double p,
  int min_keep,
) {
  return _llama_sampler_init_typical(
    p,
    min_keep,
  );
}