llama_sample_token_greedy method

int llama_sample_token_greedy(
  1. Pointer<llama_context> ctx,
  2. Pointer<llama_token_data_array> candidates
)

@details Selects the token with the highest probability. Does not compute the token probabilities. Use llama_sample_softmax() instead.

Implementation

int llama_sample_token_greedy(
  ffi.Pointer<llama_context> ctx,
  ffi.Pointer<llama_token_data_array> candidates,
) {
  return _llama_sample_token_greedy(
    ctx,
    candidates,
  );
}