addQueryChunk method

Future<void> addQueryChunk(
  1. Message message
)

Implementation

Future<void> addQueryChunk(Message message) async {
  final messageTokens = await session.sizeInTokens(message.text);
  _currentTokens += messageTokens;

  // Для изображений добавляем примерно 257 токенов (как в MediaPipe примере)
  if (message.hasImage) {
    _currentTokens += 257;
  }

  if (_currentTokens >= (maxTokens - tokenBuffer)) {
    await _recreateSessionWithReducedChunks();
  }

  await session.addQueryChunk(message);

  _fullHistory.add(message);
  _modelHistory.add(message);
}