优化:AI 对话上下文轮数从 10 降至 4,减少 token 输入量
This commit is contained in:
@@ -26,8 +26,10 @@ class AiChatService
|
|||||||
{
|
{
|
||||||
/**
|
/**
|
||||||
* 每个用户保留的最大对话轮数
|
* 每个用户保留的最大对话轮数
|
||||||
|
*
|
||||||
|
* 设置较小值可减少 token 输入量,加快本地 Ollama CPU 推理速度。
|
||||||
*/
|
*/
|
||||||
private const MAX_CONTEXT_ROUNDS = 10;
|
private const MAX_CONTEXT_ROUNDS = 4;
|
||||||
|
|
||||||
/**
|
/**
|
||||||
* AI 请求超时时间(秒)
|
* AI 请求超时时间(秒)
|
||||||
|
|||||||
Reference in New Issue
Block a user