56 lines
2.4 KiB
TypeScript
56 lines
2.4 KiB
TypeScript
/**
|
|
* 把模型流式文本里的 `<think>...</think>` 块拆出来,作为「思考过程」单独展示。
|
|
*
|
|
* 兼容三种形态:
|
|
* 1) **完整** `<think>foo</think>bar` —— 提取 `foo` 作 reasoning,正文为 `bar`
|
|
* 2) **多段** `<think>a</think>x<think>b</think>y` —— reasoning 合并为 `a\n\nb`,正文为 `xy`
|
|
* 3) **流式未闭合** `bar<think>partial...` —— reasoning 为 `partial...`(尾段),正文为 `bar`
|
|
*
|
|
* 实现思路与主聊天 `src/core/messages/utils.ts::splitInlineReasoning` 对齐,但
|
|
* 这里**额外处理了未闭合的 `<think>`** —— 流式渲染时如果模型还没吐出 `</think>`,
|
|
* 主聊天那份实现会把 `<think>` 字面量留在正文里,我们用 lastIndexOf 兜底,把尾段
|
|
* 也算作 reasoning。
|
|
*
|
|
* Inline `<think>foo` 在文本中间出现(无尾闭合)被认为是流式未闭合的开头:
|
|
* 假设之后会闭合,把它之后所有内容算 reasoning。这与 DeepSeek-R1 / QwQ 等
|
|
* 推理模型的流式输出行为一致。
|
|
*/
|
|
|
|
const THINK_TAG_RE = /<think>\s*([\s\S]*?)\s*<\/think>/g;
|
|
const OPEN_TAG = "<think>";
|
|
|
|
export interface SplitReasoningResult {
|
|
/** 正文(去掉所有 `<think>...</think>` 块以及尾段未闭合 `<think>` 之后内容)。 */
|
|
content: string;
|
|
/** 合并后的 reasoning;若没有任何 `<think>` 标记则为 `null`。 */
|
|
reasoning: string | null;
|
|
}
|
|
|
|
export function splitInlineReasoning(text: string): SplitReasoningResult {
|
|
if (!text) return { content: "", reasoning: null };
|
|
|
|
const reasoningParts: string[] = [];
|
|
// 先处理所有完整 `<think>...</think>` 闭合块。
|
|
const closed = text.replace(THINK_TAG_RE, (_, reasoning: string) => {
|
|
const normalized = reasoning.trim();
|
|
if (normalized) reasoningParts.push(normalized);
|
|
return "";
|
|
});
|
|
|
|
// 处理尾段未闭合 `<think>` —— 流式情况。
|
|
// 如果 closed 里还残留 `<think>` 字面量,说明这一段还没收到 `</think>`,
|
|
// 把它之后的所有内容视为 reasoning-in-progress,正文截到 `<think>` 之前。
|
|
let finalContent = closed;
|
|
const openIdx = closed.lastIndexOf(OPEN_TAG);
|
|
if (openIdx >= 0) {
|
|
const tail = closed.slice(openIdx + OPEN_TAG.length).trim();
|
|
if (tail) reasoningParts.push(tail);
|
|
finalContent = closed.slice(0, openIdx);
|
|
}
|
|
|
|
return {
|
|
content: finalContent.trim(),
|
|
reasoning: reasoningParts.length > 0 ? reasoningParts.join("\n\n").trim() : null,
|
|
};
|
|
}
|