材料混用
不同受众、服务、政策、课程或产品版本可能被混在一起,而它们本来应该分开。
问题
上传文档并不会自动形成可控回答系统。如果系统把每个用户问题都当作可回答,它可能混用无关来源,从薄弱证据中过度推断,或在专家期待窄范围回答时使用宽泛模型知识。
不同受众、服务、政策、课程或产品版本可能被混在一起,而它们本来应该分开。
当选定来源没有足够支持时,Assistant 仍可能给出自信回答。
模型可能把对话推进到专家通常会拒答、限定或转交的话题、建议或承诺。
控制层
选择哪些文档属于这个 Assistant,以及它们支持哪个受众、服务或使用场景。
判断用户是在问事实、解释、方法、点评、比较,还是不支持的建议。
决定回答应该简短、教学式、分析式、澄清、拒答,还是转交给人。
检查拟生成回答是否符合选定来源、问题深度、知识范围和边界规则。
实践规则
SonaMinds 概念
SonaMinds 用一组相互连接的概念来描述受控回答。它们把“回答可控”从模糊承诺变成具体设计问题。
当来源集合、受众、回答规则和升级边界清楚时,可控知识库才更适合扩大使用。