自动化与AI助手 · 工具介绍
LangKit
LangKit 是用于语言模型监测的文本指标工具包,可提取输入与输出文本的质量、相关性、情绪及风险信号,并结合 whylogs 生成可分析的指标记录。
LangKit 能做什么
LangKit 是用于语言模型监测的文本指标工具包,可提取输入与输出文本的质量、相关性、情绪及风险信号,并结合 whylogs 生成可分析的指标记录。
- 语言模型与智能体质量评估及回归检查
如何使用 LangKit
为提示词与回答样本生成文本质量指标
准备输入
- 允许分析的提示词与模型回答样本。
- 已安装 LangKit 和相关依赖的 Python 环境。
操作步骤
- 安装所需 LangKit 模块,准备包含 prompt 和 response 字段的文本样本。
- 导入 llm_metrics,以初始化的 schema 调用 why.log 计算指标。
- 检查指标记录,结合具体文本定位需要人工复核的回答或输入,再记录改进方向。
预期交付物
- 提示词与回答的指标记录及人工复核清单。
相似度、模式匹配和一致性指标只是检查信号,不能单独证明回答正确或请求安全;应结合文本内容及具体应用规则解释结果。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。
从自动化与AI助手角度评估LangKit
把自动化与AI助手需要的条件列清楚,再比较工具。阅读本页的产品用途、步骤与限制,再逐项确认下面的问题;这些是选型方法,不表示每款工具都具备同样能力。
触发是否明确
写清事件来源、必要字段和重复事件的识别方式。
权限是否够用
只连接完成任务所需的账户与范围;真实操作由有权人员确认。
失败是否可见
保留结果状态和接手人,不能把重试次数当成完成次数。
选择一个小样任务,先检查结果与交付格式,再决定是否用于更多资料。