Calibrate Query Mapper

基于参考文本校准问答对中的查询（问题），使问题更加详细、准确，并贴合参考文本的语言风格。

本SKILL使用依赖data_juicer，请在调用前安装好python环境并安装data_juicer，你可用同以下指令进行安装：

pip install py-data-juicer

核心参数

参数	类型	必填	默认值	说明
input_path	string	是	-	输入JSON文件路径
output_path	string	是	-	输出JSON文件路径
api_model	string	是	-	LLM模型名称，如 'qwen2.5-72b-instruct'
api_endpoint	string	否	-	API端点URL
response_path	string	否	choices.0.message.content	响应内容路径

使用方法

python scripts/run_calibrate_query_mapper.py --input_path <input_path> --output_path <output_path> --api_model <model_name> [--api_endpoint <endpoint>] [--response_path <path>]

实现原理

参照测试代码 test_calibrate_query_mapper.py 中的 _run_op 函数：

# 1. 初始化算子（必须指定api_model）
op = CalibrateQueryMapper(api_model='qwen2.5-72b-instruct')

# 2. 将数据转为Dataset，使用 op.run(dataset) 处理
dataset = Dataset.from_list(samples)
result_dataset = op.run(dataset)

输入输出格式

输入格式 (JSON数组)

[
  {
    "text": "参考文本，包含语言风格示例...",
    "query": "原始问题",
    "response": "原始回答"
  }
]

输出格式 (JSON数组)

[
  {
    "text": "参考文本，包含语言风格示例...",
    "query": "校准后的问题",
    "response": "原始回答"
  }
]

注意：此算子只校准 query 字段，response 字段保持不变。

示例

python scripts/run_calibrate_query_mapper.py --input_path example_input.json --output_path output.json --api_model "qwen2.5-72b-instruct"

注意事项

• 必须设置环境变量：使用前需设置 API key

  export OPENAI_API_KEY=your_api_key
  # 或
  export DASHSCOPE_API_KEY=your_api_key
  

• api_model 参数必须指定
• 输入数据需要包含 text（参考）、query（问题）、response（回答）三个字段
• 该算子只校准问题（query），回答（response）保持不变
• 该算子调用 LLM API，可能需要较长时间