Clean Links Mapper

清理文本中的HTTP、HTTPS、FTP链接。

本SKILL使用依赖data_juicer，请在调用前安装好python环境并安装data_juicer，你可用同以下指令进行安装：

pip install py-data-juicer

核心参数

参数	类型	必填	默认值	说明
input_path	string	是	-	输入JSON文件路径
output_path	string	是	-	输出JSON文件路径
repl	string	否	空字符串	替换字符串（默认为删除）

使用方法

python scripts/run_clean_links_mapper.py --input_path <input_path> --output_path <output_path> [--repl <replacement>]

实现原理

参照测试代码 test_clean_links_mapper.py 中的 _run_clean_links 函数：

# 1. 初始化算子
op = CleanLinksMapper()  # 删除链接
# 或
op = CleanLinksMapper(repl='<LINKS>')  # 替换为指定字符串

# 2. 将数据转为Dataset，使用 op.run(dataset) 处理
dataset = Dataset.from_list(samples)
result_dataset = op.run(dataset)

输入输出格式

输入格式 (JSON数组)

[
  {"text": "访问 https://www.example.com 了解更多信息"},
  {"text": "FTP服务器：ftp://ftp.example.com"}
]

输出格式 (JSON数组)

[
  {"text": "访问  了解更多信息"},
  {"text": "FTP服务器："}
]

示例

示例1：删除链接（默认）

python scripts/run_clean_links_mapper.py --input_path example_input.json --output_path output.json

示例2：替换为占位符

python scripts/run_clean_links_mapper.py --input_path example_input.json --output_path output.json --repl "<LINKS>"

注意事项

• 默认行为是删除链接
• 可以指定 repl 参数来替换为其他字符串
• 支持HTTP、HTTPS、FTP协议的链接
• 不区分大小写（HTTP、Http、HTTP都会被识别）