快速上手：使用ComfyUI可视化工作流调用BERT文本分割模型

快速上手使用ComfyUI可视化工作流调用BERT文本分割模型你是不是对文本处理模型感兴趣但又觉得写代码太麻烦或者你想快速实验一下BERT模型看看它能把一段文字切成什么样今天我们就来聊聊一个特别适合“动手党”和“视觉派”的方法——用ComfyUI来玩转BERT文本分割模型。ComfyUI你可能听说过它通常被用来搞图像生成但其实它这个基于节点的工作流思路用来处理文本任务也特别直观。你不用再面对一堆命令行参数或者复杂的脚本只需要像搭积木一样把不同的功能节点连起来就能构建一个完整的文本处理流水线。这篇文章我就带你从零开始在ComfyUI里搭建一个调用BERT模型进行文本分割的可视化工作流整个过程清晰明了就算你之前没怎么接触过代码也能轻松跟上。1. 准备工作与环境搭建在开始“搭积木”之前我们得先把“工地”准备好。这里说的就是安装ComfyUI和准备好我们需要的模型。1.1 安装ComfyUIComfyUI的安装方式非常灵活你可以根据自己的习惯来选择。最常见也最推荐的方式是通过Git来获取。首先打开你的终端或者叫命令行窗口找一个你喜欢的目录然后执行下面的命令。这会把ComfyUI的整个项目下载到你的电脑上。git clone https://github.com/comfyanonymous/ComfyUI.git cd ComfyUI下载完成后进入项目文件夹。接下来需要安装它运行所依赖的各种Python库。ComfyUI很贴心地准备了一个requirements.txt文件我们直接用pip安装就行。pip install -r requirements.txt如果你的网络环境不太理想安装过程可能会慢一些耐心等待即可。安装完成后基本的环境就准备好了。1.2 获取BERT文本分割模型我们的“积木”准备好了现在需要准备最核心的“零件”——模型。BERT文本分割模型简单理解就是一个经过训练的、特别擅长理解句子结构和语义的模型它能判断哪里是句子的自然边界。你需要去一些模型分享社区比如Hugging Face找到并下载一个合适的BERT分词器Tokenizer和模型文件通常是.bin或.safetensors格式。这里以Hugging Face上一个常见的bert-base-uncased模型为例但请注意专门用于句子分割的模型可能需要寻找特定的微调版本。下载后将模型文件比如pytorch_model.bin和对应的配置文件config.json以及分词器文件vocab.txt等放在一个统一的文件夹里。为了方便ComfyUI管理我建议你在ComfyUI根目录下创建一个专门的模型文件夹比如models/bert_segmentation/然后把所有文件都放进去。这样结构清晰后面加载的时候不容易出错。2. 认识ComfyUI界面与核心概念第一次打开ComfyUI你可能会觉得眼前一堆按钮和空白画布有点无从下手。别慌我们来快速认识一下几个最关键的部分。启动ComfyUI很简单在刚才的终端里进入ComfyUI目录后运行python main.py然后在浏览器里打开它提示的地址通常是http://127.0.0.1:8188就能看到界面了。工作区画布中间最大的空白区域就是你的“操作台”所有节点都会放在这里并用连线表示数据流动。节点Nodes右边有一个“Add Node”按钮点击它会弹出所有可用的节点菜单。节点就是一个个功能模块比如“加载模型”、“输入文本”、“处理数据”等。连线Connections用鼠标从一个节点的输出端口右边的小圆点拖到另一个节点的输入端口左边的小圆点就建立了数据连接。数据会沿着连线从上游流向下游。队列Queue右下角有一个“Queue Prompt”按钮。当你搭建好工作流后点击它ComfyUI就会开始执行你的流程。今天我们要用到的节点主要会涉及“加载自定义模型”、“文本输入”、“Python脚本处理”等。ComfyUI的强大之处在于它的可扩展性很多复杂功能可以通过自定义节点实现不过我们今天先从基础的内置节点开始。3. 构建BERT文本分割工作流好了基础知识已经到位现在让我们开始动手搭建。我们的目标是构建一个这样的流程输入一段长文本 - 加载BERT模型进行处理 - 输出分割后的句子列表。3.1 添加文本输入节点任何流程都需要一个起点。我们首先需要告诉ComfyUI我们要处理什么文本。在画布上右键选择Add Node-utils-String-String。这个节点就是一个简单的文本输入框。你也可以搜索“CLIP Text Encode”节点它通常用于输入提示词但我们这里只需要它最基础的文本输入功能。双击节点上的文本框输入你想要分割的段落比如“ComfyUI is a powerful node-based interface. It allows you to create complex workflows visually. This tutorial shows how to use it for text segmentation.”3.2 加载自定义BERT模型节点这是最关键的一步。ComfyUI默认可能没有直接加载BERT模型的节点但我们可以利用其“自定义节点”功能或“加载PyTorch模型”的通用节点。一种方法是使用ComfyUI-Custom-Scripts这类扩展节点包。如果你安装了这类扩展可以在节点菜单中找到类似Load HuggingFace Model的节点。如果没有我们可以用一个更通用的方法使用TorchScript节点。这需要你提前将BERT模型转换为TorchScript格式.pt或.pth文件。在节点菜单中尝试搜索Load Model或TorchScript。添加节点后在节点的model_path参数里指向你之前存放的模型文件路径例如./models/bert_segmentation/model.pt。同时别忘了加载对应的分词器Tokenizer。我们需要一个节点来处理文本将其转换成模型能理解的数字IDToken。你可以添加一个CLIP Text Encode (Prompt)节点但更准确的做法是使用自定义脚本节点来调用Hugging Face的transformers库中的BertTokenizer。3.3 连接预处理与模型推理节点现在我们需要把文本转换成模型输入格式并喂给模型。分词将String节点输出的文本连接到一个自定义的Python脚本节点实现分词功能。这个脚本节点会调用BertTokenizer将长文本切分成一个个Token并添加[CLS],[SEP]等特殊符号同时生成attention_mask。模型推理将分词节点输出的input_ids和attention_mask连接到Load Model或TorchScript节点的输入端口。将模型节点的输出连接到一个新的Python脚本节点用于后续处理。这个过程可能需要你编写一小段Python代码。在ComfyUI中你可以添加Add Node-custom-Python节点。在节点编辑框中你需要编写一个doit函数来处理输入数据。示例一个简单的分词脚本节点思路# 注意这是一个逻辑示例实际节点编写需遵循ComfyUI函数规范 from transformers import BertTokenizer import torch class SimpleBertTokenizer: def __init__(self): self.tokenizer BertTokenizer.from_pretrained(./models/bert_segmentation/) def doit(self, text): # 对文本进行编码 inputs self.tokenizer(text, return_tensorspt, truncationTrue, paddingTrue) # 返回 input_ids 和 attention_mask return inputs[input_ids], inputs[attention_mask]在实际的ComfyUI自定义节点中你需要使用torch.no_grad()等装饰器并正确注册输入输出类型。3.4 添加后处理与文本输出节点模型输出的通常是每个Token的隐藏层表示或分类标签。对于句子分割任务我们需要根据模型输出例如每个Token对应“是句子边界”的概率来还原出实际的句子列表。后处理脚本添加另一个Python脚本节点接收模型输出。在这个节点里你需要解析模型的结果。例如模型可能对每个Token预测了一个“0/1”标签其中“1”代表句子结束位置。你的脚本需要根据这些标签结合原始的Token序列找到分割点。Token还原为文本使用分词器的decode或convert_ids_to_tokens方法将对应Token ID还原成单词或子词并拼接成完整的句子。格式化输出将分割好的句子列表一个Python List整理成易于阅读的格式比如用换行符连接。文本输出节点最后将处理好的字符串连接到一个输出节点。在节点菜单中搜索String或Text找到String (output)或Preview Text这样的节点将最终的分割结果文本连接上去。4. 运行工作流与查看结果当所有节点都连接完毕你的工作流应该看起来像一条有向的数据流水线文本输入 - 分词 - 模型加载与推理 - 后处理 - 文本输出。点击右下角的Queue Prompt按钮ComfyUI就会开始执行。你可以在界面上看到执行进度。如果一切顺利在最终的文本输出节点上你应该能看到类似这样的结果ComfyUI is a powerful node-based interface. It allows you to create complex workflows visually. This tutorial shows how to use it for text segmentation.如果执行失败了别担心这很正常。ComfyUI会在界面上显示错误信息通常是红色的文字。最常见的问题包括节点连接错误检查连线是否正确输出端口类型是否匹配输入端口类型。模型路径错误确认加载模型节点中的文件路径是否正确。Python脚本错误仔细检查自定义脚本节点中的代码特别是输入输出的数据格式。依赖缺失确保你的Python环境中安装了transformers和torch库。5. 保存、分享与进阶探索成功运行一次后你肯定不想下次重头再来。ComfyUI提供了完整的工作流保存功能。点击菜单栏的Save按钮可以将当前画布上所有节点和连接关系保存为一个.json文件。下次使用时点击Load按钮加载这个文件所有节点和设置都会恢复原样。这个功能非常适合分享你的创作你可以把搭建好的BERT文本分割工作流文件发给朋友他们一键就能加载使用。今天这个工作流只是一个起点。基于这个框架你可以进行很多有趣的扩展尝试不同模型把bert-base-uncased换成bert-large或者其他多语言BERT模型看看分割效果有什么变化。增加预处理在分词前添加节点来自动清理文本去除多余空格、特殊字符等。优化后处理改进句子边界判断逻辑处理缩写如“Mr.”或小数点造成的误分割。批量处理修改输入节点使其能接受一个文本文件列表并循环处理实现批量文本分割。整体走下来你会发现用ComfyUI来调用BERT模型就像是在画一张清晰的数据处理地图。它把抽象的代码逻辑变成了看得见、摸得着的节点和连线对于理解和实验模型流程非常有帮助。虽然初期搭建可能需要一点耐心来调试节点和脚本但一旦跑通后续的修改和实验就会变得非常直观和高效。如果你对可视化编程和快速原型开发感兴趣ComfyUI绝对是一个值得深入折腾的工具。不妨就从今天这个文本分割工作流开始试试把它改造成你自己需要的模样吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。