
不用买API tokens,不用连外网,你本地电脑就能跑完全私有的文本摘要工具。
先把本地运行环境搭好
- 先去Ollama官网下载对应操作系统的安装包,Windows、macOS、Linux均支持,双击安装完成后不需要手动改配置,服务会在后台自动运行
- 打开终端拉取轻量级大模型,设备性能一般就选qwen2:0.5b,性能够可以选qwen2:1.5b,命令直接复制执行:
ollama pull qwen2:0.5b - 安装需要的Python依赖,只有两个轻量库,不需要额外装深度学习框架:
pip install ollama pyperclip
可直接复制的核心代码
把下面的代码存成summary.py就行,逻辑很简单,自动读剪贴板的长文本,调用本地模型生成摘要后再写回剪贴板,不用手动复制粘贴内容:
import ollama
import pyperclip
# 读取剪贴板内的长文本
long_text = pyperclip.paste()
response = ollama.chat(
model="qwen2:0.5b",
messages=[
{
"role": "user",
"content": f"帮我把下面这段文本提炼成300字以内的核心摘要,不要加多余解释,直接输出摘要内容:\n{long_text}"
}
]
)
summary = response["message"]["content"]
# 摘要写回剪贴板
pyperclip.copy(summary)
print("摘要已生成并复制到剪贴板:\n", summary)
实际使用的几个小提醒
- 第一次运行脚本时模型加载需要一点时间,具体速度看设备性能,不要急着关终端
- 如果运行报连接错误,先检查Ollama后台服务有没有正常启动,Windows看任务栏图标,macOS看顶部状态栏图标就行
- 想要调整摘要格式,比如要分点输出、要提炼行动项、要控制摘要长度,直接改代码里prompt的文字描述就可以,不需要改其他逻辑
- 觉得小参数模型效果不够的话,直接拉取更大参数的模型替换就行,代码里只要改model参数对应的模型名,其他都不用动
说白了这套逻辑没有什么复杂架构,就是给本地跑的大模型套了层极简交互壳,所有文本处理都在本地完成,不会泄露内容,也不用受网络限制。
平时看长文档、读技术文章遇到大段文字的时候,复制完跑个脚本就能拿到核心要点,比切网页找在线工具省事不少。
评论一下?