
终端敲下ollama -v能看到版本号的话,你离搭好这个小工具只剩复制粘贴的距离。
前置依赖准备
- 电脑上先装好Ollama,官网直接下载对应系统的安装包即可,装完不用额外改配置,默认服务端口就是11434
- Python版本3.8以上就够用,不用特意搭虚拟环境,全局环境装一个依赖包就能跑
- 提前拉取轻量开源模型,命令直接抄:
这个模型体积不大,普通轻薄本跑着也没明显压力,实际内存占用看设备配置,反正不会在后台偷偷占资源ollama pull qwen2:0.5b
核心代码直接复制
不用整复杂的Web框架,就写个命令行版本,十几行代码足够日常查指令用。首先装依赖:
pip install ollama
argparse是Python自带的标准库,不用额外安装,新建个叫main.py的文件,把下面的代码原封不动粘进去:
import ollama
import argparse
parser = argparse.ArgumentParser(description='本地物联网指令速查工具')
parser.add_argument('query', type=str, help='你要查询的设备操作问题')
args = parser.parse_args()
# 限定模型回答范围,避免输出无关内容
prompt = f"""
你是物联网设备指令速查助手,只回答和物联网设备配置、串口操作、AT指令、网络配置相关的实操内容,
回答直接给可用的指令、操作步骤,不要冗余客套话,用户的问题是:{args.query}
"""
response = ollama.chat(model='qwen2:0.5b', messages=[
{'role': 'user', 'content': prompt}
])
print(response['message']['content'])
日常使用小提示
- 查指令直接在终端输入对应命令就行,格式很简单:
敲完稍等片刻就出结果,全程不用联网,也不消耗任何云服务额度python main.py "ESP32连接WiFi的AT指令是什么" - 觉得0.5b模型回答精度不够的话,直接换7b版本就行,把代码里的模型名改成qwen2:7b,先pull完模型就能用,就是加载速度慢点,具体流畅度看你设备配置
- 常用查询可以配个终端别名或者快捷方式,不用每次切到脚本目录敲命令,比如Windows下建个bat脚本绑定路径,敲个短命令就能唤起工具
别随便往提示词里加无关设定,不然模型很容易扯远,就严格限定它只回答物联网指令相关内容,出来的结果基本都能直接用。要是遇到指令和你的设备不匹配,先核对下自己的设备固件版本,大模型偶尔也会记混不同固件的指令差异。
对了,要是想加个图形界面,套个Gradio也就多写几行代码,闲了可以自己改着玩。
评论一下?