
上周帮学编程的学弟搭本地AI写代码助手,装完Ollama后端之后,他对着一堆前端界面选项犯了难——到底装哪个才不折腾?
先把后端基础准备好
不管最后选哪个前端,第一步都得先把模型后端跑通,我一般默认用Ollama做后端,配置起来几乎零门槛:
# 一键安装Ollama
curl -fsSL https://ollama.com/install.sh | sh
# 拉取常用的7B参数通义千问模型
ollama pull qwen2.5:7b
装完之后先在终端测一下,访问http://localhost:11434能拿到返回值就说明后端正常,记得别让其他服务占了这个默认端口。
不同方案的配置方式与适配场景
第一个是Open WebUI(之前叫Ollama WebUI),最省事的部署方式是用Docker:
docker run -d -p 3000:3000 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
跑起来之后访问本地3000端口就能进界面,这个方案功能最完整,自带RAG文档上传、多用户管理、对话历史永久存储,还能接其他第三方模型接口;缺点是必须依赖Docker环境,第一次拉镜像要等一会,存储占用大概是大几百兆量级,功能堆得比较多,要是只是临时用会显得有点重,适合长期固定使用、需要搭建共享AI服务、有文档问答需求的场景。
第二个是Page Assist浏览器扩展,完全不需要部署本地服务,直接在Chrome/Edge的扩展商店搜名字装上,打开后在设置里把Ollama的本地地址填对,选好已经拉取的模型就能直接用。这个方案的优势是零部署成本,装完在浏览器工具栏点一下就能唤出,还支持划词调用分析网页内容,占资源极少;缺点是功能比较精简,RAG只支持小文件上传,对话历史存在本地浏览器缓存里,清缓存就容易丢,也不支持多设备同步,适合不想折腾服务、平时主要在浏览器场景下查资料、临时调用模型的用户。
第三个是aichat命令行工具,用cargo就能直接装:
# 需要提前装好Rust环境
cargo install aichat
# 直接调用本地Ollama模型启动对话
aichat --model qwen2.5:7b
这个工具完全运行在终端里,和命令行工作流适配度最高,启动速度飞快,资源占用可以忽略,写代码的时候切个窗口就能问问题;缺点是没有富文本交互,不支持图片识别、大文件上传,对话历史存在本地纯文本文件里,检索起来不太方便,适合平时习惯在终端下工作、用Vim类编辑器写代码、不需要富交互的开发者。
选型没有标准答案
别一上来就冲着功能最多的方案装,很多人装完功能最全的Open WebUI,最后一周也开不了两次,平白占着后台资源。
选的时候完全可以对着自己的使用习惯挑:
- 如果平时本来就开着Docker做其他开发,直接装Open WebUI最省心,反正环境已经准备好了
- 如果很少碰命令行,也不想装额外的运行环境,优先选浏览器插件,点几下鼠标就能用
- 如果大半工作时间都泡在终端里,命令行工具的效率要比图形界面高得多
反正我自己电脑上三个方案都留着,不同场景切着用,工具终究是给人省事的,为了选个“最优解”查一下午教程,反而违背了用AI提效的初衷。
评论一下?