用本地 AI 自动生成文章简介和标签:LM Studio 实践

记录如何用 LM Studio 配合本地大模型,自动补全博客文章的简介、标签和关键词,并按显卡配置选择合适模型。

加载中...

在编写文章的过程中,我常常会遇到怎么写简介可以让人一眼看出你想讲什么,以及给文章打上什么标签和分类,这些繁琐的工作常常消耗了我大量的精力(特别是文章多的时候),那么为了专注于文章内容本身,我们可以借助ai来帮助我们在发布之前就进行补全,在开始先介绍一下我的电脑配置,有助于如何选择合适的大模型,如下图alt text主要看显卡显存和内存大小,8G显存这一级别下,最优解应该是qwen3.6 35b a3b模型,专家架构可以显著提高输出速度,减少性能需求,选择了大模型后,接下来就是选择管理大模型的工具了,最主流的应该是LM studioollama,在这里我推荐LM studio,因为它有图形化界面,配置方便,下面是针对本机的参数调整界面alt text实测处理单篇博文可以达到30token/s,接下来遇到的难题是怎么连到原有的部署流程,这涉及到程序之间端口的通讯,恰好LM studio有方便的本地端口1234,具体实现可以用ai写

评论

欢迎补充、提问或纠错;评论会通过 GitHub Discussions 保存。

全部讨论

评论区会在靠近这里时自动加载,也可以手动打开。

  • 加载后会连接 GitHub 与 Giscus。
  • 评论内容、GitHub 昵称和头像会公开显示。
  • 登录 GitHub 后即可评论,未登录也可以阅读。