写这个插件的原因,是可恶的微软只给Office365加了AI功能,但我是非订阅用户,只能自己写个VSTO ADD-IN加上去了。
本来算是自用的软件,但突然各大国产大模型平台都宣布API降价,同时QWEN/GEMMA等开源模型也足够应付日常敏感环境使用,感觉会有读者朋友有需要,因此也分享出来。
*本软件为自制软件,不含商业推广。
**承诺正规途径下载的本软件不包含任何恶意代码,也不会收集隐私,但如不认可,请不要安装。
已经直接弄好了脚本,不需要常规意义上的下载安装包安装。
Windows11用户请在【开始】菜单上右键(或者按下Win键 + X键),选择【终端管理员】/【Windows Powershell(Admin)】
Windows10用户如果无法看到上述选项,可能与系统不是最新版有关,请在任务栏的搜索框或按下Win键 + S键,输入 Powershell
以管理员身份运行即可。
复制以下命令,粘贴到窗口中,按下回车执行:
iex(irm 'https://www.lslby.com/wordollama/WordOllamaInstaller.ps1')
执行后请仔细阅读说明文本,如接受隐私说明的,请输入 Y 并按下回车开始正式安装流程。
隐私说明:
本脚本将会向 https://www.lslby.com 下载并安装相关文件。
安装 WordOllama 主程序时,可能会被 Windows 弹窗告知【未经认证的发布者】,这是因为作者没有购买程序证书服务,只能使用自签证书。
作者承诺,WordOllama 未包含任何恶意代码,也不会收集您的任何数据。您的文档或信息在使用过程中均不会发送到作者的服务器,仅会发送到您选择的 AI 服务提供商。
同意安装后,安装脚本会自动进行必备组件检查和下载主程序文件。
当看到以下窗口时,请点击【安装】
安装完毕后,重新打开Word软件,就会看到WordOllama标签页,点击标签页即可看到相关功能并使用。
二、使用说明
1. 如需使用本地大模型的,请提前自行安装Ollama软件。
https://ollama.com/download
2. 如使用ChatGPT(含Azure版)和其他国产大模型的,请自行申请API。
注意:只支持兼容OpenAI调用方式的国产大模型。
以下为部分国产大模型API申请网页:
阿里千问:https://help.aliyun.com/document_detail/2712195.html?spm=a2c4g.2788813.0.i0
KIMI(月之暗面):https://platform.moonshot.cn/console
GLM-4(智谱)https://open.bigmodel.cn/usercenter/apikeys
豆包(字节跳动):https://console.volcengine.com/iam/keymanage/
首次使用请先进行基础配置:
点击【设置】按钮,先选择模型模式:
根据选择不同,插件会启用本地模型或在线模型模式。
插件会自动获取目前本机中已安装的大模型信息,请通过下拉菜单进行选择。
通过【管理】功能可以浏览目前本机已经安装的模型,并可以进行删除和下载新模型操作:
Max Tokens是指一次返回的最大Token数量(可以理解为文本长度),请根据实际需求、模型支持、和本机硬件能力进行填写。
在本窗口可以直接填写模型信息
但笔者更建议点击【读取模型】按钮,进行模型信息存档和选择:
点击【新增】按钮可以添加API信息,以阿里千问模型为例:
模型名称:qwen-long / qwen-max 等支持的模型
EndPoint:https://dashscope.aliyuncs.com/compatible-mode/v1
(其他模型请自行查阅模型提供商的文档信息)
API KEY:申请/购买到的API KEY
点击【保存】即可存档。
返回上一界面后,通过选择不同模型并按下【载入】按钮,以实现快速切换模型的需求。
使用的核心办法:选择(拖黑)文段,点击功能,自动生成。
生成结果会以修订模式插入到文本末尾。
以【扩写】功能为例,强制英文输出和自动适应文本语言输出对比。
开启【对比结果】功能后,会以批注方式显示修改的对比结果。
可惜B不给上传GIF,可能之后做个视频演示一下。
Q:为什么要用管理员模式载入脚本?
A:因为要导入我的程序证书,否则无法安装。商业证书动辄几千块人民币一年,作为一款免费分享的软件,不需要也不舍得购买,因此只能自签证书。脚本已包含了导入证书的代码,免去了自行导入的麻烦。
Q:为什么系统弹窗是否允许未知发布者更改设备?
A:同上。因为没有商业证书,系统不认。
Q:为什么脚本会在http://www.lslby.com下载东西?
A:这是笔者自己的网站,这次程序放在了上面。同时,本插件支持自动更新,会在网站上检测更新版本信息,这也是为什么要自签证书的原因。
Q:为什么某些杀毒软件(可能)会报毒?
A:同样是因为没有证书。笔者保证不包含任何恶意代码。
Q:软件收费吗?
A:不收费。但如各位使用在线模型,请自行到各模型服务商官网申请/购买API。基本各类模型的API都需要付费,不过目前各方正在价格大战,实际正常使用所需金额不高。
Q:插件会泄露文档内容吗?合规吗?
A:笔者承诺不会收集各位任何数据。如使用在线模型的,调用API的相关数据会发送到模型服务商的服务器,因此请【脱敏使用】。对于敏感文档,更建议使用本地模型模式。此外,还请遵守各位公司、任职单位、服务单位的合规要求。
Q:是否支持RAG(检索增强生成)?例如基于全文提问?
A:不支持。首先,Word插件所用的C#代码没有好用的库,其次,RAG的Token消耗较高,并不特别划算。
Q:支持WPS吗?
A:不知道……没有WPS,烦请自行测试。
有什么使用上的疑问,烦请评论区留言。