大家好,才是真的好。
Domino 14.5发布已经有两周时间,其中最核心的新功能就是Domino IQ,即Domino内置的AI大语言功能。并且支持两种方式进行部署,第一种是本地部署大语言模型,我们前面在Drop2时已经讲过部署Domino本地直接部署AI大模型;第二种是可以直接远程调用OpenAI大语言模型ChatGPT的API接口。
本地部署,较为灵活可靠,可自主训练数据,数据安全性也很高,缺点就是需要加大硬件投入,从Drop3,包括Notes/Domino 14.5的正式版本开始,支持本地部署,但也需要英伟达显卡支持,显而易见,跑Domino服务的硬件服务器现在绝大多数都没有这种显卡,另外,关于显卡要求我们也已经讲过。
因此,本篇重点亲手实践,并详细介绍Notes/Domino中配置远程调用OpenAI的大语言模型ChatGPT配置方式。
以下是具体步骤。
首先,我们需要启用Domino IQ任务。先打开Domino Administrator管理客户机,然后点击“操作”下的“编辑目录简要表”,如下图
在出现的界面中,选择“Domino IQ”选项卡,然后选择哪些Domino服务器作为IQ运行的服务器,还有IQ管理服务器是哪台,如下图:
接着,重启Domino服务。
之后,Domino的数据Data目录下会多一个文件夹出llm_models以及会自动创建的notes数据库dominoiq.nsf。
然后,在Administrator管理客户机中找到数据库dominoiq.nsf,双击打开该库,在这里配置远程调用的大语言模型:
在dominoiq.nsf数据库中找到configuration配置视图,添加一个新的配置文档:
在出现的界面中,选择Remote,然后输入大语言模型内容,我这里使用的是gpt-3.5-turbo,再输入OpenAPI的远程API接口地址https://api.openai.com/v1/chat/completions,再输入用OpenAI获取的API Key,如下图:
保存关闭。
你也可以在数据库dominoiq.nsf添加你常用的Prompt提示语句,我们这里不添加,默认两条内置提示,已足够进行测试:
再者,别忘记了,Domino IQ我们需要加载信任一下远程的OpenAI站点的TLS证书,在启用certmgr任务的同时,可以在Domino服务器输入下列命令:
load certmgr -ImportRootfromURL https://api.openai.com/v1/chat/completions
然后打开certstore.nsf数据库
在左边打开Trusted Roots视图,找到刚导入进去的根证书,双击打开:
取消分类中的 Imported和Restrict选项,如下图所示,保存关闭:
再回到By HostName视图,添加一个TLS凭证,如下图:
里面的主机名填写localhost,在服务器访问权限字段中选择Domino IQ服务器;在Certificate Provider字段选择MicroCA;在Certificate Authority字段中,选择 DominoMicroCA,然后点击Exportable keys ,并保存关闭,效果如下图所示:
我为了快速生效,重启了Domino服务器,你也可以选择等待一会儿。
最后就是测试时间了。现在打开一封邮件,如果要对内容进行摘要,可以点击“摘要”,如下图:
很快我们就能从远程对应的OpenAI大语言模型返回结果了:
小结一下,Domino IQ部署远程大语言模型调用很简单,Notes邮箱中提供了直接调用方式,另外,也可以采用lotusscript直接调用,大家如果感兴趣留言想对ChatGPT提问的内容,我写个lotusscript跑一下,让大家看看结果。
今天就介绍到这里。
最后欢迎搜索公众号“协作者”来关注我。