因为之前使用dify搭建了一个知识库,但是dify的效果,尤其是在文档解析方面是非常不友好的,虽然测试了,纳米的效果非常好,但是纳米只能容纳2000个文件,如果
你的知识库中有代码,sql文件等等,如果太多,就不行了。而如果分开智能体的话,那么就非常麻烦,所以自己搭建本地的,知识库效果会好一些,但是如果你没有
671b参数的大模型,deepseek的话,其实模型效果就又差了。
首先去搭建大模型用的Ubuntu24.04 hyper-v虚拟机,这个之前章节已经有了。过程一样不重复截图,然后
设置虚拟机可以被外网访问。这里看一下如何设置:之前也说过,但是这里再说一下,其实只设置一个外部使用网络就可以了。
就可以实现,本机,访问虚拟机,虚拟机也可以访问本机。
首先用hyper-v管理器,创建一个外部网络可以看到,点击虚拟机设置,然后
创建网络适配器,然后,点击外部,然后设置虚拟机适配器,作成
然后填写名字,然后选择本地网卡,然后点击ok