基于ollama搭建本地deepseek大模型服务

简介

本指南旨在帮助初学者在本地环境中设置和运行DeepSeek大模型服务。本文将使用Ollama平台来简化这一过程,确保即使是新手也能顺利完成安装。

准备工作

系统要求

  • 操作系统:Linux或MacOS(Windows用户可以考虑使用WSL)
  • 内存:建议至少16GB RAM
  • 存储空间:根据所选模型大小而定,建议预留至少50GB可用空间

ollama的安装

ollama : github | 官网.

ollama 模型

在ollama官网提供了很多最新的大模型。如下:
在这里插入图片描述
基本上开源的模型都能在上面找到,大家根据自己需求去安装。

ollama 安装流程

在ollama 源码目录下有readme文档,安装过程写的很详细,自己可以参考。连接打不开或不想看的下面简单介绍一下。

  • macOS平台下载链接(https://ollama.com/download/Ollama-darwin.zip)
  • windows平台下载链接(https://ollama.com/download/OllamaSetup.exe)
  • Linux平台 执行下面命令:
    curl -fsSL https://ollama.com/install.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值