Ollama：开启本地大语言模型的新篇章🚀

DeepSeek官网: https://www.deepseek.com/zh

「deepseek部署教程软件下载及使用技巧大全」
链接：https://pan.quark.cn/s/d16b78f09b7e

deepseek官网不稳定?可以试一下api调用非常简单!>>>> 点击这里注册送14元!

deepseek api调用教程: https://feizhuke.com/deepseek-api-diaoyong.html

deepseek api官网: https://platform.deepseek.com/

说明: api支持deepseek v3以及deepseek r1

api调用文档教程: https://api-docs.deepseek.com/zh-cn/

DeepSeek r1 本地部署教程: https://feizhuke.com/deepseek-r1-bendibushu.html

deepseek r1开源项目官网: https://github.com/deepseek-ai/DeepSeek-R1

deepseek v3开源项目官网: https://github.com/deepseek-ai/DeepSeek-V3

扫码下载deepseek app:

一、Ollama简介：本地大语言模型的“瑞士军刀”🔧

（一）Ollama与Llama：名字相似，使命不同

（二）Ollama的特点：简单、高效、灵活

• 一键安装与使用：Ollama提供了极为简单的安装过程，无论是通过脚本安装还是使用容器运行，都能在几分钟内完成。安装完成后，用户可以快速拉取和运行模型，无需复杂的配置。
• 丰富的命令行工具：Ollama提供了一个功能强大的命令行界面，用户可以通过简单的命令来管理模型，如拉取模型、运行模型、删除模型等。这些命令行工具使得模型的管理变得轻而易举。
• 用户友好的WebUI界面：除了命令行工具，Ollama还提供了一个直观的WebUI界面。通过这个界面，用户可以方便地与模型进行交互，进行对话、文本生成等操作。
• 与OpenAI兼容的API接口：Ollama提供了与OpenAI兼容的API接口，这意味着开发者可以使用OpenAI的客户端库来与Ollama进行交互，无需修改代码即可无缝切换到本地模型。
• 支持多种模型架构：Ollama支持多种流行的模型架构和格式，如ONNX、PyTorch、TensorFlow等。这使得用户可以根据自己的需求选择合适的模型进行部署。

  

二、Ollama的安装与配置：快速上手指南📚

（一）安装Ollama

1. 使用脚本安装

• 在Linux上安装：
  bash复制

  curl -sSL https://ollama.com/install.sh | sh

• 在MacOS上安装：
  bash复制

  curl -sSL https://ollama.com/install.sh | sh

• 在Windows上安装： Ollama提供了Windows安装包，用户可以从其官方网站下载并安装。

2. 使用容器运行

docker pull ollama/ollama
docker run -d --name ollama -p 11434:11434 ollama/ollama

（二）配置Ollama

• 设置推理设备：
  bash复制

  export OLLAMA_DEVICE=cuda

• 设置缓存路径：
  bash复制

  export OLLAMA_CACHE_PATH=/path/to/cache

• 设置并发数：
  bash复制

  export OLLAMA_CONCURRENCY=4

（三）启动Ollama服务

ollama service start

三、Ollama的使用：模型管理与推理服务🔍

（一）拉取模型

ollama pull llama3

（二）运行模型

ollama run llama3