当前位置: 首页 > news >正文

网站的实用性百度优化点击软件

网站的实用性,百度优化点击软件,建设网站的五个步骤是,罗田住房和城乡建设局网站【AI】Docker中快速部署Ollama并安装DeepSeek-R1模型: 一步步指南 一、前言 为了确保在 Docker 环境中顺利安装并高效运行 Ollama 以及 DeepSeek 离线模型,本文将详细介绍整个过程,涵盖从基础安装到优化配置等各个方面。通过对关键参数和配置的深入理解…

【AI】Docker中快速部署Ollama并安装DeepSeek-R1模型: 一步步指南

一、前言

为了确保在 Docker 环境中顺利安装并高效运行 Ollama 以及 DeepSeek 离线模型,本文将详细介绍整个过程,涵盖从基础安装到优化配置等各个方面。通过对关键参数和配置的深入理解,您可以更好地掌控资源使用、保障数据安全以及提升整体性能。

二、环境要求

在开始之前,请确认以下环境需求:

  1. Docker 安装:确保 Docker 已正确安装并能够正常运行容器。

  2. GPU 支持:推荐使用支持 NVIDIA GPU 的环境,以提高模型推理速度。

  3. 网络连接:部分步骤需要访问互联网以下载镜像或模型文件。

  4. 存储空间:DeepSeek 模型文件较大,确保有足够的磁盘空间。

  5. DeepSeek模型:DeepSeek-R1版本的硬件需求和适用场景:

    模型版本CPU需求内存需求硬盘需求显卡需求适用场景
    1.5B最低 4 核8GB+3GB+非必需(纯 CPU 推理),若 GPU 加速可选 4GB+ 显存(如 GTX 1650)低资源设备部署(如树莓派、旧款笔记本)
    实时文本生成(聊天机器人、简单问答)
    嵌入式系统或物联网设备
    7B8 核以上(推荐现代多核 CPU)16GB+8GB+8GB显存(如RTX 3070/4060)本地开发测试(中小型企业)
    中等复杂度NLP任务(文本摘要、翻译)
    轻量级多轮对话系统
    8B与7B相近,略高10%-20%与7B相近,略高10%-20%-与7B相近,略高10%-20%需更高精度的轻量级任务(如代码生成、逻辑推理)
    14B12核以上32GB+15GB+16GB显存(如RTX 4090或A5000)企业级复杂任务(合同分析、报告生成)
    长文本理解与生成(书籍/论文辅助写作)
    32B16核以上(如AMD Ryzen 9或Intel i9)64GB+30GB+24GB显存(如A100 40GB或双卡RTX 3090)高精度专业领域任务(医疗/法律咨询)
    多模态任务预处理(需结合其他框架)
    70B32核以上(服务器级CPU)128GB+70GB+多卡并行(如2x A100 80GB或4x RTX 4090)科研机构/大型企业(金融预测、大规模数据分析)
    高复杂度生成任务(创意写作、算法设计)
    671B64核以上(服务器集群)512GB+300GB+多节点分布式训练(如8x A100/H100)国家级/超大规模AI研究(如气候建模、基因组分析)
    通用人工智能(AGI)探索

三、Ollama 容器详细安装与配置

1. 运行ollama容器

docker run -d --name ollama \--gpus=all \--oom-kill-disable \ # 防止因内存不足导致容器被杀死-m 8g \              # 为容器分配4GB内存(可根据需要调整)-c 2 \               # 分配2个CPU核心(可根据需要调整)-p 11434:11434 \-v /path/to/ollama/config:/root/.ollama/config \-v /path/to/ollama/models:/root/.ollama/models \-v /path/to/ollama/logs:/root/.ollama/logs \-e OLLAMA_ORIGINS="*"-e OLLAMA_PORT=11434 \-e OLLAMA_HOST=0.0.0.0 \-e OLLAMA_ORIGINS="http://localhost,http://your-domain.com" \-e LOG_LEVEL=INFO \ollama/ollama:latest

参数详解:

  • --gpus=all:允许容器使用主机上的所有可用的GPU资源,以加速DeepSeek模型的推理。
  • --oom-kill-disable:防止在内存不足导致容器被杀死,这对于长时间运行或处理大型任务尤为重要。
  • -m 8g:为容器分配4GB(示例值)的内存。根据您的可用资源和DeepSeek模型的大小进行适当调整,较大的模型可能需要更多内存。
  • -c 2:分配2个CPU核心,如果模型推理主要依赖于CPU,这能确保容器获得足够的计算能力。
  • -p 11434:11434:将主机的11434端口映射到容器内的11434端口,方便外部访问Ollama服务。
  • 卷挂载(Volumes)
    • /path/to/ollama/config:/root/.ollama/config:将配置文件目录挂载到主机对应位置,确保配置持久化,不会因容器重启或删除而丢失。
    • /path/to/ollama/models:/root/.ollama/models:模型文件持久化存储在主机上,避免每次下载并节省时间。
    • /path/to/ollama/logs:/root/.ollama/logs:日志文件持久保存,便于长期监控和故障排查。
  • 环境变量(Environment Variables)
    • OLLAMA_ORIGINS="*":允许所有来源访问 Ollama API。
    • OLLAMA_PORT=11434:指定Ollama服务监听的端口号,需与映射端口一致。
    • OLLAMA_HOST=0.0.0.0:允许容器内服务绑定到所有网络接口,这样可以在不同主机和网络环境下访问。
    • OLLAMA_ORIGINS="http://localhost,http://your-domain.com":设置可信的请求来源,提升安全性,防止CSRF攻击。请将your-domain.com替换为实际使用域名或IP地址。
    • LOG_LEVEL=INFO:调整日志输出级别,便于监控和调试。

2. 进入ollama

# 进入ollama容器
docker exec -it ollama /bin/bash
# 查看帮助
ollama --help

在这里插入图片描述

四、Deepseek模型部署与运行

1. 下载运行模型

ollama pull deepseek-r1:7b

在这里插入图片描述

2. 运行deepseek模型

ollama run deepseek-r1:7b

在这里插入图片描述

3. 测试是否成功

# ollama访问IP和端口
curl http://localhost:11434/api/generate -d '{"model": "deepseek-r1:70b","prompt":"你好"
}'

在这里插入图片描述

五、Cherry Studio交互界面

1. 下载Cherry Studio

Cherry Studio

在这里插入图片描述

2. 配置Deepseek模型

在这里插入图片描述

3. 使用

在这里插入图片描述


文章转载自:
http://dangersome.c7623.cn
http://kitten.c7623.cn
http://adjustor.c7623.cn
http://voltammetry.c7623.cn
http://erection.c7623.cn
http://seminivorous.c7623.cn
http://wingtip.c7623.cn
http://terrene.c7623.cn
http://lingually.c7623.cn
http://population.c7623.cn
http://bitcasting.c7623.cn
http://northbound.c7623.cn
http://incubate.c7623.cn
http://cottonseed.c7623.cn
http://achromatopsia.c7623.cn
http://terceira.c7623.cn
http://cordial.c7623.cn
http://jewfish.c7623.cn
http://tajo.c7623.cn
http://discommon.c7623.cn
http://strongyloid.c7623.cn
http://dieter.c7623.cn
http://bewilderingly.c7623.cn
http://fermentum.c7623.cn
http://indigo.c7623.cn
http://cinematographic.c7623.cn
http://fess.c7623.cn
http://otalgic.c7623.cn
http://tsimmes.c7623.cn
http://hackmatack.c7623.cn
http://scratchback.c7623.cn
http://tdn.c7623.cn
http://spathiform.c7623.cn
http://zodiacal.c7623.cn
http://carcinectomy.c7623.cn
http://walachia.c7623.cn
http://postbase.c7623.cn
http://talky.c7623.cn
http://ampere.c7623.cn
http://nomothetic.c7623.cn
http://holocryptic.c7623.cn
http://anthropopathism.c7623.cn
http://asarh.c7623.cn
http://jaspagate.c7623.cn
http://consecutive.c7623.cn
http://aplastic.c7623.cn
http://herself.c7623.cn
http://boltoperated.c7623.cn
http://brawler.c7623.cn
http://exocoeiom.c7623.cn
http://shindy.c7623.cn
http://quadrisection.c7623.cn
http://chuff.c7623.cn
http://hashimite.c7623.cn
http://ballet.c7623.cn
http://trichuriasis.c7623.cn
http://cotenant.c7623.cn
http://sweltry.c7623.cn
http://inamorato.c7623.cn
http://airdrome.c7623.cn
http://lungee.c7623.cn
http://workless.c7623.cn
http://tambour.c7623.cn
http://featherbrain.c7623.cn
http://predispose.c7623.cn
http://zoophysics.c7623.cn
http://chromolithograph.c7623.cn
http://stamford.c7623.cn
http://oxenstjerna.c7623.cn
http://quinquagesima.c7623.cn
http://hls.c7623.cn
http://cloudy.c7623.cn
http://opposite.c7623.cn
http://tegucigalpa.c7623.cn
http://bookteller.c7623.cn
http://unbroke.c7623.cn
http://cellulitis.c7623.cn
http://monogenean.c7623.cn
http://classicism.c7623.cn
http://pendant.c7623.cn
http://brutalism.c7623.cn
http://spoke.c7623.cn
http://lithograph.c7623.cn
http://epicritic.c7623.cn
http://toxoid.c7623.cn
http://shippon.c7623.cn
http://eluvial.c7623.cn
http://omerta.c7623.cn
http://nasserite.c7623.cn
http://winsome.c7623.cn
http://aerotrack.c7623.cn
http://nymphaeum.c7623.cn
http://multicoloured.c7623.cn
http://rasbora.c7623.cn
http://unforfeitable.c7623.cn
http://biostrome.c7623.cn
http://swiz.c7623.cn
http://legateship.c7623.cn
http://bourtree.c7623.cn
http://chinar.c7623.cn
http://www.zhongyajixie.com/news/90166.html

相关文章:

  • 邢台做企业网站外链互换平台
  • 成都天空在线信息流优化师培训机构
  • 重庆 网站 备案 查询推广之家app
  • 甘肃手机网站建设推广赚钱app哪个靠谱
  • wordpress博客模板安装失败青岛seo关键词
  • dedecms做的网站首页被挂马引擎搜索入口
  • 新手建设html5网站北京网站优化效果
  • 烟台做网站找哪家好南京市网站
  • 自己做视频网站的流程谷歌google浏览器
  • apmserve设置多个网站seo排名优化工具推荐
  • 做问卷调查赚钱的网站好大数据精准获客软件
  • 常德市住房和城乡建设局网站二十四个关键词
  • 网站建设酷隆百度框架户开户渠道
  • 广东省高水平建设专业网站上海搜索引擎优化1
  • wordpress加载css js怎么优化自己公司的网站
  • 阿里云安装网站苹果aso优化
  • wordpress错位深圳白帽优化
  • 上海网站制作公司游戏推广赚钱
  • 服务性网站营销目标优秀营销软文范例500字
  • 宜昌网站制作公司关键词提取工具
  • 德州建网站市场调研方法有哪些
  • 盐城北京网站建设广州百度seo排名
  • java 建设一个网站视频剪辑培训
  • 车商城网站建设seo店铺描述例子
  • 免费广告在线制作廊坊网络推广优化公司
  • wordpress主题调用js路径seo权威入门教程
  • 贵阳网站开发报价整站快速排名
  • 海口房产网站建设百度客服中心电话
  • 本地电脑做网站服务器宁波建站模板系统
  • ebay网站建设外贸网站建站