- 综合排序
- 最热优先
- 最新优先
- 来自专栏轩辕镜像
LocalAI Docker 容器化部署指南
LocalAI的核心优势在于其兼容性和部署灵活性：作为OpenAIAPI的替代品，现有基于OpenAIAPI开发的应用可无缝迁移至LocalAI；同时，其容器化部署方式简化了安装配置流程，降低了本地化部署的技术门槛 本文将详细介绍如何通过Docker容器化方式部署LocalAI，包括环境准备、镜像拉取、容器配置、功能测试及生产环境优化建议，为用户提供可快速落地的部署方案。 环境准备Docker环境安装LocalAI采用容器化部署方式，需先确保系统已安装Docker环境。 dockerlogs-flocalai-service检查模型文件是否完整：确认/models目录下模型文件存在且未损坏可能原因：模型文件缺失或损坏内存不足导致模型加载失败解决方法：重新下载模型文件增加容器内存限制：--memory=16g3. ，用户可在各类硬件环境中快速启用LocalAI服务，为本地化AI应用开发和部署提供基础支持。
66310编辑于 2025-12-29 - 来自专栏C++系列
本地AI新选择：LocalAI如何实现低成本硬件也能轻松训练AI大模型
今天我要和大家分享一个超实用的教程——在本地服务器上无需高昂价格的GPU也能运行离线AI项目的开源神器：LocalAI，并结合cpolar内网穿透工具实现轻松远程使用的详细步骤。 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 即可与它聊天了： 点击右侧的模型选择，下拉框中会显示你已经安装的大模型： 目前我只安装了这一个，如果想继续安装其他大模型，可以点击页面上方导航栏中的Models进行选择：（跳转的就是首次挑选模型安装的那个页面） 3. 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！
1.9K10编辑于 2025-02-14 - 来自专栏nginx
从配置到实战：LocalAI+cpolar实现本地AI训练与跨平台访问全过程
今天为您带来一套颠覆性的本地化部署方案——基于LocalAI的智能计算架构。这个开源项目能将普通PC升级为具备强大AI运算能力的终端设备，实现高效模型推理与多样化内容创作。 现在就让我们共同探索这套低成本、高效率的本地智能部署方案！ 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 即可与它聊天了： 点击右侧的模型选择，下拉框中会显示你已经安装的大模型： 目前我只安装了这一个，如果想继续安装其他大模型，可以点击页面上方导航栏中的Models进行选择：（跳转的就是首次挑选模型安装的那个页面） 3. 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！
50010编辑于 2025-11-16 - 来自专栏话梅糖のAndroid学习
Hadoop集群部署教程-P3
Hadoop集群部署教程-P3 Hadoop集群部署教程（续） 第九章：Hadoop集群监控与管理 9.1 监控工具配置 Hadoop内置Web UI NameNode UI: http://master
26810编辑于 2025-04-17 - 来自专栏跟着小郑学JAVA
T系列部署教程3：前端项目的部署运行
作者主页：Designer 小郑 作者简介：3年JAVA全栈开发经验，专注JAVA技术、系统定制、远程指导，致力于企业数字化转型，CSDN博客专家，阿里云社区专家博主，蓝桥云课讲师。 \color{red}{前言：本教程配套博主发布的所有} T系列项目。 一、删除前端多余文件 同学们拿到的 T 系列前端项目架构，如下图所示。 请同学们删除红圈内的文件，如下图所示。 npm i -g @vue/cli 提示：根据多次部署的经验，晚上 8点后部分区域会出现下载超时的情况，不是我们的原因，同学们可以开热点或者第二天早上再试。 脚手架安装完成后，如下图所示。 npm i 提示：根据多次部署的经验，晚上 8 点后部分区域会出现下载超时的情况，不是我们的原因，同学们可以开热点或者第二天早上再试。 前端依赖拉取完成后，如下图所示。 提示：因为项目后端还没启动，系统是无法登录进去的，请同学们继续按照教程启动后端。
56500编辑于 2024-05-26 - 来自专栏AI SPPECH
2025年本地AI部署完全指南：从Ollama到vLLM的全方位实践教程
3.2 使用Docker部署LocalAI Docker是部署LocalAI的推荐方式，它能够简化安装过程并确保环境的一致性。 基本Docker部署 拉取LocalAI镜像 docker pull localai/localai:latest 创建必要的目录结构 mkdir -p models 启动LocalAI容器 docker 混合云部署：结合本地和云端优势的混合部署模式 自动模型选择：根据任务和硬件条件自动选择最佳模型和参数 多模态能力：本地部署方案对多模态模型的支持将逐步增强 结论 总结与展望 本教程全面介绍了2025年本地 通过本教程的学习，您应该能够： 理解本地AI部署的优势和挑战 根据自己的需求选择合适的部署方案 完成从安装配置到优化维护的全流程操作 实现多模型协同部署和性能监控 掌握故障排除和资源优化的方法 随着AI 下一步建议 实践项目：尝试使用本教程中的方法部署一个完整的AI应用 社区参与：加入相关开源社区，分享经验和获取最新资讯 持续学习：关注模型优化和部署技术的最新进展 性能调优：深入研究模型量化和硬件加速技术
14.7K31编辑于 2025-11-16 - 来自专栏Apache IoTDB
Apache IoTDB 系列教程-3：部署运维
今天介绍 IoTDB 的部署运维相关知识，帮助大家玩转 IoTDB！ 正文 1859 字，预计阅读时间 5 分钟。 开箱即用 IoTDB 的理念就是系统运维要简单，要一键启动、开箱即用。 nohup sbin/start-server.sh >/dev/null 2>&1 & 目录结构 使用默认配置启动并且写数据之后，项目根目录会生成下面这些文件夹，都在 data 目录下： 其中主要包括 3 3. 把 A 机器上的 IoTDB 的元数据迁移到 B 机器上，但是不要数据 把 A 机器的 data/system 目录拷贝到 B 机器的相应位置，启动 B 机器的 IoTDB 即可。
2K30发布于 2020-09-27 - 来自专栏NLP/KG
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发 1. 3.LocalAI 部署 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 Dify 支持以本地部署的方式接入 LocalAI 部署的大型语言模型推理和 embedding 能力。 / 官方快速部署手册案例：https://localai.io/docs/getting-started/models/ 首先拉取 LocalAI 代码仓库，并进入指定目录 git clone https LocalAI API 服务部署完毕，在 Dify 中使用接入模型 在 设置 > 模型供应商 > LocalAI 中填入： 模型 1：ggml-gpt4all-j - 模型类型：文本生成 - 模型名称：
3.1K11编辑于 2024-08-17 - 来自专栏让技术飞起来
最细教程：CentOS 7.8 如何部署 Graylog 3
elasticsearch_hosts: ES 的地址，因为我们是同服务器部署，所以直接是127。如果你不在本机，这里也要对应改写。 - 'a67b30747290fc0e31f3cbfdc494fef20f54aed29cdc7d8b842ed6f3b3bad9c2' tags: Docker-Metabase # tags 如果你是为公司，或是为一个集体组织部署，这个界面通常是不会开放给其他人的，你也不想你辛苦配的服务被人一通乱搞，这里就要开始分权： 点击 System ，点击 Authentication，进入到用户管理界面 Email Address: 这个是对应通知等告警服务用的，本次教程不会提到告警服务。这个稍后可以改。 Password: 密码，用作登录鉴权要素之一，稍后可以改。 Roles: 角色。 Java 目录没写： 这个就不详述了，照着本教程做是不会出现这种问题的 Sidecar: 这家伙也很少会报错，多数时候也是因为 Java 目录没写，其他错误看 /var/log/graylog-sidecar
2.2K62发布于 2021-11-15 - 来自专栏Se7en的架构笔记
CDH 部署教程
节点规划 Cloudera Manager Server 节点提供 WebUI 操作界面，管理 Cloudera Manager Agent 节点，在运行 Agent 的机器上部署大数据相关组件。 clock to be stepped in the first three updates # if its offset is larger than 1 second. makestep 1.0 3 集群开始安装部署，启动服务。 ? 完成安装。 ? CDH 集群安装检查 登陆 Clouder Manager 管理界面，可以检查集群各组件运行情况。 ?
4.5K20发布于 2021-07-23 - 来自专栏史上最简单的Spring Cloud教程
ELK教程3：logstash的部署、SpringBoot整合ELK+Filebeat
由于于 logstash是java应用，解析日志是非的消耗cpu和内存，logstash安装在应用部署的机器上显得非常的笨重。 最常见的做法是用filebeat部署在应用的机器上，logstash单独部署，然后由 filebeat将日志输出给logstash解析，解析完由logstash再传给elasticsearch。 seed:"+random.nextInt(999999)); } },100,100, TimeUnit.MILLISECONDS); } } 然后在部署了 filebeat的机器上部署该应用，应用的输出文件为/var/log/service-hi.log，应用启动命令如下： nohup java -jar elk-test-0.0.1-SNAPSHOT.jar
1.5K20编辑于 2022-01-06 - 来自专栏张善友的专栏
Semantic Kernel 通过 LocalAI 集成本地模型
今天我们就来看一看如何把SK 和 本地部署的开源大模型集成起来。我们使用MIT协议的开源项目“LocalAI“：https://github.com/go-skynet/LocalAI。 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 可参考官方 Getting Started 进行部署，通过LocalAI我们将本地部署的大模型转换为OpenAI的格式，通过SK 的OpenAI 的Connector 访问，这里需要做的是把openai 如第42行到46行代码所示，运行起来就可以体验下列的效果： 本文示例源代码：https://github.com/geffzhang/sk-csharp-hello-world 参考文章： Docker部署 LocalAI 实现本地私有化 文本转语音（TTS） 语音转文本 GPT功能 | Mr.Pu 个站博客 (putianhui.cn) LocalAI 自托管、社区驱动的本地 OpenAI API 兼容替代方案
1.1K10编辑于 2024-01-26 - 来自专栏Elastic Stack专栏
如何在隔离环境中使用GPU加速的LocalAI进行文本嵌入
使用LocalAI，你可以做到这一点。LocalAI是一个免费且开源的推理服务器，与OpenAI API兼容。 LocalAI还支持GPU加速，因此你可以更快地计算嵌入。这篇文章将向你展示如何使用LocalAI计算数据的嵌入。 如何设置LocalAI来计算数据的嵌入第一步：使用docker-compose设置LocalAI要开始使用LocalAI，你需要在你的机器上安装Docker和docker-compose。 : image: localai/localai:latest-aio-gpu-nvidia-cuda-12 container_name: localai environment: 第二步：配置LocalAI使用Sentence Transformers模型在本教程中，我们将使用mixedbread-ai/mxbai-embed-large-v1，它目前在MTEB排行榜上排名第四。
85611编辑于 2025-02-07 开源免费本地AI神器，一键部署多模态大模型！
LocalAI 是一款革命性的开源AI框架，专为本地化部署设计。 它完美复现了OpenAI的API接口，支持运行各类开源大模型（如LLaMA3、Phi-2、Stable Diffusion等），无需GPU即可在普通电脑上实现： 智能文本生成️ 语音克隆与转换️ 图像 全栈AI能力支持功能类型实现方式应用场景示例文本生成LLaMA3/Phi-2/Mistral智能客服/代码生成语音处理Whisper.cpp/Bark.cpp会议记录/语音克隆图像创作StableDiffusion.cpp local-ai run ollama://gemma:2b# 查看已安装模型local-ai models list3. 三大核心优势： 零门槛部署：普通笔记本电脑即可运行百亿参数大模型 全功能覆盖：文本/语音/图像/视频处理一应俱全 高度可扩展：支持自定义模型和分布式集群适用人群：需要私有化部署AI能力的企业开发者对数据安全有严格要求的金融
2.7K10编辑于 2025-03-31- 来自专栏玩转Lighthouse
【3秒极速开服】雾锁王国全自动部署教程
【温馨提示】 腾讯轻量云已上线「游戏服专区」，支持一键实现幻兽帕鲁等十多款游戏服务器云端快速部署。 以下教程很多已不适用，推荐您前往轻量云游戏服专区，点击立即前往。 ====================================================================== 本文将为您提供极简部署雾锁王国服务器的指引，「仅需轻点三次鼠标 极简一键部署 部署指引 以下部署教学将基于腾讯云轻量应用服务器Lighthouse来进行，我们为你提供了自动部署雾锁王国、自动放通防火墙端口等全自动部署的方式，无需手动配置，全程仅需3秒，即可开服。 您无需进行其他操作，我们将自动为您完成开服，静候3秒，服务器将自动部署雾锁王国，初始密码将会以控制台站内信发送给您。 3、在接下来的弹窗内输入雾锁王国服务器的的公网IP与端口。
6.9K45编辑于 2026-02-07 - 来自专栏sktj
Kubernetes(3:部署)
1 3个节点： k8s-master k8s-node1 k8s-node2 2 yum install -y docker 3 所有节点安装kubelet kubeadm kubectl
72230发布于 2019-09-24 - 来自专栏腾讯云服务器团队的专栏
【AIGC部署实践系列教程 #3】HAI 一键部署爆火开源语音项目ChatTTS
3. 更好的韵律 ChatTTS在韵律方面超越了大部分开源TTS模型。同时提供预训练模型，支持进一步的研究。 今天，给大家介绍如何使用 高性能应用服务HAI 快速部署 ChatTTS 应用 实现语音合成自由 使用该教程完成部署后的实现效果 视频地址 什么是高性能应用服务HAI 高性能应用服务HAI 是一款面向 助力您快速部署 AIGC 应用，推动业务探索与发展。 用 HAI 快速实现ChatTTS自由 1.基于社区应用，3分钟快速部署 社区的小伙伴实现了一个打包好的应用环境，提前预装好了 ChatTTS 所必备的环境依赖、模型，可以实现开箱即用。 1. 图2 载入模型 3. 载入完成模型后，可以根据使用需求，执行其余代码块。第一次执行时需载入模型，时间较久，约需等待1-2min，请耐心等待。后续执行速度很快。 图3 按需运行 4.
98910编辑于 2024-06-13 prometheus部署教程（二）
安装prometheus的详细过程看：prometheus部署教程（一）-腾讯云开发者社区-腾讯云1、部署mysql-exporter(1)操作准备安装MySQL：参考连接：Mysql 安装教程-腾讯云开发者社区 identified by 'xxxxxx';mysql>grant process,replication client,select on *,* to 'exporter'@'localhost';（3） 5s static_configs: -targets:['IP:9104'] #mysql服务器的ip加端口 systemctl restart prometheus(7)登录页面查看2、部署 redis_exporter(1)部署前准备安装redis集群，参考连接redis（Cluster）集群-腾讯云开发者社区-腾讯云(2)在客户端主机创建app日录，并上传gz又件cd /apptar - redis exporter-v1.50.0.linux-amd64.tar.gzmv redis exporter-v1.50.0.linux-amd64.tar.gz redis exporter(3)
58700编辑于 2025-04-14- 来自专栏分享学习
DeepSeek本地部署教程
DeepSeek是一款强大的知识检索和问答工具，通过本地部署，用户可以更加便捷地进行知识检索和问答操作。本文将详细介绍如何在本地部署DeepSeek，以便用户能够充分利用其强大的功能。 环境要求 在本地部署DeepSeek之前，需要确保计算机满足以下环境要求： 操作系统：Linux（推荐）或Windows。 Python版本：Python 3.7及以上。 在DeepSeek项目目录下，运行以下命令创建虚拟环境：python3 -m venv deepseek-env（Linux）或deepseek-env\Scripts\activate（Windows DeepSeekModel model = DeepSeekModel() result = model.predict(input_data) print(result) 使用与调试 使用DeepSeek 在成功部署并启动
1.5K10编辑于 2025-05-18 Promethues部署教程（三）
Alerting rules | Prometheus 2、添加告警规则路径，重启promethues服务 [root@localhost prometheus]# vim prometheus.yml 3、 修改配置文件 [root@localhost prometheusAlert]# vim conf/app.conf 默认的登录prometheusAlert的账号密码 添加飞书告警的机器人地址： 3、 end}}{{ end }} {{ $urimsg:=""}}{{ range $key,$value:=.commonLabels }}{{$urimsg = print $urimsg $key "%3D filter=%7B{{SplitString $urimsg 0 -3}}%7D) 6、在alertmanager目录下添加告警模板： [root@localhost ~]#cd /usr/local
47810编辑于 2025-04-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号