- 综合排序
- 最热优先
- 最新优先
- 来自专栏轩辕镜像
LocalAI Docker 容器化部署指南
LocalAI的核心优势在于其兼容性和部署灵活性：作为OpenAIAPI的替代品，现有基于OpenAIAPI开发的应用可无缝迁移至LocalAI；同时，其容器化部署方式简化了安装配置流程，降低了本地化部署的技术门槛 本文将详细介绍如何通过Docker容器化方式部署LocalAI，包括环境准备、镜像拉取、容器配置、功能测试及生产环境优化建议，为用户提供可快速落地的部署方案。 环境准备Docker环境安装LocalAI采用容器化部署方式，需先确保系统已安装Docker环境。 推荐使用以下一键安装脚本完成Docker及相关组件的部署：展开代码语言：BashAI代码解释bash<(wget-qO-https://xuanyuan.cloud/docker.sh)该脚本将自动安装 /localai.io/faq：常见问题解答总结本文详细介绍了LocalAI的Docker容器化部署方案，从环境准备、镜像拉取、容器配置到功能测试，提供了一套完整的落地流程。
51510编辑于 2025-12-29 - 来自专栏C++系列
本地AI新选择：LocalAI如何实现低成本硬件也能轻松训练AI大模型
在本文中，我将详细介绍如何使用Docker快速部署LocalAI，并结合cpolar内网穿透工具实现远程访问。无论你是技术新手还是有经验的老手，都能从中学到实用的知识和技巧！ Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 》 安装好Docker后，打开终端执行这行命令启动容器即可： sudo docker run -ti --name local-ai -p 8080:8080 localai/localai:latest-cpu 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！ 最后，我们使用固定的公网地址在任意设备的浏览器中访问，可以看到成功访问本地部署的LocalAI Web UI页面，这样一个永久不会变化的二级子域名公网网址即设置好了。
1.7K10编辑于 2025-02-14 - 来自专栏AI SPPECH
2025年本地AI部署完全指南：从Ollama到vLLM的全方位实践教程
3.2 使用Docker部署LocalAI Docker是部署LocalAI的推荐方式，它能够简化安装过程并确保环境的一致性。 基本Docker部署 拉取LocalAI镜像 docker pull localai/localai:latest 创建必要的目录结构 mkdir -p models 启动LocalAI容器 docker 使用Docker Compose部署 对于更复杂的部署需求，使用Docker Compose可以更好地管理配置： 创建docker-compose.yml文件 version: '3.8' services 服务以加载新模型 docker restart localai 3.4 使用LocalAI API 由于LocalAI与OpenAI API完全兼容，你可以使用现有的OpenAI客户端库与LocalAI 部署vLLM 对于生产环境，使用Docker可以确保部署的一致性和可移植性。
12K31编辑于 2025-11-16 - 来自专栏nginx
从配置到实战：LocalAI+cpolar实现本地AI训练与跨平台访问全过程
今天为您带来一套颠覆性的本地化部署方案——基于LocalAI的智能计算架构。这个开源项目能将普通PC升级为具备强大AI运算能力的终端设备，实现高效模型推理与多样化内容创作。 现在就让我们共同探索这套低成本、高效率的本地智能部署方案！ 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 》 安装好Docker后，打开终端执行这行命令启动容器即可： sudo docker run -ti --name local-ai -p 8080:8080 localai/localai:latest-cpu 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！
40610编辑于 2025-11-16 - 来自专栏全栈程序员必看
Docker部署_docker部署网站
通常，帮朋友部署 WordPress 的这个场景下，你可以找朋友开一台新的服务器，初始化一套 LAMP，直接把 WordPress 给 wget 进去，就可以在你的浏览器里完成配置了。 但是，前两天我需要在自己的服务器上部署一个 WordPress 服务。我这样的蒟蒻当然是无缘使用世界上最好的编程语言—— PHP 的啦。没有 PHP，还部署个屁的 WordPress。 所以就想到了—— Docker，用容器去把它装起来就好了嘛。 想到就动手做，接下来我们就看看怎么用 Docker 部署 WordPress。 为了方便，同时也多练习 Docker 的使用，我们干脆再拉一个 mysql 镜像，让整套服务完全在 docker 里运行： $ docker pull mysql:latest 注意，这篇文章写在 2020 （当然，我只是开一个简单的小服务，基本没人用，所以也就几乎没有安全风险，但您在部署的时候还是要花点时间认真考虑安全问题的） 接下来就是在您的浏览器访问 http://xxx:2020/wp-admin/
1.4K30编辑于 2022-11-17 - 来自专栏NLP/KG
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发 1. Dify 支持以本地部署的方式接入 LocalAI 部署的大型语言模型推理和 embedding 能力。 启动 LocalAI #start with docker-compose $docker-compose up -d --build #tail the logs & wait until the 使用 Dify Docker 部署方式的需要注意网络配置，确保 Dify 容器可以访问到localAI 的端点，Dify 容器内部无法访问到 localhost，需要使用宿主机 IP 地址。 gpt-3.5-turbo - 服务器 URL：http://127.0.0.1:8080 - 若 Dify 为 docker 部署，请填入 host 域名：http://your-LocalAI-endpoint-domain
2.9K11编辑于 2024-08-17 - 来自专栏Elastic Stack专栏
如何在隔离环境中使用GPU加速的LocalAI进行文本嵌入
如何设置LocalAI来计算数据的嵌入第一步：使用docker-compose设置LocalAI要开始使用LocalAI，你需要在你的机器上安装Docker和docker-compose。 /usr/local/bin/docker-compose检查docker-compose的版本：docker-compose --version你需要使用以下docker-compose.yaml配置文件 ：# file: docker-compose.yamlservices: localai: image: localai/localai:latest-aio-gpu-nvidia-cuda- 通过运行docker-compose ps验证容器是否正确启动，检查localai容器是否处于Up状态。 运行以下命令：docker logs localai应该能看到类似以下的信息：$ docker logs localai===> LocalAI All-in-One (AIO) container starting
78711编辑于 2025-02-07 - 来自专栏张善友的专栏
Semantic Kernel 通过 LocalAI 集成本地模型
今天我们就来看一看如何把SK 和 本地部署的开源大模型集成起来。我们使用MIT协议的开源项目“LocalAI“：https://github.com/go-skynet/LocalAI。 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 可参考官方 Getting Started 进行部署，通过LocalAI我们将本地部署的大模型转换为OpenAI的格式，通过SK 的OpenAI 的Connector 访问，这里需要做的是把openai InvokeStreamingAsync，如第42行到46行代码所示，运行起来就可以体验下列的效果： 本文示例源代码：https://github.com/geffzhang/sk-csharp-hello-world 参考文章： Docker 部署LocalAI 实现本地私有化 文本转语音（TTS） 语音转文本 GPT功能 | Mr.Pu 个站博客 (putianhui.cn) LocalAI 自托管、社区驱动的本地 OpenAI API 兼容替代方案
1K10编辑于 2024-01-26 - 来自专栏全栈程序员必看
docker部署vue项目_docker部署java
博主还提供了另一种方式，每次发布只需要将打包后的dist内容放到linux主机目录即可，感兴趣的道友可以直接参考这一篇：docker 安装 nginx 发布Vue项目_苍穹之跃的博客-CSDN博客nginx nginx # 将dist文件中的内容复制到 /usr/share/nginx/html/ 这个目录下面 COPY dist/ /usr/share/nginx/html/ 第三步：安装nginx docker pull nginx docker run --name nginx -d -p 4030:80 nginx 访问4030端口看看是否安装成功。 第四步：linux上找个空目录放项目文件和Dockerfile 第五步：构建镜像，cd到Dockerfile目录下 docker build -t 取个镜像名称 . 第六步：运行容器 docker run --name 取个容器名称 -d -p 9020:80 上一步取的镜像名称 访问一下9020检查是否运行成功。
1.4K60编辑于 2022-11-02 - 来自专栏全栈程序员必看
docker部署influx_docker容器部署
使用docker部署influxdb 生成默认config.yml docker run \ --rm influxdb:latest \ influxd print-config > config.yml /code/docker-influx/data:/var/lib/influxdb/data - /rssp/code/docker-influx/meta:/var/lib/indluxdb/meta - /rssp/code/docker-influx/wal:/var/lib/indluxdb/wal - /rssp/code/docker-influx/backup/bin:/home/backup - /rssp/code/docker-influx/backup/data:/tmp/backup/data - /rssp/code/docker-influx/backup/gz:/tmp/backup /gz - /etc/localtime:/etc/localtime:ro ports: - "8086:8086" restart: always docker pull influxdb docker-compose
1.2K30编辑于 2022-11-19 - 来自专栏个人技术博客
③【Docker】Docker部署Nginx
③【Docker】Docker部署Nginx docker拉取nginx镜像： docker pull nginx 安装并启动nginx服务： docker run \ --restart always docker操作nginx常用命令： # 注意，Nginx是我安装启动时为这个服务取的名字，若名字不同请使用自己的服务名 #停止： docker stop Nginx #重启： docker restart Nginx #删除服务： docker rm Nginx #删除镜像： docker rmi Nginx #进入服务： docker exec -it Nginx /bin/bash Docker中有几个重要的概念 我们要使用Docker来操作镜像、容器，就必须要安装Docker。 Docker是一个CS架构的程序，由两部分组成： 服务端(server)：Docker守护进程，负责处理Docker指令，管理镜像、容器等 客户端(client)：通过命令或RestAPI向Docker
99010编辑于 2024-03-16 - 来自专栏HUC思梦的java专栏
docker部署
up -d 启动部署 在docker部署微服务项目: 1、使用dockerfile构建项目镜像 2、在docker使用生成镜像启动对应服务 服务名称 端口 comment-server 8002 house-server 8011 user-server 8000 esp-zuul 9000 esp-web 7000 comment-server ->user-server 部署用户服务 docker run -d house --link user-server:user -p 8011:8011 house/house 部署评论服务 docker run -d --name comment-server -- hostname comment --link user-server:user -p 8002:8002 house/comment 部署网关 docker run -d --name zuul-server link house-server:house --link user-server:user --link comment-server:comment -p 9000:9000 house/zuul 部署
1.2K10发布于 2020-09-03 - 来自专栏山行AI
创建与任何事物聊天的私人ChatGPT-AnythingLLM
查询模式是针对你的文档的简单问答•聊天中的引用链接到原始文档来源和文本•简单的技术堆栈，便于快速迭代•100%云部署就绪•"自带你的LLM"模式•非常高效的成本节约措施，用于管理非常大的文档。 (所有模型)[6] 支持的嵌入模型: •AnythingLLM原生嵌入器[7]（默认）•OpenAI[8]•Azure OpenAI[9]•LM Studio (所有)[10]•LocalAi (所有 推荐使用方式 重要 如果你在localhost上运行其他服务，例如Chroma、LocalAi或LMStudio，你需要使用http://host.docker.internal:xxxx[19] 从Docker (所有模型): https://localai.io/ [7] AnythingLLM原生嵌入器: https://github.com/Mintplex-Labs/anything-llm/blob :xxxx: http://host.docker.internal:xxxx/ [20] http://host.docker.internal:8000: http://host.docker.internal
4.4K10编辑于 2023-12-19 - 来自专栏Pengcheng's Blog
Docker部署
1、部署前准备 1.检查服务器是否能访问外网 #检查外网连通性 ping 114.114.114.114 #检查DNS服务 ping baidu.com 如果外网通而DNS不通，则需要手动配置DNS ifcfg-ens开头的文件 #将名称换成实际文件名称 cat ifcfg-ens33 查看ONBOOT是否为yes,若不是yes，请修改成yes 5.关闭SElinux 此处内容需要评论回复后方可阅读 2、安装Docker
1.3K20编辑于 2023-05-02 - 来自专栏Java学习～
docker部署
centos7部署docker 官方参考文档：https://docs.docker.com/engine/install/centos/ 在此提供自己的安装文件： 链接：https://pan.baidu.com /linux/centos/docker-ce.repo #安装docker引擎 sudo yum install docker-ce docker-ce-cli containerd.io docker-buildx-plugin sudo docker run hello-world docker-compose安装 1、去下载docker-compose（docker与docker-compose版本要对应，具体的看官网，如果你嫌弃麻烦 v 图片 Windows 部署 docker 1、官网下载docker desktop（先别急安装）：https://hub.docker.com 2、确认电脑是否开启hyper -v 搜索栏搜索： 是一个可视化的Docker操作界面，提供状态显示面板、应用模板快速部署、容器镜像网络数据卷的基本操作（包括上传下载镜像，创建容器等操作）、事件日志显示、容器控制台操作、Swarm集群和服务等集中管理和操作
1.4K70编辑于 2023-04-08 - 来自专栏人工智能极简应用
AI智能体研发之路-工程篇（三）：大模型推理服务框架Ollama一键部署
今天要讲的是一个大模型推理服务框架-Ollama，对比的还有Xinference、OpenLLM、LocalAI，从丝滑角度而言（这里特别强调一下，我所讲的丝滑，指的是众所周知的网络环境下，学习、部署、 应用等环节，坑最少，最易上手），Ollama>=Xinference>LocalAI>OpenLLM。 二.一行代码完成Ollama本地部署 这里由衷推荐docker部署，一行代码搞定 docker run -d --gpus=all -v /yourworkspaces/Ollama:/root/.ollama r/ollama/ollama 执行docker命令后，会从docker hub库中pull镜像，大约30秒左右完成container部署 docker ps查看container状态： 三.一行代码使用Ollama部署大语言模型推理服务 还是一行代码，比如部署mistral docker exec -it ollama ollama run mistral 仅需要大概1分钟，ollama
1.8K11编辑于 2024-08-13 - 来自专栏全栈程序员必看
spring boot docker部署_docker部署java项目
目录 docker介绍 安装docker Ubuntu安装docker CentOS安装docker 通过脚本安装 拉取java环境 创建springboot项目 打包springboot到docker docker的核心思想是通过对应用的封装、分发、部署、运行生命周期进行管理，达到应用组件级别的“一次性封装，到处运行”。 安装docker 既然docker这么神奇，那我们如何安装docker呢？我们一起来走一下吧。 4.安装完成之后启动docker systemctl start docker 5.重启 systemctl restart docker 6.停止 systemctl stop docker 7.开机自启动 /test docker查看容器的日志 这说明我们已经springboot项目已经启动成功了，到这里docker部署springboot项目差不就结束了，但是你可能还有一个疑问，如果我想看控制台的日志怎么办呢
1.8K20编辑于 2022-11-07 - 来自专栏java 微风
Docker 部署应用、jar 工程 docker 方式部署
我的工程设置的本地端口也是8089 6. postman 和浏览器 顺利请求到 gentle 工程中的接口，说明部署成功 7. gentle 工程中接口实现： 部署完啦 ，走，出门溜达溜达，找点吃的去 ... -------------------------------- 2018.11.28 后记，每次改代码都要重新部署依旧很麻烦，于是写了个很简单的脚本，运行就部署。 新镜像构建成功\n\033[0m" # 删除原容器 docker rm -f gentle # 启动容器 docker run -d -p 8089:8089 --name gentle gentle echo -e "\033[32m\n后端工程部署完成\n\033[0m" 运行效果： postman 请求，返回的已经有新接口数据了。 另外：前端工程部署脚本见：前端 vue 工程 Docker 方式部署
1.9K20编辑于 2022-04-13 开源免费本地AI神器，一键部署多模态大模型！
LocalAI 是一款革命性的开源AI框架，专为本地化部署设计。 Transformers深度学习模型框架支持最新模型架构libp2p分布式网络协议构建去中心化AI集群Vulkan后端GPU加速支持提升图像生成效率五分钟快速上手# 启动全功能容器（自动下载常用模型）docker run -ti --name local-ai -p 8080:8080 localai/localai:latest-aio-cpu# 调用OpenAI兼容APIcurl http://localhost 三大核心优势： 零门槛部署：普通笔记本电脑即可运行百亿参数大模型 全功能覆盖：文本/语音/图像/视频处理一应俱全 高度可扩展：支持自定义模型和分布式集群适用人群：需要私有化部署AI能力的企业开发者对数据安全有严格要求的金融 /医疗行业想要学习大模型技术的AI爱好者项目地址https://github.com/mudler/LocalAI
2.3K10编辑于 2025-03-31- 来自专栏山行AI
LocalAI——一款可在消费级硬件上本地运行 LLMs的AI应用
使用docker-compose是运行LocalAI的最简单方法（如果要在本地构建，请参见构建LocalAI[79]）： git clone https://github.com/go-skynet/LocalAI models/ # （可选）编辑.env文件以设置上下文大小和线程数等参数 # vim .env # 使用docker-compose启动 docker-compose up -d --pull 启动服务 docker-compose up -d --pull always # 或者你可以使用以下命令构建镜像： # docker-compose up -d --build # 现在 API 可以通过 本地构建 要在本地构建 LocalAI 容器镜像，可以使用 docker： # 构建镜像 docker build -t localai . docker run localai 或者你可以使用 make /issues/10)• 二进制发布 (Possible to use it without docker?
10.5K30编辑于 2023-08-10
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号