- 综合排序
- 最热优先
- 最新优先
- 来自专栏轩辕镜像
LocalAI Docker 容器化部署指南
LocalAI的核心优势在于其兼容性和部署灵活性：作为OpenAIAPI的替代品，现有基于OpenAIAPI开发的应用可无缝迁移至LocalAI；同时，其容器化部署方式简化了安装配置流程，降低了本地化部署的技术门槛 ，便于后续管理-p8080:8080：端口映射，将容器内8080端口映射到主机8080端口（实际部署时请根据轩辕镜像文档（LOCALAI）https://xuanyuan.cloud/r/localai 参考资源官方文档与镜像资源轩辕镜像-LocalAI文档https://xuanyuan.cloud/r/localai/localai：轩辕镜像的本地化部署文档LocalAI镜像标签列表https:// xuanyuan.cloud/r/localai/localai/tags：查看所有可用版本标签LocalAI项目GitHubhttps://github.com/go-skynet/LocalAI：项目源代码和官方文档 、安全加固和数据备份策略后续建议：深入学习LocalAI官方文档https://localai.io，了解高级功能如模型微调、API扩展等根据业务需求选择合适的模型，平衡性能与资源消耗定期关注LocalAI
59110编辑于 2025-12-29 - 来自专栏TCR实践
Harbor边缘部署文档
access_secret 仓库access_key 仓库状态 仓库状态 仓库名称 在Harbor中仓库的唯一ID 仓库credential类型 仓库access_secret 仓库access_key Harbor边缘部署文档 tls.key /etc/docker/certs.d/yourdomain.com/ cp ca.crt /etc/docker/certs.d/yourdomain.com/ 使用边缘Harbor部署工作负载
1.7K30编辑于 2022-03-06 - 来自专栏开源部署
MetaQ安装部署文档
一．MetaQ安装部署情况： 地点 IP Broker ID Master/Slave Slave ID:Group 合肥 192.168.52.23 1 Slave 1:meta-slave-group-hf 部署 解压tar zxvfmetaq-server-1.4.6.2.tar.gz，将解压出来的taobao/metamorphosis-server-wrapper文件夹移动到/usr/lib下，并重命名为
73410编辑于 2022-06-28 - 来自专栏飞鸟的专栏
Kafka集群部署文档
/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties & 现在，我们的Kafka集群已经成功部署了 现在，我们已经成功地部署了Kafka集群，并使用Kafka提供的命令行工具测试了它的功能。
88630编辑于 2023-03-28 - 来自专栏NLP/KG
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发 1. 3.LocalAI 部署 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 Dify 支持以本地部署的方式接入 LocalAI 部署的大型语言模型推理和 embedding 能力。 / 官方快速部署手册案例：https://localai.io/docs/getting-started/models/ 首先拉取 LocalAI 代码仓库，并进入指定目录 git clone https LocalAI API 服务部署完毕，在 Dify 中使用接入模型 在 设置 > 模型供应商 > LocalAI 中填入： 模型 1：ggml-gpt4all-j - 模型类型：文本生成 - 模型名称：
3K11编辑于 2024-08-17 开源免费本地AI神器，一键部署多模态大模型！
LocalAI 是一款革命性的开源AI框架，专为本地化部署设计。 Whisper.cpp/Bark.cpp会议记录/语音克隆图像创作StableDiffusion.cpp营销素材生成/艺术创作视频理解vLLM多模态模型视频内容分析/自动剪辑语义检索BERT系列模型知识库问答/文档检索 加速的量化模型支持完整的OpenAI API兼容性活跃的开源社区（每月10+次版本更新）企业级功能：联邦学习/P2P网络应用场景实例案例1：智能文档助手from langchain_community.llms import LocalAIllm = LocalAI(endpoint="http://localhost:8080")response = llm.invoke("总结这篇技术文档的核心要点：", 三大核心优势： 零门槛部署：普通笔记本电脑即可运行百亿参数大模型 全功能覆盖：文本/语音/图像/视频处理一应俱全 高度可扩展：支持自定义模型和分布式集群适用人群：需要私有化部署AI能力的企业开发者对数据安全有严格要求的金融
2.5K10编辑于 2025-03-31- 来自专栏飞鸟的专栏
etcd集群原理，部署文档
本文将介绍etcd集群的原理和部署文档。etcd集群原理etcd是一个强一致性的系统，它采用Raft协议作为一致性算法。 etcd集群部署文档etcd集群可以在多台服务器上部署，以保证高可用性。下面是etcd集群的部署文档：步骤1：安装etcd在所有节点上安装etcd，可以从etcd官网下载二进制文件进行安装。 要部署etcd集群，需要在每个节点上安装etcd软件，并创建etcd配置文件，指定节点的IP地址、端口号、数据存储目录和集群配置。
2K20编辑于 2023-03-27 - 来自专栏cuijianzhe
openstack系列- keystone部署文档
-------------------------------------------------------------------+ ---- 标题：openstack系列- keystone部署文档
1.3K10编辑于 2022-06-14 - 来自专栏C++系列
本地AI新选择：LocalAI如何实现低成本硬件也能轻松训练AI大模型
在本文中，我将详细介绍如何使用Docker快速部署LocalAI，并结合cpolar内网穿透工具实现远程访问。无论你是技术新手还是有经验的老手，都能从中学到实用的知识和技巧！ 安装cpolar内网穿透 不过我们目前只能在本地局域网内访问刚刚部署的LocalAI来使用AI大模型聊天，如果想不在同一局域网内时，也能在外部网络环境使用手机、平板、电脑等设备远程访问与使用它，应该怎么办呢 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！ 如果有长期使用LocalAI，或者异地访问与使用其他本地部署的服务的需求，但又不想每天重新配置公网地址，还想让公网地址好看又好记并体验更多功能与更快的带宽，那我推荐大家选择使用固定的二级子域名方式来配置公网地址 最后，我们使用固定的公网地址在任意设备的浏览器中访问，可以看到成功访问本地部署的LocalAI Web UI页面，这样一个永久不会变化的二级子域名公网网址即设置好了。
1.8K10编辑于 2025-02-14 - 来自专栏张善友的专栏
Semantic Kernel 通过 LocalAI 集成本地模型
今天我们就来看一看如何把SK 和 本地部署的开源大模型集成起来。我们使用MIT协议的开源项目“LocalAI“：https://github.com/go-skynet/LocalAI。 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 可参考官方 Getting Started 进行部署，通过LocalAI我们将本地部署的大模型转换为OpenAI的格式，通过SK 的OpenAI 的Connector 访问，这里需要做的是把openai 如第42行到46行代码所示，运行起来就可以体验下列的效果： 本文示例源代码：https://github.com/geffzhang/sk-csharp-hello-world 参考文章： Docker部署 LocalAI 实现本地私有化 文本转语音（TTS） 语音转文本 GPT功能 | Mr.Pu 个站博客 (putianhui.cn) LocalAI 自托管、社区驱动的本地 OpenAI API 兼容替代方案
1K10编辑于 2024-01-26 - 来自专栏云云众生s
如何通过开源项目 LocalAI 运行本地 LLM
LocalAI 是私有公司 Ollama 的替代品。 我打开了我的 Warp 命令行，并从文档中运行了下面的 docker 提示。我将以适中的速度进行本教程，但我确实假设读者 熟悉 Docker。 在 Docker 桌面中转动控制杆使我们开始运行： 这个文档确实让你在这里有点独立行动的空间，但幸运的是，随着镜像通过了验证，最终消息中的测试 curl 提供了第一步的指引。 文档中还有类似的测试。 这是我尝试过的测试，因为正如我提到的，LocalAI 是 OpenAI 的替代方案。 LocalAI并没有为用户提供一个真正的平台，这在错误出现时需要完全的开发者正确性来跟进反映出来。
1.9K10编辑于 2024-04-08 - 来自专栏山行AI
创建与任何事物聊天的私人ChatGPT-AnythingLLM
一款高效、可定制、开源且适用于企业的文档聊天机器人解决方案。 这是一个全栈应用程序，能让你将任何文档、资源或内容转换成任何LLM可以在聊天中使用的上下文。 你可以在本地运行，也可以远程托管，并能够智能地与你提供的任何文档进行交流。 AnythingLLM将你的文档分成被称为工作区的对象。工作区的功能类似于线程，但增加了对文档的容器化。 查询模式是针对你的文档的简单问答•聊天中的引用链接到原始文档来源和文本•简单的技术堆栈，便于快速迭代•100%云部署就绪•"自带你的LLM"模式•非常高效的成本节约措施，用于管理非常大的文档。 你将不会为一次性嵌入大型文档或成绩单支付多次费用。比其他文档聊天机器人解决方案节省90%的成本•完整的开发者API，用于自定义集成！ (所有模型)[6] 支持的嵌入模型: •AnythingLLM原生嵌入器[7]（默认）•OpenAI[8]•Azure OpenAI[9]•LM Studio (所有)[10]•LocalAi (所有
4.4K10编辑于 2023-12-19 - 来自专栏运维之美
Github 星标 14.6K: 一站式 AI 桌面应用 Anything LLM
Anything LLM 是一个集成了 RAG 和 AI Agent 功能的 AI 桌面应用，它可以将多种格式的文档、网址或内容转化为上下文，以便与大型语言模型（LLM）交流时使用，支持本地运行或部署为服务供多人使用 查询模式则是是针对您的文档做简单问答 聊天中会提供所引用的相应文档内容 100% 云部署就绪 部署你自己的 LLM模型 管理超大文档时高效、低耗。 只需要一次就可以嵌入（Embedding)一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省 90% 的成本。 OpenAI (通用) Azure OpenAI Anthropic Google Gemini Pro Hugging Face (聊天模型) Ollama (聊天模型) LM Studio (所有模型) LocalAi 聊天模型) OpenRouter (聊天模型) Mistral Groq Cohere KoboldCPP 支持的嵌入模型 AnythingLLM原生嵌入器（默认） OpenAI Azure OpenAI LocalAi
2.3K10编辑于 2024-06-13 - 来自专栏AI SPPECH
2025年本地AI部署完全指南：从Ollama到vLLM的全方位实践教程
本文将系统地介绍当前主流的本地AI部署方案，包括Ollama、LocalAI、vLLM、text-generation-webui等工具，并提供详细的部署指南和最佳实践。 3.2 使用Docker部署LocalAI Docker是部署LocalAI的推荐方式，它能够简化安装过程并确保环境的一致性。 基本Docker部署 拉取LocalAI镜像 docker pull localai/localai:latest 创建必要的目录结构 mkdir -p models 启动LocalAI容器 docker 3.7 LocalAI部署最佳实践 资源分配 根据模型大小和预期负载分配足够的CPU和内存资源 对于大型模型，考虑使用GPU加速以提高性能 监控与日志 启用详细日志记录以帮助调试和性能监控 AI部署的主流方案，从基础概念到高级应用，涵盖了Ollama、LocalAI、vLLM、GPT4All和llama.cpp等多个框架。
12.9K31编辑于 2025-11-16 - 来自专栏Laoqi's Linux运维专列
SubversionEdge部署研发团队文档管理
为了提高公司办公效率，需要搭建一款文档分享server，windows可轻轻松松搭建一个文档服务器，但是为了配合研发同事的工作需要，综合考虑最终使用了Linux下的SVN作为首选。
1.5K40发布于 2018-05-31 - 来自专栏SerMsBlog
BMP项目部署参考文档
后台代码部署 前言: 需要环境有,JDK1.8,Maven3.8,Mysql8.0,Redis,Tomcat(自己百度安装),本项目内不含该服务部署 如有细微不同之处,会一对一进行讲诉 打开idea 找到application配置文件,修改数据库端口号、数据库名称、用户名、密码 随后即可点击运行按钮运行此工程 数据库部署 新建数据库,导入项目包里的sql文件即可,太基础这里不做讲解 前台工程项目部署
1.3K10编辑于 2022-11-22 - 来自专栏顾宇的研习笔记
通过 Github Actions 部署 Mkdocs 文档
Mkdocs 是一个采用 Python 构建轻量级的静态 HTML 在线文档框架，内置部署到 Github Pages 的功能。我用来创建实践指南，用来做个人的知识积累。 更多的主题请参考 Wiki 页：https://github.com/mkdocs/mkdocs/wiki/MkDocs-Themes 创建并测试站点 通过mkdocs new <目录>就可以快速创建文档站点 在所在目录执行mkserve，你就可以在http://localhost:8000看到初始化的文档。Mkdocs 会监测目录的改动并重新生成站点更新浏览器。 但如果你修改了配置，比如主题。 HTML 生成和部署 执行mkdocs build会新建site目录，并将 markdown 文件构建为 html 文件。 - run: pip install mkdocs-material - run: mkdocs gh-deploy --force 提交后，你就可以看到自己的站点自动部署到
1.7K10编辑于 2022-01-17 - 来自专栏nginx
从配置到实战：LocalAI+cpolar实现本地AI训练与跨平台访问全过程
今天为您带来一套颠覆性的本地化部署方案——基于LocalAI的智能计算架构。这个开源项目能将普通PC升级为具备强大AI运算能力的终端设备，实现高效模型推理与多样化内容创作。 现在就让我们共同探索这套低成本、高效率的本地智能部署方案！ 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. 安装cpolar内网穿透 不过我们目前只能在本地局域网内访问刚刚部署的LocalAI来使用AI大模型聊天，如果想不在同一局域网内时，也能在外部网络环境使用手机、平板、电脑等设备远程访问与使用它，应该怎么办呢 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！ 最后，我们使用固定的公网地址在任意设备的浏览器中访问，可以看到成功访问本地部署的LocalAI Web UI页面，这样一个永久不会变化的二级子域名公网网址即设置好了。
45210编辑于 2025-11-16 - 来自专栏飞鸟的专栏
nginx高可用方案及部署文档
在本文中，我将介绍一种基于Nginx的高可用方案，同时提供一份详细的部署文档。高可用方案本方案将使用Nginx来提供负载均衡和故障转移，同时使用keepalived来确保Nginx的高可用性。 部署文档以下是一份基于CentOS 7的Nginx高可用性方案的部署文档：步骤1：安装Nginx和keepalived在两台服务器上执行以下命令以安装Nginx和keepalived：Copy codeyum
1.7K20编辑于 2023-03-27 - 来自专栏Linux成长之路
基于华为openEuler部署ShowDoc文档系统
基于华为openEuler系统部署ShowDoc文档管理系统不仅能够提升文档管理的安全性和效率，还能充分利用openEuler系统的稳定性和高性能。 容器化支持：兼容Docker和Kubernetes等容器技术，便于开发者构建、部署和管理容器化应用。丰富的生态系统：拥有庞大的开发者社区和丰富的软件库，为用户提供广泛的软件支持和服务。 多功能文档编写：不仅限于API文档，还支持编写数据字典文档、技术文档及在线Excel文档等多种类型的文档。 二、本次实践介绍2.1 本次实践介绍1.本次实践环境为个人测试环境，生产环境请谨慎；2.本次实践主要是在openEuler系统下部署ShowDoc文档系统。 部署文件中的宿主机映射端口可自定义修改，注意防止宿主机端口冲突。
39100编辑于 2025-07-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号