- 综合排序
- 最热优先
- 最新优先
- 来自专栏轩辕镜像
LocalAI Docker 容器化部署指南
LocalAI的核心优势在于其兼容性和部署灵活性：作为OpenAIAPI的替代品，现有基于OpenAIAPI开发的应用可无缝迁移至LocalAI；同时，其容器化部署方式简化了安装配置流程，降低了本地化部署的技术门槛 本文将详细介绍如何通过Docker容器化方式部署LocalAI，包括环境准备、镜像拉取、容器配置、功能测试及生产环境优化建议，为用户提供可快速落地的部署方案。 环境准备Docker环境安装LocalAI采用容器化部署方式，需先确保系统已安装Docker环境。 容器部署基础部署命令使用以下命令启动LocalAI容器，该命令包含基础的容器配置参数：展开代码语言：BashAI代码解释dockerrun-d\--namelocalai-service\-p8080: ，用户可在各类硬件环境中快速启用LocalAI服务，为本地化AI应用开发和部署提供基础支持。
66310编辑于 2025-12-29 - 来自专栏C++系列
本地AI新选择：LocalAI如何实现低成本硬件也能轻松训练AI大模型
今天我要和大家分享一个超实用的教程——在本地服务器上无需高昂价格的GPU也能运行离线AI项目的开源神器：LocalAI，并结合cpolar内网穿透工具实现轻松远程使用的详细步骤。 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！ 5. 配置固定公网地址 由于以上使用cpolar所创建的隧道使用的是随机公网地址，24小时内会随机变化，不利于长期远程访问。因此我们可以为其配置二级子域名，该地址为固定地址，不会随机变化。
1.9K10编辑于 2025-02-14 - 来自专栏话梅糖のAndroid学习
Hadoop集群部署教程-P5
Hadoop集群部署教程-P5 Hadoop集群部署教程（续） 第十七章：安全增强配置 17.1 认证与授权 Kerberos认证集成： # 生成keytab文件 kadmin -q "addprinc
22400编辑于 2025-04-17 - 来自专栏nginx
从配置到实战：LocalAI+cpolar实现本地AI训练与跨平台访问全过程
今天为您带来一套颠覆性的本地化部署方案——基于LocalAI的智能计算架构。这个开源项目能将普通PC升级为具备强大AI运算能力的终端设备，实现高效模型推理与多样化内容创作。 现在就让我们共同探索这套低成本、高效率的本地智能部署方案！ 【视频教程】 支持CPU推理运行的开源AI神器LocalAI本地安装与远程使用教程 1. Docker部署 本例使用Ubuntu 22.04进行演示，使用Docker进行部署，如果没有安装Docker，可以查看这篇教程进行安装：《Docker安装教程——Linux、Windows、MacOS 如图所示，现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦！ 5. 配置固定公网地址 由于以上使用cpolar所创建的隧道使用的是随机公网地址，24小时内会随机变化，不利于长期远程访问。因此我们可以为其配置二级子域名，该地址为固定地址，不会随机变化。
50010编辑于 2025-11-16 - 来自专栏AI SPPECH
2025年本地AI部署完全指南：从Ollama到vLLM的全方位实践教程
3.2 使用Docker部署LocalAI Docker是部署LocalAI的推荐方式，它能够简化安装过程并确保环境的一致性。 基本Docker部署 拉取LocalAI镜像 docker pull localai/localai:latest 创建必要的目录结构 mkdir -p models 启动LocalAI容器 docker 混合云部署：结合本地和云端优势的混合部署模式 自动模型选择：根据任务和硬件条件自动选择最佳模型和参数 多模态能力：本地部署方案对多模态模型的支持将逐步增强 结论 总结与展望 本教程全面介绍了2025年本地 通过本教程的学习，您应该能够： 理解本地AI部署的优势和挑战 根据自己的需求选择合适的部署方案 完成从安装配置到优化维护的全流程操作 实现多模型协同部署和性能监控 掌握故障排除和资源优化的方法 随着AI 下一步建议 实践项目：尝试使用本教程中的方法部署一个完整的AI应用 社区参与：加入相关开源社区，分享经验和获取最新资讯 持续学习：关注模型优化和部署技术的最新进展 性能调优：深入研究模型量化和硬件加速技术
14.7K31编辑于 2025-11-16 - 来自专栏UQUQ
Microsoft 365 E5 Renew X 部署教程
Microsoft 365 E5 Renew X Microsoft 365 E5 Renew X是一款网页版的E5续订服务，其依赖网页浏览器呈现支持用户多端操作，完全将E5账户API调用托管在了服务器端因此用户无需电脑也可使用 Microsoft 365 E5 Renew X 由来 Microsoft 365 E5 Renew X为Microsoft 365 E5 Web的升级版，相对于旧版其增强了管理功能且更容易部署，API 随机区段1000s-2000s固定 完全随机的API内容(仅部分API支持)：发送邮件的内容随机 Onedirve上传文件的内容随机 邮件通知服务：支持设置通知邮箱，调用异常会通过邮件通知无需反复登录查看 部署端 平台兼容性：使用Asp.Net Core 作为跨平台框架增适用于 Windows|Linux|MacOS x64|x86|ARM64|ARM 灵活部署：支持开放站点部署和私享部署，私享部署不再强制要求配置 如果端口是开的话 访问就有界面了 使用域名并开启https简略教程： 添加站点 添加反向代理 目标URL：http://127.0.0.1:1066 发送域名：$host 添加证书开启HTTPS
4.2K20编辑于 2023-05-11 - 来自专栏NLP/KG
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发 1. 3.LocalAI 部署 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 Dify 支持以本地部署的方式接入 LocalAI 部署的大型语言模型推理和 embedding 能力。 models path: /models 7:16AM INF LocalAI version: v1.24.1 (9cc8d9086580bd2a96f5c96a6b873242879c70bc) LocalAI API 服务部署完毕，在 Dify 中使用接入模型 在 设置 > 模型供应商 > LocalAI 中填入： 模型 1：ggml-gpt4all-j - 模型类型：文本生成 - 模型名称：
3.1K11编辑于 2024-08-17 - 来自专栏跟着小郑学JAVA
T系列部署教程5：项目后端的导入和运行
提示：受网络因素影响，下载可能会比较缓慢，同学们可以在启动教程第一节的评论区中下载安装包，如下图所示。 启动教程 第1节 2.2 IDEA 安装 请同学们双击 ideaIU-2022.1.4.exe 安装包，点击下一步，如下图所示。 接着确认 IDEA 的安装位置，点击下一步，如下图所示。
50800编辑于 2024-05-26 - 来自专栏Elastic Stack专栏
如何在隔离环境中使用GPU加速的LocalAI进行文本嵌入
作为替代方案，你可以使用ELSER和E5在本地计算嵌入。这些嵌入模型在CPU上运行，并针对速度和内存使用进行了优化。它们也适用于隔离系统，并且可以在云中使用。 使用LocalAI，你可以做到这一点。LocalAI是一个免费且开源的推理服务器，与OpenAI API兼容。 LocalAI还支持GPU加速，因此你可以更快地计算嵌入。这篇文章将向你展示如何使用LocalAI计算数据的嵌入。 如何设置LocalAI来计算数据的嵌入第一步：使用docker-compose设置LocalAI要开始使用LocalAI，你需要在你的机器上安装Docker和docker-compose。 第二步：配置LocalAI使用Sentence Transformers模型在本教程中，我们将使用mixedbread-ai/mxbai-embed-large-v1，它目前在MTEB排行榜上排名第四。
85611编辑于 2025-02-07 - 来自专栏Se7en的架构笔记
CDH 部署教程
节点规划 Cloudera Manager Server 节点提供 WebUI 操作界面，管理 Cloudera Manager Agent 节点，在运行 Agent 的机器上部署大数据相关组件。 The key fingerprint is: SHA256:57wmDSyaKv2aq487Y9mSgdMCU5A6HSnrXUn4HC6PFuM root@cm-server The key's randomart # 在MySQL暂时停止响应新请求之前的短时间内多少个请求可以被存在堆栈中；官方建议back_log = 50 + (max_connections / 5) log_queries_not_using_indexes = 1 # 检查未使用到索引的sql log_throttle_queries_not_using_indexes = 5 集群开始安装部署，启动服务。 ? 完成安装。 ? CDH 集群安装检查 登陆 Clouder Manager 管理界面，可以检查集群各组件运行情况。 ?
4.5K20发布于 2021-07-23 - 来自专栏张善友的专栏
Semantic Kernel 通过 LocalAI 集成本地模型
今天我们就来看一看如何把SK 和 本地部署的开源大模型集成起来。我们使用MIT协议的开源项目“LocalAI“：https://github.com/go-skynet/LocalAI。 LocalAI 是一个本地推理框架，提供了 RESTFul API，与 OpenAI API 规范兼容。 可参考官方 Getting Started 进行部署，通过LocalAI我们将本地部署的大模型转换为OpenAI的格式，通过SK 的OpenAI 的Connector 访问，这里需要做的是把openai 如第42行到46行代码所示，运行起来就可以体验下列的效果： 本文示例源代码：https://github.com/geffzhang/sk-csharp-hello-world 参考文章： Docker部署 LocalAI 实现本地私有化 文本转语音（TTS） 语音转文本 GPT功能 | Mr.Pu 个站博客 (putianhui.cn) LocalAI 自托管、社区驱动的本地 OpenAI API 兼容替代方案
1.1K10编辑于 2024-01-26 - 来自专栏计算机视觉战队
实用教程详解：模型部署，用DNN模块部署YOLOv5目标检测（附源代码）
计算机视觉研究院专栏 今天给大家分享一些实践的干货，主要是怎么将训练好的网络模型部署落地。有兴趣的同学，请跟我们一起学习！ 一、什么是模型部署？ 模型部署是任何机器学习项目的最后阶段之一，可能有点棘手。如何将机器学习模型传递给客户/利益相关者？ 模型的部署大致分为以下三个步骤： 模型持久化 持久化，通俗得讲，就是临时数据（比如内存中的数据，是不能永久保存的）持久化为持久数据（比如持久化至数据库中，能够长久保存）。 三、DNN模块部署Yolov5 用opencv的dnn模块做yolov5目标检测的程序，包含两个步骤：1)、把pytorch的训练模型pth文件转换到onnx文件；2)、opencv的dnn模块读取onnx 生成yolov5s_param.pth 的步骤： 首先下载https://github.com/ultralytics/yolov5的源码到本地，在yolov5-master主目录(注意不是我发布的github
1.1K10编辑于 2024-12-19 开源免费本地AI神器，一键部署多模态大模型！
LocalAI 是一款革命性的开源AI框架，专为本地化部署设计。 零门槛模型管理# 从HuggingFace直接部署模型local-ai run huggingface://TheBloke/phi-2-GGUF/phi-2.Q8_0.gguf# 使用Ollama模型库 3.2-1b-instruct:q4_k_m", "messages": [{"role": "user", "content": "用Python写个快速排序"}] }'同类项目对比项目名称部署难度功能丰富度硬件要求社区生态 三大核心优势： 零门槛部署：普通笔记本电脑即可运行百亿参数大模型 全功能覆盖：文本/语音/图像/视频处理一应俱全 高度可扩展：支持自定义模型和分布式集群适用人群：需要私有化部署AI能力的企业开发者对数据安全有严格要求的金融 /医疗行业想要学习大模型技术的AI爱好者项目地址https://github.com/mudler/LocalAI
2.7K10编辑于 2025-03-31- 来自专栏计算机视觉战队
实用教程详解：模型部署，用DNN模块部署YOLOv5目标检测（附源代码）
作者：Edison_G 今天给大家分享一些实践的干货，主要是怎么将训练好的网络模型部署落地。有兴趣的同学，请跟我们一起学习！ 一、什么是模型部署？ 模型部署是任何机器学习项目的最后阶段之一，可能有点棘手。如何将机器学习模型传递给客户/利益相关者？ 模型的部署大致分为以下三个步骤： 模型持久化 持久化，通俗得讲，就是临时数据（比如内存中的数据，是不能永久保存的）持久化为持久数据（比如持久化至数据库中，能够长久保存）。 三、DNN模块部署Yolov5 用opencv的dnn模块做yolov5目标检测的程序，包含两个步骤：1)、把pytorch的训练模型pth文件转换到onnx文件；2)、opencv的dnn模块读取onnx 生成yolov5s_param.pth 的步骤： 首先下载https://github.com/ultralytics/yolov5的源码到本地，在yolov5-master主目录(注意不是我发布的github
3.9K20编辑于 2021-12-08 - 来自专栏波波烤鸭
SpringMVC教程5
在需要回传的对象前添加@ModelAttribute(“bb”)注解，在界面中就可以通过bb前缀来获取回写信息。
1K20发布于 2019-04-02 prometheus部署教程（二）
安装prometheus的详细过程看：prometheus部署教程（一）-腾讯云开发者社区-腾讯云1、部署mysql-exporter(1)操作准备安装MySQL：参考连接：Mysql 安装教程-腾讯云开发者社区 exporter --config.my-cnf=/app/mysql exporter/my.cnfRestart=on-failure[Instal1]WantedBy=multi-user.target（5） Prometheus配置文件并重启Prometheus服务vim /app/prometheus/prometheus.yml - job_name: 'mysql' scrape_interval:5s static_configs: -targets:['IP:9104'] #mysql服务器的ip加端口 systemctl restart prometheus(7)登录页面查看2、部署 redis_exporter(1)部署前准备安装redis集群，参考连接redis（Cluster）集群-腾讯云开发者社区-腾讯云(2)在客户端主机创建app日录，并上传gz又件cd /apptar -
58700编辑于 2025-04-14- 来自专栏分享学习
DeepSeek本地部署教程
DeepSeek是一款强大的知识检索和问答工具，通过本地部署，用户可以更加便捷地进行知识检索和问答操作。本文将详细介绍如何在本地部署DeepSeek，以便用户能够充分利用其强大的功能。 环境要求 在本地部署DeepSeek之前，需要确保计算机满足以下环境要求： 操作系统：Linux（推荐）或Windows。 Python版本：Python 3.7及以上。 DeepSeekModel model = DeepSeekModel() result = model.predict(input_data) print(result) 使用与调试 使用DeepSeek 在成功部署并启动
1.5K10编辑于 2025-05-18 Promethues部署教程（三）
的级别调整为warning，主机宕机调整为critical vim /etc/prometheus/rules/vim node_exporter.rules 修改完上面的内容重启prometheus 5、 start prometheusalert systemctl enable prometheusalert 4、登录页面： 端口，账号密码分别是配置文件中全局变量的监听端口，登录账号和密码也可以自行修改 5、
47810编辑于 2025-04-18OpenTenBase 单机部署教程
适用范围：本教程只适用于RedHat系列（CentOS、RockyLinux）说明：本文档演示单机集中式部署方案，适用于开发测试环境。 makeinstall#安装contrib模块chmod+xcontrib/pgxc_ctl/make_signaturecdcontribmake-sj$(nproc)makeinstall三、安装与部署 server]ssh-user=opentenbase#此处更换为创建OpenTenBase用户时设置的密码ssh-password=123456ssh-port=22[log]level=DEBUG5. /opentenbase_ctlinstall-cconfig.ini部署过程展开代码语言：BashAI代码解释======StarttoInstallinstanceopentenbase_c==== successfullySuccesstoinstallallcn/dnmasternodes.step4:Installslavenodes...Successtoinstallallslavenodes.step5:
28520编辑于 2025-12-12- 来自专栏群晖NAS的技术分享
linux部署frp教程
通过 getconf LONG_BIT Linux查看系统位数命令：返回的结果如果是64，说明linux系统属于64位；返回32，系统属于32位。
1.7K20编辑于 2022-11-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号