- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型应用
大模型应用：构建智能大模型运维体系：模型健康度监测系统实践.8
引言 大型语言模型已成为各行各业的核心基础设施。从客户服务到内容创作，从代码生成到科学研究，大模型正深度融入企业的核心业务流程。 传统的系统监控工具如Zabbix、Prometheus等虽然能监控基础硬件资源，但无法深入理解大模型服务的特殊行为模式，无法感知模型推理的内在质量，更无法预测服务性能的潜在风险。 今天我们将以模型健康度监测系统为例，深度剖析现代大模型运维平台的设计理念、技术实现与创新亮点。通过详细的流程分析、架构解读和实践场景说明，为构建智能化的模型运维体系提供完整的实践参考和技术路线图。 多层次监控体系 系统构建我们采用了四层级的立体化监控架构，每一层都针对大模型服务的特定维度进行深度监控：系统资源层：基础硬件资源监控（CPU、内存、磁盘、网络），确保运行环境稳定模型运行层 ): """智能性能评分算法 - 基于大模型服务特性的专业评分体系""" score = 100 # 基准分数 # CPU性能 (权重: 25%) - 考虑到大模型推理对CPU
37343编辑于 2026-02-05 - 来自专栏好好学java的技术栈
Java 8 开发的 4 大技巧
来自 | Elyn 责编 | 乐乐 链接 | evget.com/article/2016/8/10/24674.html 正文 我使用Java 8编码已经有些年头，既用于新的应用程序 但是我发现了一些Java 8代码中可以帮助我们的一些选择，让我们一起来看看吧。 2.使用Lambda表达式 Lambda表达式是Java 8的主要特点之一。即使你还没有使用Java 8，你现在可能已经对它们有了基本的了解。 4.Stream Stream API是Java 8另一个大特点，并且我认为我们还真的不知道这对我们的编码方式会产生多大的改变。下面是我发现的一些有用的东西 排队点操作符 我个人更喜欢排队我的流操作。 遍历数组时使用循环 但是，使用Java 8并不一定意味着你必须到处使用流和新的集合方法。
82110发布于 2019-12-05 - 来自专栏token的技术分享
基于.NET8的AI大模型管理
此外，AIDotNet API还支持多种AI大模型，包括OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问（阿里云）、AzureOpenAI以及腾讯混元大模型，满足了用户对各种AI 模型的需求。 基于.NET Core 8实现使用EntityFrameworkCore对于数据库操作。基于MiniApis提供WebAPI服务。 功能实现 支持用户管理 支持渠道管理 支持token管理 提供数据统计预览 支持日志查看 支持系统设置 支持接入外部Chat链接 支持支付宝购买账号余额 AI大模型支持列表 OpenAI （支持function ） 星火大模型（支持function） Claudia 智谱AI Ollama 通义千问（阿里云） AzureOpenAI（支持function） 腾讯混元大模型 支持数据库 SqlServer 配置类型
36810编辑于 2024-05-28 - 来自专栏SpringBoot教程
Java8 Stream，常用方法大合集
一、概述 二、分类 三、具体用法 1.流的常用创建方法 2.流的中间操作 3.流的终止操作 一、概述 tream 是 Java8 中处理集合的关键抽象概念，它可以指定你希望对集合进行的操作，可以执行非常复杂的查找 stream2 = Stream.iterate(0, (x) -> x + 2).limit(6); stream2.forEach(System.out::println); // 0 2 4 6 8 distinct：通过流中元素的 hashCode() 和 equals() 去除重复元素 Stream<Integer> stream = Stream.of(6, 4, 6, 7, 3, 9, 8, .distinct() //6 7 9 8 10 12 14 .skip(2) //9 8 10 12 14 .limit(2); //9 8 newStream.forEach ，当元素个数小于24时，并行时线程数等于元素个数，当大于等于24时，并行时线程数为16 List<Integer> list = Arrays.asList(1, 2, 3, 4, 5, 6, 7, 8,
71840编辑于 2023-02-16 - 来自专栏InvQ的专栏
Java程序猿8大排序算法
先来看看8种排序之间的关系： ? （3）用java实现 import java.util.Arrays; publicclass HeapSort { inta[]={49,38,65,97,76,13,27,49,78,34,12,64,5,4,62,99,98,54,56,17,18,23,34,15,35,25,53,51 low++; } list[high] =list[low]; //比中轴大的记录移到高端 data[tmp]=tmpArr[tmp++]; } System.out.println(Arrays.toString(data)); } } 8、 （3）用java实现 import java.util.ArrayList; import java.util.List; public class radixSort {
51120发布于 2020-09-27 - 来自专栏你我杂志刊
Java8 4大函数式接口
本文将针对Lambda表达式进一步了解与学习，在使用Lambda表达式之前，有一个东西非常重要，那就是函数式接口，接下来，本文将讲解Java8内置的四大核心函数式接口。 * 函数型接口：Function<T,R> */ @Test public void test5(){ String s=operatorStr("中国四大名著 filterList.add(str); } return filterList; } @Test public void test8( 其他类型的一些函数式接口 除了上述的四大类型函数式接口外还有其他的一些接口供我们使用： 1. BiFunction<T, U, R> 其中T，U是2个入参参数类型，R为返回值。 以上就是java8内置的核心函数式接口，其中包括了大部分得方法类型，所以可以在使用得时候根据不同得使用场景去选择不同得接口使用。
79630编辑于 2022-08-09 Java已死，大模型才是未来？
本文将从多个维度深入探讨Java的现状、大模型技术的影响，以及Java与大模型融合的可能性，为读者提供一个更为全面和深入的视角。 Java与大模型的融合与变革在大模型技术崛起的背景下，Java作为一种成熟且广泛应用的编程语言，自然也在探索与大模型技术的融合之路。事实上，Java与大模型的融合已经取得了不少进展和成果。 首先，Java社区对于大模型技术的支持和探索已经初见成效。一些开源项目和框架在Java环境中实现了深度学习和大模型技术的支持，如Deeplearning4j、ND4J等。 这些项目和框架为Java开发者提供了丰富的工具和资源，使得他们能够更加方便地构建和部署基于大模型的应用。其次，Java自身的特性和优势也为其与大模型的融合提供了有力的支持。 同时，Java的跨平台特性也使得基于Java的大模型应用能够在不同的操作系统和硬件平台上运行，从而提高了应用的兼容性和可移植性。最后，Java与大模型的融合也推动了软件开发的智能化升级。
84320编辑于 2024-09-29- 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 提示词工程（Prompt engineering）[8]是让语言模型完成特定任务的最快捷方法之一。 然而，目前没有官方的 Java 版本 LangChain 可供 Java 或 Spring 应用使用。 不过，社区开发了 Java 版本 LangChain，称为 LangChain4j[15] ，支持 Java 8 或更高版本，并兼容 Spring Boot 2 和 3。 模块化组件不仅提供了有用的抽象，还包含了一系列操作语言模型的实现。接下来，我们将通过 Java 示例来讨论其中的一些模块。 5.1.
2.7K12编辑于 2025-03-29 - 来自专栏快乐阿超
Java生态AI大模型框架langchat
——严歌苓 Github： GitHub - TyCoding/langchat: LangChat: Java LLMs/AI Project, Supports Multi AI Providers ( OpenAI / Gemini / Ollama / Azure / 智谱 / 阿里通义大模型 / 百度千帆大模型), Java生态下AI大模型产品解决方案，快速构建企业级AI知识库、AI机器人应用 官方文档： https://langchat.cn/ 介绍： LangChat是Java生态下企业级AIGC项目解决方案，在RBAC权限体系的基础上，集成AIGC大模型能力，帮助企业快速定制AI知识库 接入 OpenAI / Gemini / Ollama / Azure / Claude / 智谱AI / 阿里通义大模型 / 百度千帆大模型 等大模型。 这里顺带说一下咱们dromara的easyai也是Java生态的AI大模型框架，采用Apache-2.0开源协议，可以免费商用～
43010编辑于 2024-09-13 - 来自专栏MavenTalk
开源社区大模型目前面临的8大瓶颈问题
但面对商业化的ClosedAI和OpenAI等语言模型，还存在一些瓶颈。 数据量不足，预训练数据有限 开源社区很难获得大规模高质量的数据集来进行模型预训练，导致其模型质量无法与业内巨头相提并论。 数据量的不足直接限制了模型的表达能力和推理能力。 算力资源有限，GPU/TPU数量相对较少 开源社区几乎没有足够的GPU/TPU来训练超大规模的模型参数，很难进行长时间的预训练，无法匹敌巨头公司拥有的算力优势。算力的缺乏是开源模型质量提升的硬限制。 商业化受限，收入有限，难以持续投入 开源社区很难直接通过模型商业化来获得持续的财务支持，长期投入会面临资金短缺问题。 模型泛化、可解释性与安全性等方面有待提高 开源模型的可解释性和安全性还需要加强，部署时存在不确定性，这也是限制其应用的一个因素。
59930编辑于 2023-09-06 - 来自专栏老张的求知思考世界
全链路压测(8)：构建三大模型
梳理核心链路的一个重要目的是获得流量模型。但在全链路压测中，除了流量模型，业务模型和数据模型一样重要。这篇文章，为大家介绍如何构建这三大模型。 下图是一个常见的电商双11大促时候的业务场景模型图，我以这个思维导图为例来做分析说明。 峰值流量模型 预估的流量模型要以峰值流量场景来预估，否则很可能由于错误的预估导致准备不足而致使大促期间线上出现问题。这不仅是一个技术和监控的问题，还要综合考虑本次大促期间业务目标以及业务转化率的因素。 预估大促时的支付转化率为60%，则可得：大促峰值订单支付QPS为（200/40%）*60%*（200W/50W）=1200QPS。 ，确认以下信息： 是否有热点数据相关的操作：比如说所有用户秒杀同一件商品； 不同类型数据处理逻辑有差异时，需通过测试数据多样化提高性能测试代码覆盖率； 缓存数据：要确认是否有缓存，缓存大小为多少（排除大key
1.5K30编辑于 2022-05-17 - 来自专栏MavenTalk
8家国产AI大模型开放使用，人手一个大模型的时代来临
什么是大模型 先做个扫盲，AI大模型是“人工智能预训练大模型”的简称。语言模型是一种人工智能模型，它被训练成理解和生成人类语言。 这8家分别是谁 百度（文心一言） 抖音（云雀大模型） 智谱AI（GLM大模型） 中科院（紫东太初大模型） 百川智能（百川大模型） 商汤（日日新大模型） MiniMax（ABAB大模型） 上海人工智能实验室 （书生通用大模型） 书生通用大模型与云雀大模型我确实是第一次听说，国内大模型再现当年百团「团购」大战的身影，截至2023年7月,中国累计已经有130个大模型问世。 MiniMax（ABAB大模型） https://www.sensetime.com/ 商汤（日日新大模型） https://intern-ai.org.cn 上海人工智能实验室（书生通用大模型） 至于这8家的AI大模型的能力如何，交给你来评判吧。不过至今为止，依旧是无人能挑战ChatGPT的霸主地位。 祝你早日用上AI大模型，帮助自己提升工作、生活、学习效率。
3.1K40编辑于 2023-09-06 - 来自专栏Java技术栈
Java 12 正式发布，8大新特性！
自 2 月 7 日开始，Java/JDK 12 就进入了 RC 阶段。按照发布周期，美国当地时间 3 月 19 日，也就是北京时间 20 号 Java 12 正式发布了！ ? △ JDK 12 GA 发布 Java 12 带来了一系列新特性： ? 8、G1 及时返回未使用的已分配内存 增强 G1 GC，在空闲时自动将 Java 堆内存返回给操作系统。 为了实现向操作系统返回最大内存量的目标，G1 将在应用程序不活动期间定期执行或触发并发周期以确定整体 Java 堆使用情况。这将导致它自动将 Java 堆的未使用部分返回给操作系统。 特性详见： http://openjdk.java.net/jeps/326 该特性原计划于 JDK 12 发布，可惜最后还是被取消了，详见： http://mail.openjdk.java.net
64830发布于 2019-07-08 - 来自专栏IT知识进阶学习
JAVA自学-8大基础数据类型详解
本篇文章中，我们也将依据此思想，去更加深入地认识JAVA中最基础的八大数据类型，看看它们在JAVA世界中都存在哪些用途。 更形象的理解是，数据类型就好比我们生活中容纳物体的各种容器，但是不同的容器也有着不同的特征，从JAVA世界诞生之初，就存在着8种最基础的“容器”，也被称为基本数据类型，它们分别是byte、short、int 非常大的整数 -2^63^ ~ 2^63^-1 浮点型 float 4 普通实数 -3.402 823*10^38^ ~ 3.402 823*10^38^ 双精度 double 8 非常大的实数 -1.7977 那么就会出现精度的丢失，所以必须显示指定类型转换，格式如下：(需要转换的类型)要转换的值 小结 ---- 本篇文章通过类比的方式介绍了JAVA中自带的8大基础数据类型的特点和使用场景，这8大基础类型将伴随着我们整个编程生涯 下一篇我们将介绍如何通过这8大基础数据类型进行相应的算术运算，设计实现一个简单的计算器案例。
1.1K30编辑于 2022-09-13 - 来自专栏创作是最好的自我投资
通用大模型VS垂直大模型
在人工智能这个充满无限可能的领域内，通用大模型和垂直大模型各有千秋。就我个人而言，在二者之间的选择上，并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求，来挑选最为契合的大模型。 通用大模型通用大模型，乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面，通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时，选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而，由于垂直大模型的训练内容聚焦于当前行业，其涉猎的范围更集中，数据针对性更强，所以在提供专业咨询时往往更加精准、细致，这也正是垂直大模型的独特价值所在。 因此，对于通用大模型或者垂直大模型，更倾向于哪一方不取决于个人想法，而是取决于用户需要。
78101编辑于 2024-12-30 - 来自专栏爱编码
JAVA8十大新特性详解
新的Java 8 的这个特新在编译器实现的角度上来说更加接近Scala的trait。 在C#中也有名为扩展方法的概念，允许给已存在的类型扩展方法，和Java 8的这个在语义上有差别。 在Java 8 中你就没必要使用这种传统的匿名对象的方式了，Java 8提供了更简洁的语法，lambda表达式： Collections.sort(names, (String a, String b) 在Java 8之前一般某个函数应该返回非空对象但是偶尔却可能返回了null，而在Java 8中，不推荐你返回null而是返回Optional。 九、Date API Java 8 在包java.time下包含了一组全新的时间日期API。 注解 在Java 8中支持多重注解了，先看个例子来理解一下是什么意思。
1.1K31发布于 2019-11-01 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.5K30编辑于 2023-10-10 - 来自专栏Java后端技术栈cwnait
Java 线程池 8 大拒绝策略，面试必问！
前言 谈到java的线程池最熟悉的莫过于ExecutorService接口了，jdk1.5新增的java.util.concurrent包下的这个api，大大的简化了多线程代码的开发。 我们常见的如java线程池、jdbc连接池、redis连接池等就是这类设计的代表实现。 这种设计会初始预设资源，解决的问题就是抵消每次获取资源的消耗，如创建线程的开销，获取远程连接的开销等。 除了初始化资源，池化设计还包括如下这些特征：池子的初始值、池子的活跃值、池子的最大值等，这些特征可以直接映射到java线程池和数据库连接池的成员属性中。 结语 前文从线程池设计思想，以及线程池触发拒绝策略的时机引出java线程池拒绝策略接口的定义。并辅以JDK内置4种以及四个第三方开源软件的拒绝策略定义描述了线程池拒绝策略实现的各种思路和使用场景。 希望阅读此文后能让你对java线程池拒绝策略有更加深刻的认识，能够根据不同的使用场景更加灵活的应用。
64410发布于 2019-11-24 - 来自专栏Java技术栈
Java 线程池 8 大拒绝策略，面试必问！
前言 谈到java的线程池最熟悉的莫过于ExecutorService接口了，jdk1.5新增的java.util.concurrent包下的这个api，大大的简化了多线程代码的开发。 除了初始化资源，池化设计还包括如下这些特征：池子的初始值、池子的活跃值、池子的最大值等，这些特征可以直接映射到java线程池和数据库连接池的成员属性中。 推荐阅读：教你如何监控 Java 线程池运行状态。 线程池触发拒绝策略的时机 和数据源连接池不一样，线程池除了初始大小和池子最大值，还多了一个阻塞队列来缓冲。 推荐阅读：java高级应用：线程池全面解析。 希望阅读此文后能让你对java线程池拒绝策略有更加深刻的认识，能够根据不同的使用场景更加灵活的应用。
15.6K32发布于 2019-10-14 - 来自专栏全栈程序员必看
Java函数式编程之Java8四大函数接口
【前序】： 在Java8中，内置了四个核心函数接口，它们存在是Lamda表达式出现的前提，Lamda表达式想重写函数式接口中的唯一方法。 参数操作，返回R类型参数 Predicate< T>段言型接口 接口方法 boolean test（T t）：对类型T进行条件筛选操作，返回boolean 1.消费型接口 先看一下源码： import java.util.Objects 举例1⃣️： import java.util.function.Consumer; public class Test { public static void main(String * Gets a result. * * @return a result */ T get(); } 供给型接口提供一个给定参数类型的结果 举例：产生一些整数，并放入集合中 import java.util.function.Supplier void main(String[] args){ List<String> list =Arrays.asList("Hello","World","Function","Lambda","Java
82710编辑于 2022-07-31
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号