首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • GLM-4-9B-Chat vLLM 部署调用

    \n - **充足睡眠**:保证每晚7-9小时的高质量睡眠,有助于身体恢复和内分泌平衡。\n\n2. 这里指定 --max-model-len=2048 是因为 GLM4-9b-Chat 模型的最大长度过长 128K,导致 vLLM 初始化 KV 缓存时消耗资源过大。 glm-4-9b-chat --max-model-len=2048 --trust-remote-code 通过 curl 命令查看当前的模型列表。 curl http://localhost:8000/v1/models 得到的返回值如下所示: {"object":"list","data":[{"id":"glm-4-9b-chat","object ":"model","created":1717567231,"owned_by":"vllm","root":"glm-4-9b-chat","parent":null,"permission":[{

    1.6K20编辑于 2025-07-21
  • GLM-4-9B-chat FastApi 部署调用

    snapshot_download, AutoModel, AutoTokenizer import os model_dir = snapshot_download('ZhipuAI/glm-4-9b-chat ': # 加载预训练的分词器和模型 tokenizer = AutoTokenizer.from_pretrained("/root/autodl-tmp/ZhipuAI/glm-4-9b-chat trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained( "/root/autodl-tmp/ZhipuAI/glm-4-9b-chat 默认部署在 6006 端口,通过 POST 方法进行调用,可以重新开启一个终端使用 curl 调用,如下所示: curl -X POST "http://127.0.0.1:6006" \ - , "status":200, "time":"2024-06-05 14:01:23" } 调用示例结果如下图所示: 也可以使用 python 中的 requests 库进行调用,如下所示:

    61910编辑于 2025-07-21
  • 来自专栏黄啊码【CSDN同名】

    phpcms v9文章页调用栏目链接调用成首页

    phpcms v9文章页调用栏目链接调用成首页 解决办法: url写入失败,所以需要手动写入栏目文件夹名称 文章的设置需注意选择内容页模板 然后批量更新栏目页,url,内容页就可以了

    5.9K30发布于 2020-05-29
  • 来自专栏全栈程序员必看

    使用axis调用WebService,Java WebService调用工具

    文章目录 WebService 简介 概述 使用 axis 调用 WebService 引入依赖 WebService 调用工具类 WebService 简介 概述 能使得运行在不同机器上的不同应用无须借助附加的 groupId> <artifactId>commons-discovery</artifactId> <version>0.2</version> </dependency> WebService 调用工具类 javax.xml.rpc.ParameterMode; import java.util.List; import java.util.Map; import java.util.Set; /** * WebService - 工具类 第二个方法适用于调用 WebService后,返回的值为 String 类型。 参数详解: methodName:函数名。需要调用的 WebService 的函数名称。 params:参数。 调用 WebService 时需传入的参数。 版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。

    2.4K160编辑于 2022-11-02
  • 来自专栏啄木鸟软件测试

    DevOps工具介绍连载(9)——Rally

    Rally作为OpenStack一个独立项目,可通过模拟高并发场景的压力测试来测试云环境的性能和规模。Rally可对已经部署完成的云环境(deployment)进行测试,还支持部署云环境,通过自身提供的deployment engine。Rally 能够自动安装和运行tempest来测试云环境。并对rally测试结果生成HTML格式报告文档。Rally DB 则用于存放测试结果。

    1.4K20发布于 2020-02-19
  • 来自专栏啄木鸟软件测试

    精准测试及其工具(连载9

    精准测试云平台采用“一种基于测试用例与代码逻辑、源码版本关系矩阵的测试用例选取方法”的回归技术,在回归测试时,基于智能算法,完全自动筛选计算出每个测试用例受影响的程序,用户可以根据此数据来进行用例回归测试的优先级排序,把高风险的用例测试放到前面,大大减少了回归测试的时间。

    81430发布于 2019-12-12
  • 来自专栏啄木鸟软件测试

    安全测试工具(连载9

    4 APP反向编译工具 APP反向编译工具是APP安全领域很重要的工具,本节介绍Dex2jar、和jd-gui。秀一节介绍apktool。 ljd-gui:是一个基于JAVA GUI界面的转换jar文件成JAVA源代码的工具。 lapktool:是一款集成了android apk编译、转换签名文件、smali文件编辑等功能于一体的软件。 \demo4-dex2jar.jar 然后通过jd-gui工具查看JAVA源代码(jd-gui下载后也放在Dex2jar目录下),如45所示。 使用Proguard工具进行混淆 AndroidSDK工具目录下%SDK_HOME%\tools\自带Proguard工具,但是一般而言版本比较低,建议在网上下载最新版本,放在%SDK_HOME 试过上面操作的读者会发现Proguard仅仅对jar文件进行了简单的混淆,比如变量改为a,b,c,d…,而对程序逻辑,算法依旧清晰可见,一般在真正工作开发中希望使用一些专业化的混淆工具,比如360 APP

    85310发布于 2019-12-12
  • 来自专栏李维亮的博客

    phpcms V9如何调用栏目图片的方法

    直接上调用的标签 {$CATEGORYS[$catid][image]} 上个实例在 最后将顶级栏目下子栏目循环显示代码贴出来方便大家学习: {if $top_parentid} {pc:content siteid="$siteid" order="listorder ASC"} {loop $data $r} {$r[catname]}| {/loop} {/pc} {/if} 如果需要调用视频专辑和搜索的话

    4.7K20发布于 2021-07-09
  • 来自专栏网络技术联盟站

    9个Linux工具值得关注!

    [20220504144740.png] 该工具可用于 Linux 平台,作为通用安装程序和特定 Web 浏览器的补充。 [20220504144945.png] 该工具提供协作功能。您可以发布说明、发表您的想法或与您的朋友、同事或家人分享列表。 该工具允许用户创建多层次结构,直观地表示想法、工作流程或知识。 9.Catfish Catfish是 Linux 平台的文件搜索工具,它可以加快您在机器上处理文件的速度,从而节省您进行高效工作的时间。 该工具使用系统中已包含的技术处理您的搜索查询,并在图形界面中显示结果。

    1.1K20编辑于 2022-05-07
  • 来自专栏啄木鸟软件测试

    单元测试工具(连载9

    3.2 unittest的测试覆盖率分析 利用coverage工具可以分析单元测试的覆盖率,首先我们通过pip命令下载coverage。

    59740发布于 2019-12-12
  • 来自专栏啄木鸟软件测试

    LoadRunner12工具介绍(连载9

    106 设置手机代理服务 107 设置手机连接的代理服务器端口 (2)点击工具栏中红色的【Record】按钮,Recording mode选择RemoteApplication

    69310发布于 2019-12-12
  • 来自专栏马超的博客

    开源:LLMCompiler高性能工具调用框架

    它还通过减少对 LLM 的调用次数来节省 Tokens 使用的成本。实现 灵感来自《An LLM Compiler for Parallel Function Calling》。   LLMCompiler 基于用户指令执行工具调用时其实可以理解为 LLM 帮用户做了类似 SQL 生成执行计划的过程,只不过这里生成的计划是一个 DAG,DAG描述了工具之间的调用关系和参数依赖传递逻辑 当 Agent 需要调用大量工具时,此实现非常有用。如果您需要的工具超过 LLM 的上下文限制,您可以基于此工具扩展代理节点。将工具分为不同的 代理并组装它们以创建更强大的 LLMCompiler。 另外已经有案例是在生产级应用中得到验证的,这个案例中配置了大约 60 种工具,与 Few-shot 搭配时准确率超过 90%。 for Parallel Function Calling[2] • 部分参考代码: LLMCompiler From Github[3] 引用链接 [1] TOC: 开源:LLMCompiler高性能工具调用框架

    51000编辑于 2025-02-21
  • 基于 MCP 协议的 LLM 工具调用

    代码调用 6. 总结 文章主要讲解了如何使用 MCP(Model Context Protocol)与大型语言模型(LLM)结合来实现工具调用,以及如何搭建一个简单的应用来展示这一过程。 1. 通过加载 MCP 工具并创建反应式代理(react agent)来处理用户请求。 使用 Server-Sent Events (SSE) 实现流式响应,模拟实时对话效果。 对话测试 只需要启动 fastapi服务,然后再web端调用 可以看到,模型有一定的概率能找到相应的 tool 进行调用 5. 二者关系 MCP 中的 tool 是具体的工具实现,function calling 是调用这些工具的方式。 MCP 是协议规范,定义了 LLM 和工具之间的通信方式;function calling 是 LLM 的能力,利用 MCP 协议调用工具。 二者紧密协作,共同实现复杂的应用场景。

    17310编辑于 2026-03-25
  • 来自专栏一个会写诗的程序员的博客

    9章 Spring Boot开发者工具9章 Spring Boot开发者工具

    9章 Spring Boot开发者工具 Spring Boot为Maven和Gradle提供构建工具插件。 由于对应的各自的语言的maven插件实现原理,比如说scala-maven-plugin: 在应用启动的时候,执行一次如下逻辑C: 先用其编译api scalac, 把scala代码编译成.class文件,然后调用 而后续的scala代码的变动,便没有实时调用到插件的逻辑C,动态编译成.class文件。

    1.5K20发布于 2018-08-20
  • 来自专栏python前行者

    python调用java代码的工具jpype

    文章目录 jpype简介 安装 使用 小试牛刀 使用命令行方式打jar包 调用jar包方法 问题1:shutdownJVM停止后restart失败的情况 问题2:只能调用静态方法 问题3:调用其他包方法 调用jar包main方法 java命令行方式运行jar包 jpype简介 JPype是一个能够让 python 代码方便地调用 Java 代码的工具,从而克服了 python 在某些领域(如服务器端编程 pycharm的编码格式问题,这里就注释了 # def _iszh(p): # for c in p: # if '\u4e00' <= c <= '\u<em>9</em>fa5 解决:用静态方法<em>调用</em>类方法 问题3:<em>调用</em>其他包方法 if __name__ == '__main__': java_class_func1(r"D:\mycode\javacode\jsf_hf_demo \hf\target\hf-0.1.jar com.dubbo.testjsf.Get22 #jar中调用MANIFEST.MF配置的入口class的main函数 java -jar .

    1.2K10编辑于 2023-12-25
  • 来自专栏java和python

    java 实现 调用Linux命令工具

    目录 1 代码实现 1 代码实现 public class CommandUtil { public static String execuCmd(String cmd) { System.out.println("执行命令[ " + cmd + "]"); Runtime run = Runtime.getRuntime(); try { Process process = run.exec(cmd);

    1.6K20编辑于 2022-08-14
  • 来自专栏sktj

    python guimixin 消息调用 工具dialog封装

    """ ############################################################################### a "mixin" class for other frames: common methods for canned dialogs, spawning programs, simple text viewers, etc; this class must be mixed with a Frame (or a subclass derived from Frame) for its quit method ############################################################################### """

    44660编辑于 2022-05-13
  • 来自专栏FreeBuf

    Java方法完整调用链生成工具

    以下实现了一个工具,能够批量生成指定Java方法向下的完整调用链,对于关注的Java方法,能够生成其向下调用的方法信息,及被调用方法再向下调用的方法,直到最下层被调用的方法。 以下为使用该工具生成的调用Mybatis的SqlSessionUtils类的部分方法向上完整调用链(方法参数太长,已省略): ? 2.2. 使用该工具生成指定方法向上调用链的功能,生成调用指定Mapper接口向上的调用链,能够根据“!entry!”找到入口方法。 该工具会主要从方法调用关系表中逐级查询数据,生成完整的方法调用链。 6. 其他功能 6.1. 9.

    6.3K50发布于 2021-07-28
  • 来自专栏毕业论文写作技巧

    写论文AI工具推荐!这9工具超实用!

    接下来,将为大家详细介绍 9 个超实用的写论文 AI 工具。1. QuillBot工具简介:QuillBot 是一款颇受欢迎的 AI 写作工具,它专注于语法优化、段落重写和内容生成。该工具支持用户通过关键词生成论文内容,并提供多种写作模式,适用于不同学科的论文写作。 AI Writer工具简介:AI Writer 是一款简单易用的 AI 写作工具,专注于为学术写作提供高质量的内容生成服务。 9. 通义千问工具简介:通义千问可以高效生成论文结构、摘要和章节内容,能大幅提升写作效率。它的对话与推理能力有助于选题与理论构建。 以上这 9 个写论文 AI 工具各有其独特的优势和局限性。在实际使用过程中,大家可以根据自己的论文需求、写作习惯以及预算等因素,选择最适合自己的工具

    65910编辑于 2025-08-02
  • 来自专栏AIGC

    【Research Proposal】基于提示词方法的智能体工具调用研究——智能体工具调用检测方法

    尤其是在智能体调用外部工具时,优化提示词的设计可以显著提升工具调用的效果和性能。 本文将详细探讨提示词方法在智能体工具调用中的应用,重点分析智能体工具调用检测方法及其在提升任务执行效率方面的作用。 下图是课题所使用的智能体调用检测工具,其中APIBench是用于单模态智能体工具调用检测,ToolBench用于多模态智能体工具调用检测。 智能体工具调用的挑战与需求 工具调用的复杂性 智能体工具调用的目标是通过合理选择并执行外部工具,以提高任务完成度。 智能体工具调用检测方法 1. APIBench:单一工具调用评估框架 APIBench是一个专门用于评估智能体在单一工具调用中表现的评估框架。 通过对不同工具调用的测试,研究人员可以分析智能体是否能够根据任务需求灵活选择工具,并且在工具调用时是否高效。

    57610编辑于 2025-02-24
领券