首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏PHP在线

    PHP中9大缓存技术总结

    是将一个页面中不经常变的部分进行静态缓存,而经常变化的块不缓存,最后组装在一起显示;可以使用类似于ob_get_contents的方式实 现,也可以利用类似ESI之类的页面片段缓存策略,使其用来做动态页面中相对静态的片段部分的缓存(ESI技术 下次遇到相同的查询时,就直接先从这个文件里面调数据,不会再去查数据库;但此处的缓存文件名可能就需要以查询语句为基点来建立唯一标示; 按时间变更进行缓存 其 实,这一条不是真正的缓存方式;上面的2、3、4的缓存技术一般都用到了时间变更判断 访问才会先取缓存文件的内容,但是超过设定的缓存时间,就需要重新从数据库中获取数据,并生产最新的缓存文件;比如,我将我们商城的首页就是设置2个小时 更新一次; 5、按内容变更进行缓存 这个也并非独立的缓存技术 我们同时就更新缓存文件;那么,买家访问这个商品信息时,实际上访问的是一个静态页面,而不需要再去访问数据库; 试想,如果对商品页不缓存,那么每次访问一个商品就要去数据库查一次,如果有10万人在线浏览商品,那服务器压力就大了 max_input_time = 600 ; 每个PHP页面接收数据所需的最大时间,默认60 memory_limit = 128M ; 每个PHP页面所吃掉的最大内存,默认8M 9、

    2.1K50发布于 2018-03-08
  • 来自专栏PHP在线

    PHP中9大缓存技术总结

    是将一个页面中不经常变的部分进行静态缓存,而经常变化的块不缓存,最后组装在一起显示;可以使用类似于ob_get_contents的方式实 现,也可以利用类似ESI之类的页面片段缓存策略,使其用来做动态页面中相对静态的片段部分的缓存(ESI技术 下次遇到相同的查询时,就直接先从这个文件里面调数据,不会再去查数据库;但此处的缓存文件名可能就需要以查询语句为基点来建立唯一标示; 按时间变更进行缓存 其 实,这一条不是真正的缓存方式;上面的2、3、4的缓存技术一般都用到了时间变更判断 访问才会先取缓存文件的内容,但是超过设定的缓存时间,就需要重新从数据库中获取数据,并生产最新的缓存文件;比如,我将我们商城的首页就是设置2个小时 更新一次; 5、按内容变更进行缓存 这个也并非独立的缓存技术 我们同时就更新缓存文件;那么,买家访问这个商品信息时,实际上访问的是一个静态页面,而不需要再去访问数据库; 试想,如果对商品页不缓存,那么每次访问一个商品就要去数据库查一次,如果有10万人在线浏览商品,那服务器压力就大了 30秒 max_input_time =600;每个PHP页面接收数据所需的最大时间,默认60 memory_limit =128M;每个PHP页面所吃掉的最大内存,默认8M 9、

    2.1K40发布于 2018-03-08
  • 来自专栏IT从业者张某某

    大语言模型-1.2-大模型技术基础

    简介 1.2 大模型技术基础 大语言模型 预训练阶段会得到base model,本质上就是一个互联网文本模拟器,这个阶段需要上万台服务器训练几个月的时间,这个生成的模型可以认为是互联网的有损压缩。 构建一个大语言模型 大语言模型预训练(Pre-training) 使用与下游任务无关的大规模数据进行模型参数的初始训练 ➢ 基于Transformer解码器架构,进行下一个词预测 ➢ 数据数量、数据质量都非常关键 Scaling Law) ➢ 通过扩展参数规模、数据规模和计算算力,大语言模型的能力会出现显著提升 ➢ 扩展定律在本次大模型浪潮中起到了重要作用 大语言模型采用了与小型预训练语言模型相似的神经网络结构 ,从而获得更可靠的答案 涌现能力与扩展定律的关系 ➢ 涌现能力和扩展定律是两种描述规模效应的度量方法 大模型核心技术 ➢ 规模扩展:扩展定律奠定了早期大模型的技术路线,产生了巨大的性能提升 需要设计对齐技术减少模型使用风险,并进一步提升模型性能 ➢ 工具使用:使用外部工具加强模型的弱点,拓展其能力范围

    87010编辑于 2025-03-15
  • 来自专栏掘金安东尼

    👾打开 RAG 对接大模型的黑盒 —— 9 大隐藏问题

    是两个不同的技术方向。 Prompt 给他介绍一下相关背景,然后大模型就有更专业的应答能力了。 言而总之,大数据时代,很多公司都拥有大量的专有数据,如果能基于它们创建 RAG,将显著提升大模型的特异性。 /模型没有回答问题/模型编造有害的或带有偏见的答案 接下来,一起揭秘:RAG 对接大模型的黑盒 —— 9 大问题 来源:Seven Failure Points When Engineering a Retrieval 总结 本篇提供了开发 RAG 通道 9 个痛点,并针对每个痛点都给了相应的解决思路。 RAG 是非常重要的专用检索+通用大模型的技术手段,在赋能模型、满足特定化场景中非常重要!

    97210编辑于 2024-04-04
  • 来自专栏帅云霓的技术小屋

    大模型与AI底层技术揭秘 (9) 工业化武装的巨龙 (中)

    在上期,我们提到了NVLink技术能够为GPU之间提供高速低时延可靠的数据通道,两块GPU之间可以通过NVLink互通。 为了解决这一问题,NVidia的思路是,利用RDMA技术来实现跨机箱的GPU Direct,这种技术被称为GPU Direct Over RDMA/RoCE。 2019年,Nvidia收购了Mellanox,从此,RDMA技术在新的舞台上开始发光发热……

    67720编辑于 2023-11-13
  • 来自专栏云数据库技术

    大语言模型技术原理

    除了自然语言本身的优势外,语境的上下文学习能力、迁移学习和文字总结能力也有很大的发挥空间,带着这些思考,我们有必要了解一下大语言模型背后的发展及其技术原理。 一、大语言模型的发展 大语言模型作为一个被验证可行的方向,其“大”体现在训练数据集广,模型参数和层数大,计算量大,其价值体现在通用性上,并且有更好的泛化能力。 得到的一般任务不可知模型(或称为通用模型)优于经过判别训练的模型,在论文选定的12种数据集中有9个取得更好效果。 1.6 当前的技术局限性 专业的领域,缺乏语料训练的情况下,GPT无法生成合适的回答。 可信度问题,缺乏答案的具体来源。 时效性问题,大模型底层训练数据是过往数据,再一次训练的成本很高。 最后,大语言模型作为一个被验证可行的方向,其“大”体现在数据集广泛,参数和层数大,计算量大,其价值体现在通用性上,有广泛的应用场景。

    2.6K46编辑于 2023-05-30
  • 来自专栏Java技术

    AI技术和大模型技术LLM

    -CoderOilStation(程序员编程助手科技股份有限责任公司)AI技术和大模型技术LLM人工智能技术AI是美国高等院校哈佛大学的一种原型框架技术。AI技术西方和全球的部署研发和运用。 AI人工智能引领全球技术的更新和迭代监控不同的区域。相信知识不要服从于命运。美国麻省理工学院MIT会同步不同的领域模型驱动技术DDD(DomainDrivenDesign)。 领域模型驱动技术西方发达社会更注重不同想法和设计的美学应用。协会institute是定义技术标准的国际性知识传播组织。亚洲的工程师杰作Agent智能体应用于基本的搜索应用和广告商品推荐。 私有用户和公众的开放平台用户一小一大意味着平台的设计开始运行正常。大模型LLM(LargeLanguageModel)模型开放基础框架的模型搭建方式。很多的应用逻辑都是有编程范式和编程方法学。

    31510编辑于 2026-03-08
  • 来自专栏澜舟科技 NLP

    大模型落地实践:同花顺大模型技术应用及优化

    文内从业务角度介绍了大模型技术在同花顺业务上的应用以及未来探索的方向。众所周知,大模型参数量大,通用能力强,综合性能好。 所以最初在业务角度并不够重视,然而近期随着大模型技术的快速发展,我们也在逐步尝试将大模型在业务中落地,目前大模型在自然语言处理相关的业务里都取得了比传统模型更优的效果,下面详细介绍相关工作。 确实在我们的业务模型里,规则占比非常大,也是因为涉及用户财产问题,技术上会比较保守。下面具体介绍问答系统里大模型应用的经验和取得的成果。 Continue-Train为了进一步提升大模型在实际业务中的效果,同花顺与澜舟科技合作,引入孟子Mengzi 模型中的技术 ,针对大模型进行 Continue-Train 训练,让模型更适用于金融相关的 总结大模型技术在同花顺业务中的应用基本都有比较好的通用性,并且带来了比较好的性能提升,我们也希望在医疗、法律、教育等领域的子公司业务中推广,同时和澜舟科技以及学术界的老师们合作,把大模型用得更好,谢谢大家

    3.4K20编辑于 2022-08-11
  • 来自专栏京东技术

    大模型技术及趋势总结

    •对模型进行加固,提高其抗攻击能力。 •采用加密存储和差分隐私技术来保护数据隐私。 •增强模型的可解释性,以便更好地理解和控制模型行为。 之所以叫zero-shot,是因为我们直接用大模型做任务而不给其参考示例。这也被视为评测大模型能力的重要场景之一。 RAG(Retrieval-Augmented Generation) 什么是RAG ‍RAG(Retrieval-Augmented Generation)技术是一种结合检索和生成的方法,用于提升大语言模型 随着技术的进步,RAG 及其变体在处理复杂的认知任务方面展现出了巨大的潜力。 多模态大模型是人工智能领域的重要进展,它们通过整合多种类型的数据,显著提升了模型的表现力和鲁棒性。这不仅使得人工智能系统能够更好地理解复杂的现实世界,也为未来的技术发展带来了无限可能。

    1.1K10编辑于 2024-07-04
  • 大模型技术之Python基础

    Python,作为人工智能时代的通用语言,正是连接大模型技术与商业价值的那座桥梁。用 Python 基础打底,不仅能让你学得更稳,更能让你在变现之路上跑得更快。 一、 穿透技术黑盒,从“调包侠”进阶为“应用构建者”在当前的大模型应用层开发中,Python 占据着绝对统治地位。 三、 驾驭 AI 生态工具,构建不可替代的职场护城河大模型技术迭代极快,今天流行 LangChain,明天可能就有新的框架出现。 结语AI 时代,机会属于那些既能仰望星空懂技术,又能脚踏实地写代码的人。Python 不是大模型学习的障碍,而是助飞的翅膀。 与其在概念的海洋中漂浮,不如沉下心来,用 Python 基础打底,构建起坚实的技术底座。当你用一行行代码将大模型转化为解决实际问题的产品时,你会发现,变现不再是焦虑的等待,而是水到渠成的必然。

    26810编辑于 2026-03-20
  • 来自专栏架构之巅

    大模型相关技术-初识RAG

    简单来讲就是让用户的问题先经过一个提前预置的专业知识库,先检索知识库,将知识库的响应提交给大模型,让大模型总结输出,或者直接就输出了,不经过大模型总结。 为什么需要RAG 大模型在没有答案的情况下提供幻象数据,也就是胡说八道。 当用户需要特定的当前响应时,提供过时或通用的信息,模型提供的最新信息为训练模型时的数据。 图片 向量(vector)是在大语言模型、知识库交互、计算过程中的重要指标。它可以将文本和知识表示为数学向量,实现文本相似度计算、知识库检索和推理等功能。 是的,整体的流程是和es类似,哪思考一个问题为 什么不用es,反而用这么复杂的模型来实现呢? - 哔哩哔哩 (bilibili.com) 我正在参与2024腾讯技术创作特训营最新征文,快来和我瓜分大奖!

    86441编辑于 2024-04-28
  • 来自专栏DeepHub IMBA

    9月大型语言模型研究论文总结

    大型语言模型(llm)在今年发展迅速,随着新一代模型不断地被开发,研究人员和工程师了解最新进展变得非常重要。本文总结9-10月期间发布了一些重要的LLM论文。 Large Language Models Cannot Self-Correct Reasoning Yet https://arxiv.org/abs/2310.01798 大型语言模型(llm)已经成为一项突破性的技术 SmartPlay中的每个游戏都独特地挑战了智能LLM代理的9个重要功能的子集,包括对象依赖性推理,提前计划,空间推理,从历史中学习和理解随机性。 (LMs)的技术,并将它们堆叠到解决复杂任务的管道中。 DSPy模块是参数化的,这意味着它们可以学习(通过创建和收集演示)如何应用提示、调优、增强和推理技术的组合。 作者还设计了一个编译器,它将优化任何DSPy管道以最大化给定的度量。

    89121编辑于 2023-10-23
  • 来自专栏大模型&AIGC

    6种大模型微调技术

    当我们想在用特定领域的数据微调模型时,如果想要full-tuning所有模型参数,看着是不太实际,一来需要相当多的硬件设备(GPU),二来需要相当长的训练时间。 值得一提的是,通过使用T5模型进行模型大小的消融实验,我们展示了提示微调随着规模的增加变得更加具有竞争力:当模型参数超过数十亿时,我们的方法“缩小了差距”并达到了模型微调(即调整所有模型权重)的强大性能 这一发现尤为重要,因为大型模型的共享和部署成本高昂,而能够重用一个冻结的模型来执行多个下游任务可以减轻这一负担。 ,无需verbalizer(4) 特点在小、大模型上,效果均优于P-tuning。 随着我们预训练更大的模型,全面微调(即重新训练所有模型参数)变得不太可行。以GPT-3 175B为例,部署独立的微调模型实例,每个实例都有175B参数,成本是极其昂贵的。

    3.6K00编辑于 2025-05-08
  • 来自专栏啄木鸟软件测试

    大模型测试:技术深度解析

    与此同时,传统软件测试范式——基于明确输入/输出断言、覆盖路径与边界值的方法——在大模型面前频频失效。 这些案例揭示一个现实:大模型测试不是‘加个Prompt跑几轮’,而是一场融合认知科学、统计推断、对抗攻防与领域知识的系统工程。 一、为何传统测试方法在大模型面前失灵? 根本原因在于大模型的三大非确定性特征: 1)输出不可重现性:相同Prompt在不同温度(temperature)、采样策略(top-p)或微调版本下,可能生成语义一致但结构迥异的回答,甚至逻辑矛盾; 二、大模型测试的四维技术框架 业界领先实践已形成可落地的四维测试体系: ✅ 1. 三、实战案例:某省级政务大模型的测试攻坚 该模型需支撑12345热线智能分派与政策解读。

    40600编辑于 2026-06-15
  • 来自专栏xiaosen

    大模型Prompt-Tuning技术入门

    」的范式,如Bert+fine-tuning的NLP任务,相比于第二范式,模型准确度显著提高,模型也随之变得更大,但小数据集就可训练出好模型; 第四范式:基于「预训练模型+Prompt+预测」的范式,如 4 Prompt-Tuning技术发展历程 Prompt-Tuning自GPT-3被提出以来,从传统的离散、连续的Prompt构建、走向面向超大规模模型的In-Context Learning、Instruction-tuning 因此我们总结人工设计方法的缺陷: 采用人工构建的方法成本高,需要与领域任务相关的先验知识; 人工设计的Pattern和Verbalizer不能保证获得最优解,训练不稳定,不同的PVP对结果产生的差异明显,方差大; )方法为每一个输入文本假设一个固定前缀提示,该提示表由神经网络参数化,并在下游任务微调时进行更新,整个过程中预训练的大模型参数被冻结。 Prompt Tuning特点: 优点: 大模型的微调新范式 模型参数规模大了之后,可以将大模型参数固定,指定附加参数来适配下游任务,而且适配性能基本和全参数微调相当。

    1.7K30编辑于 2024-06-05
  • 来自专栏运维开发王义杰

    AI: 了解大模型降维技术

    在大模型开发过程中,降维是一个关键的步骤。它可以帮助我们处理和分析高维数据,降低计算复杂度,提高模型性能。下面,我们将详细介绍降维的基本概念、常用方法以及在大模型开发中的应用。 主成分分析(PCA) 主成分分析是一种线性降维技术,通过将数据投影到方差最大的方向上,找到数据的主成分,从而实现降维。 三、降维在大模型开发中的应用 在大模型开发过程中,降维可以在以下几个方面发挥重要作用: 1. 可视化 降维技术,如t-SNE,可以将高维数据投影到二维或三维空间,便于我们进行数据可视化和探索。这有助于我们理解数据的分布和结构,发现数据中的模式和异常。 四、总结 降维是大模型开发过程中不可或缺的一部分。通过适当的降维技术,我们可以有效地处理高维数据,提高模型的性能和稳定性。

    91210编辑于 2024-07-10
  • 来自专栏防止网络攻击

    大模型技术的发展与实践

    直到以chatGPT为标志性事件的大模型技术的出现,这一愿望才变得可能。 例如,最近网络上非常热火的ChatGPT技术,也是大模型的一种应用。 既然大家都这么看好大模型技术,那么大模型的价值体现在什么地方呢? 五、总结与体会 我们对大模型相关的发展历史、openAI技术的发展脉络、当前国内外主流的大语言模型进行了简单的介绍,同时针对大模型区别于之前模型的核心技术原理进行了简单讲解,本章提到的预训练、指令微调、 未来大模型一定会革新所有的行业和场景的。读者需要对大模型相关的技术及行业、场景应用保持敏感,在工作中要将大模型相关的技术用起来。

    2.8K10编辑于 2023-12-05
  • 来自专栏xiaosen

    大模型Prompt-Tuning技术进阶

    超大规模模型进入新的纪元,而这些轰动世界的产物,离不开强大的Prompt-Tuning技术。 Instruction-Tuning(指令学习) 面向超大规模模型第二个Prompt技术是指令学习。 ,x2,y2,…xtest作为输入来让大模型补全输出ytest),思维链多了中间的中间的推导提示。 PEFT(大模型参数高效微调) 目前在工业界应用大模型主流方式:参数高效微调方法(Parameter-Efficient Fine-Tuning,PEFT),PEFT 方法仅微调少量或额外的模型参数,固定大部分预训练参数 基本原理:LoRA技术冻结预训练模型的权重,并在每个Transformer块中注入可训练层(称为秩分解矩阵),即在模型的Linear层的旁边增加一个“旁支”A和B。

    1.1K10编辑于 2024-06-06
  • 来自专栏架构之巅

    大模型相关技术-embedding与分词

    接上一篇文章大模型相关技术-初识RAG-腾讯云开发者社区-腾讯云 (tencent.com),我们已经对RAG(搜索增强)有了一定的了解,知道了为什么需要RAG和RAG的技术基石,本篇我们将详细学习一下 分词是将文本切分为单词或词汇单元的过程,而Embedding入则是将这些词汇转换为可供机器学习模型处理的数值向量。下面将结合分词技术,详细解释大模型中Embedding入技术。 分词技术分词是将连续的文本序列分割成一个个独立的词汇单元的过程。 在大模型中,Embedding通常是模型的第一层,负责将输入的文本数据转换为可供后续层处理的数值形式。 我正在参与2024腾讯技术创作特训营最新征文,快来和我瓜分大奖!

    1.5K10编辑于 2024-04-30
  • 大模型网关:大模型时代的智能交通枢纽|得物技术

    一、导语在人工智能技术快速演进的时代,大型语言模型和AI智能体已成为各类应用的核心组件,引发AI相关API流量的指数级增长。而大模型网关,正是这场变革中应运而生的智能交通枢纽。 六、创新亮点:大模型网关的核心技术突破模型网关瞄准“效率-成本-稳定性-安全&合规”着力平台建设,并继续在成本管控、模型接入效率、服务稳定性、模型监控/告警等方面持续创新:构建全流程成本管控体系。 结语:未来的技术方向已经清晰——大模型网关不是API网关的替代品,而是其演进形态。随着AI逐步嵌入各类应用,企业选择可扩展的大模型网关平台,将避免被孤立在特定AI生态中,获得技术架构的长期竞争优势。 往期回顾1.从“人治”到“机治”:得物离线数仓发布流水线质量门禁实践2.AI编程实践:从ClaudeCode实践到团队协作的优化思考|得物技术3.入选AAAI-PerFM|得物社区推荐之基于大语言模型的新颖性推荐算法 4.Galaxy比数平台功能介绍及实现原理|得物技术5.得物App智能巡检技术的探索与实践文/禹极关注得物技术,每周更新技术干货要是觉得文章对你有帮助的话,欢迎评论转发点赞~未经得物技术许可严禁转载,否则依法追究法律责任

    1K10编辑于 2026-02-03
领券