首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏啄木鸟软件测试

    多模态大模型技术原理及实战(6)

    中小型公司大模型构建之路 如何选择 自己建立 二次开发 重新训练,消耗非常巨大 现有的大模型体系已经非常丰富 对话大模型已经白热化 •三天产生一个小应用 •两天产生一个新模型 中小公司的技术实力相对薄 低秩适配) 2022年 Edward J.Hu PLM(Pre-trained Language Model 预训练语言模型) AdaLoRA Qingru Zhang 等人 AdaLoRA技术采用了一种有效的策略来调整增量阵的分配 框架 零冗余优化器 ( Zero Redundancy Optimizer,ZeRO) •优化器状态分区(ZeRO-1) •梯度分区 (ZeRO-2) •参数分区(ZeRO-3) 压缩 剪枝 剪枝技术通过理结果产生重要影响 分类 •非结构化剪枝 •使用技术A或B的一个或多个通道 •A 滤波 •B 权重矩阵 •分类 •权值剪枝 •神经元剪枝 •结构化剪枝 •又名:滤波器剪枝 •分类 •Filter-wise •Channel-wise

    29810编辑于 2024-09-10
  • 来自专栏个人开发

    6技术点带你理解 Kafka 高性能背后的原理

    今天来聊一聊 Kafka 高性能背后的技术原理。 1 批量发送 Kafka 收发消息都是批量进行处理的。 如下图: Kafka 采用了零拷贝技术把数据直接从 PageCache 复制到 Socket 缓冲区中,这样数据不用复制到用户态的内存空间,同时 DMA 控制器直接完成数据复制,不需要 CPU 参与。 如下图: Java 零拷贝技术采用 FileChannel.transferTo() 方法,底层调用了 sendfile 方法。 6 mmap Kafka 的日志文件分为数据文件(.log)和索引文件(.index),Kafka 为了提高索引文件的读取性能,对索引文件采用了 mmap 内存映射,将索引文件映射到进程的内存空间,这样读取索引文件就不需要从磁盘进行读取 如下图: 7 总结 本文介绍了 Kafka 实现高性能用到的关键技术,这些技术可以为我们学习和工作提供参考。

    89810编辑于 2024-02-22
  • 来自专栏全栈程序员必看

    fastdfs工作原理(技术原理)

    本次分享的主要内容包含:FastDFS各角色的任务分工/协作,文件索引的原理设计以及文件上传/下载操作的流程。

    1.8K30编辑于 2022-07-28
  • 来自专栏爱撸猫的杰

    ElasticSearch技术原理

    ES将数据存储于一个或多个索引中,索引是具有类似特性的文档的集合,类比传统关系型数据库的一个数据库(database),或者一个数据存储方案(schema)。索引由其名称(必须全小写字符)进行标识,并通过引用此名称完成文档的创建、搜索、更新及删除操作。

    75220发布于 2020-03-24
  • 来自专栏全栈程序员必看

    LLDP技术原理

    LLDP(Link Layer Discovery Protocol,链路层发现协议)提供了一种标准的链路层发现方式,可以将本端设备的的主要能力、管理地址、设备标识、接口标识等信息组织成不同的TLV(Type/Length/Value),并封装在LLDPDU(Link Layer Discovery Protocol Data Unit,链路层发现协议数据单元)中发布给与自己直连的邻居,邻居收到这些信息后将其以标准MIB(Management Information Base,管理信息库)的形式保存起来,以供网络管理系统查询及判断链路的通信状况。

    1.3K50编辑于 2022-08-24
  • 来自专栏墨白的Java基地

    CDN技术原理

    减轻服务器的压力 提升网站的稳定性和安全性 CDN的分类 网页加速 image.png 流媒体加速 image.png 大文件加速 image.png 应用协议加速 image.png 路由转发技术 可以避免ISP专线故障引起的单点失效 可以解决网络拥堵 可以提供就近访问,提高用户体验 本地负载均衡 优点 建设成本低,管理成本低 可以解决热备的问题 小结: CDN就是负载均衡中的全局负载均衡 内容分发技术 image.png 解决方案 image.png 内容存储技术 image.png 内容存储介质 目前市面上主流有两种 image.png 存储结构 直连式存储: (DAS: Direct ,是指通过集群应用,网络技术或分布式文件系统等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的系统. (Data Transfer Rate) 网络集群(Softeare Defined Network)提高IO和Qos 安全性更高 数据多副本容错 数据加密 身份验证 访问隔离 分布式存储 内容管理技术

    1.8K10发布于 2021-03-05
  • 来自专栏云+技术

    CDN技术原理

     内容分发网络(CDN)采用智能路由和流量管理技术,及时发现能够给访问者提供最快响应的加速节点,并将访问者的请求导向到该加速节点,由该加速节点提供内容服务。

    3.5K20发布于 2019-04-09
  • 来自专栏数字芯片

    DMA技术原理

    I2Cx[x=1、2]和USARTx[x=1、2、3])产生的7个DMA请求,通过逻辑或输入到DMA1控制器,其中每个通道都对应着具体的外设: ② DMA2 controller 从外设(TIMx[5、6

    4.4K31编辑于 2022-12-18
  • 来自专栏架构师小秘圈

    cdn技术原理

    解决方案就是在网络传输上利用缓存技术使得Web服务数据流能就近访问,是优化网络数据传输非常有效的技术,从而获得高速的体验和品质保证。    4.CDN 的工作原理   在描述CDN的实现原理,让我们先看传统的未加缓存服务的访问过程,以便了解CDN缓存访问方式与未加缓存访问方式的差别: ?    解析得到此域名的实际IP地址,再由缓存服务器向此实际IP地址提交访问请求;   5)、缓存服务器从实际IP地址得得到内容以后,一方面在本地进行保存,以备以后使用,二方面把获取的数据返回给客户端,完成数据服务过程;   6) 6.CDN的网络架构   CDN网络架构主要由两大部分,分为中心和边缘两部分,中心指CDN网管中心和DNS重定向解析中心,负责全局负载均衡,设备系统安装在管理中心机房,边缘主要指异地节点,CDN分发的载体 Squid是Linux等操作系统上有名的Cache引擎,与商业Cache引擎相比,Squid的性能比较低,基本功能工作原理与商业Cache产品是一致的,作为试验,是非常容易配置运行起来。

    4.9K90发布于 2018-04-02
  • 来自专栏编程教程

    ChatGPT技术原理

    本文将深入探讨ChatGPT的技术原理,帮助读者更好地理解这一强大的自然语言处理模型。 总结 ChatGPT的技术原理包括了Tokenization、Transformer模型、预训练和微调等多个部分。

    51410编辑于 2025-08-28
  • 来自专栏云计算linux

    ES6技术

    ES6技术 一.ES6基础和语法 1.JavaScript和ECMAScript的关联 JavaScript之前是LiveScript,具体的资料,大家自己查一下百度。 ECMA第39号技术委员会 (TC39): 负责制定和审核ECMA-262标准,成员由业内的大公司派出的工程师组成,目前共25个人。该委员会定期开会,所有的邮件讨论和会议记录,都是公开的。 ES6泛指ES6之后的版本,再往后,ESNEXT。 原理: 在于JS引擎的工作方式 1.先解析代码,获取所有被声明的变量; 2.运行 总体来说,分为预处理和执行两个阶段。 padStart(数字>=字符串长度,补全的字符) console.log(str.padEnd(5).length); 7.2 模板字符串 反引号 嵌入变量写法 运算操作 调用函数 用途 ES6增加一个新的技术

    43810编辑于 2024-12-19
  • 来自专栏ops技术分享

    Nginx结构原理全解析(6

    首先,请求过来,要建立连接,然后再接收数据,接收数据后,再发送数据。具体到系统底层,就是读写事件,而当读写事件没有准备好时,必然不可操作,如果不用非阻塞的方式来调用,那就得阻塞调用了,事件没有准备好,那就只能等了,等事件准备好了,你再继续吧。

    36520发布于 2021-05-11
  • 来自专栏DeepHub IMBA

    Python时间序列平滑技术完全指南:6种主流方法原理与实战应用

    数据平滑技术为解决这一问题提供了有效途径,能够显著改善数据的可解释性和处理效率。在趋势识别和行为模式比较分析中,选择适当的平滑方法至关重要,但确定最优方法和平滑强度参数往往需要深入的技术理解。 本文将系统介绍六种广泛应用的时间序列平滑技术,从技术原理、参数配置、性能特征以及适用场景等多个维度进行深入分析。文章还将介绍一种量化平滑效果的评估指标,并提供一个交互式工具用于方法对比验证。 以下将详细分析六种主流平滑方法的技术原理、核心参数配置以及各自的优势与局限性。 其基本原理是在滑动数据窗口内拟合低次多项式,然后使用多项式在窗口中心点的取值替换原始数据。这是一种在时间序列上重复应用的局部最小二乘回归方法。 本文介绍的技术集合具有实用价值,但并非详尽无遗。其他方法如样条平滑或基于小波变换的技术可能在特定应用中表现更优。 结果可视化对于方法评估至关重要。

    76611编辑于 2025-08-20
  • 来自专栏第一专栏

    编译原理4—6章案例复习总结【编译原理

    4—6章总结 4、自上而下文法—LL(1)文法 (1)first集 (2)follow集 ——利用到select集 (3)select集 ——利用到first、select集合 (4)构造自上而下分析表 (5)句子分析—利用LL(1)分析表,注意倒序入栈—符号栈是将表中查询到的产生式倒着写入,栈内只剩下 # 为止 5、规范推导—移进规约法—直接利用推导式规约,顺序入栈,栈内只剩下第一个非终结符S为止 6

    1.8K20编辑于 2023-05-25
  • 来自专栏程序猿DD

    HDFS技术原理(上)

    HDFS应用场景举例: HDFS是Hadoop技术框架中的分布式文件系统,对部署在多台独立物理机器上的文件进行管理。 可应用与以下几种场景: 网站用户行为数据存储。 生态系统数据存储。 (6)移动计算能力: 计算和存储能力采用就近原则,计算离数据最近。 就近原则将有效减少网络的负载,降低网络拥塞。 基本系统架构: ? HDFS高可靠性 图;HDFS高可靠性原理 HA解决的是一个热备份的问题。 HA 图:HA原理 处于待命状态的名称节点和处于活状态的名称节点,它们元数据的两个方面的信息是怎么同步的: 处于待命状态的名称节点当中,它的两方面元数据,一个就是Editlog,它是通过共享存储系统来获得同步的 这就是它的基本原理。 HDFS联邦(Federation): ? 联邦 图;HDFS联邦 HDFS Federation主要能够解决,单名称节点中存在的以下问题: HDFS集群的扩展性问题。

    83130发布于 2021-04-20
  • 来自专栏程序技术知识

    前端Ajax技术原理

    image.png Ajax的工作原理: Ajax工作原理其实就是在一个页面的指定位置可以加载另一个页面中所有的输出内容。这样就实现了一个静态页面获取到数据库中所返回的数据信息了。 image.png ajax所包含的技术 大家都知道ajax并非一种新的技术,而是几种原有技术的结合体。它由下列技术组合而成。 1.使用CSS和XHTML来表示。 2. ajax原理和XmlHttpRequest对象 Ajax的原理简单来说通过XmlHttpRequest对象来向服务器发异步请求,从服务器获得数据,然后用javascript来操作DOM而更新页面。 要清楚这个过程和原理,我们必须对 XMLHttpRequest有所了解。 XMLHttpRequest是ajax的核心机制,它是在IE5中首先引入的,是一种支持异步请求的技术6、一些手持设备(如手机、PDA等)现在还不能很好的支持ajax,比如说我们在手机的浏览器上打开采用ajax技术的网站时,它目前是不支持的,当然,这个问题和我们没太多关系。

    1.1K00编辑于 2022-04-13
  • 来自专栏十二惊惶的网络安全研究记录

    IPv6过渡技术

    IPv6过渡技术 # 理解使用隧道机制实现IPv6穿越IPv4的原理 # 掌握6to4自动隧道、ISATAP自动隧道的实现机制 # 掌握Win 7下配置6to4路由器、ISATAP路由器的方法 [TOC ,以避免过多的浪费 过渡时期采用技术的选择 双栈技术(Dual Stack) 让IPv4和IPv6共存于同一设备和网络中(RFC 2893),采用该技术的节点上同时运行IPv4和IPv6两套协议栈 对IPv4 工作原理 即主机和路由器在同一网络接口上运行IPv4栈和IPv6栈。 双栈技术的特点 双栈技术是一切过渡技术的基础,隧道机制和翻译机制都要利用双栈节点 双栈技术应该能独立的配置IPv4和IPv6地址 双栈技术的优点是互通性好,易于理解;缺点是需要给每个新的运行IPv6 工作原理 核心思想是通过把IPv6数据报文封装入IPv4数据报文中,让现有IPv4网络成为载体以建立IPv6的通信,隧道两端的节点间数据报文的传送通过IPv4机制进行,隧道被看成一个直接连接的通道 隧道有两个端点

    83010编辑于 2024-02-28
  • 来自专栏网络安全攻防

    区块链技术原理

    本文将从区块链技术的基本概念、工作原理等方面进行介绍和概述,通过对区块链技术的深入了解,读者可以掌握其基本原理和应用方法为未来的区块链技术应用和创新提供帮助和指导 技术起源 区块链技术的起源可以追溯到2008 核心技术 区块链的核心技术包括分布式网络、共识机制、加密技术和智能合约,下面对其进行详细介绍: 分布网络 分布式网络是区块链技术的核心之一,它是指将数据分散存储在网络中的多个节点上,而不是存储在单一的中心节点上 共识机制的基本原理是当一个新的交易或区块被创建时,需要经过一定的计算和验证过程,然后广播到整个网络中的节点,每个节点收到这个交易或区块后都会进行再次验证,如果发现其中有任何问题(例如:如双重支付、无效签名等 区块链核心技术中的加密技术包括对数据进行加密的加密算法、哈希函数和数字签名,这些技术确保了区块链中交易的安全性、隐私性和防篡改性。 ,它的原理是基于分布式账本和密码学技术,通过去中心化、不可篡改、安全可靠等特点实现了信息的可信传输和存储,随着区块链技术的不断发展和应用,它将会在金融、医疗、物流、政务等领域产生深远的影响,为我们的生活带来更多的便利和安全

    1.9K20编辑于 2023-08-10
  • 来自专栏架构之美

    JSBridge 技术原理分析

    - JSBridge的起源 - PhoneGap(Codova 的前身)作为 Hybrid 鼻祖框架,是一个开源的移动开发框架,允许你用标准的web技术-HTML5,CSS3和JavaScript - JSBridge的实现原理 - JavaScript 是运行在一个单独的 JS Context 中(例如,WebView 的 Webkit 引擎、JSCore)。 因此,Hybrid 方案中 JSBridge 的通信原理会具有一些 Web 特性。 但是这种方式的最重要优势是跨平台兼容性,尤其是支持 iOS6,但考虑到终端覆盖率,已经不是主流方式。 作者:alex 来源: https://blog.caogo.cn/2021/02/12/JSBridge%E6%8A%80%E6%9C%AF%E5%8E%9F%E7%90%86%E5%88%86%E6%

    2.3K10发布于 2021-11-23
  • 来自专栏PPV课数据科学社区

    技术】HDFS存储原理

    根据Maneesh Varshney的漫画改编,以简洁易懂的漫画形式讲解HDFS存储机制与运行原理,非常适合Hadoop/HDFS初学者理解。 2、文件切分 3、DN分配 4、数据写入 5、完成写入 6、角色定位 三、HDFS读文件 1、用户需求 HDFS采用的是“一次写入多次读取”的文件访问模型。

    1.9K50发布于 2018-04-25
领券