- 综合排序
- 最热优先
- 最新优先
- 来自专栏TechLead
大模型应用曙光 - 10X压缩技术
拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 如何在不牺牲性能的情况下将大语言模型缩小十倍？ 对于（大型）神经网络，这可行，因为它们通常是过参数化的（即由冗余的计算单元组成）。 模型压缩的主要好处是降低推理成本。 三种压缩模型的方法 模型压缩有多种技术。这里我将重点介绍三种广泛使用的类别。 后训练量化（PTQ） 对于一个神经网络，后训练量化（PTQ）通过将参数替换为低精度的数据类型（例如从FP16转换为INT-8）来压缩模型。 结构化剪枝 相对而言，结构化剪枝是从神经网络中删除整个结构（例如注意力头、神经元和层）。这样可以避免稀疏矩阵操作的问题，因为整个矩阵可以从模型中删除，而不是个别参数。
48810编辑于 2024-09-24 - 来自专栏FreeBuf
2020年黑客首选10大Windows网络攻击技术
Red Canary近期公布了《2021 Threat Detection Report》，该报告涵盖了众多顶级网络攻击技术到MITER ATT＆CK框架的映射。 其中，就2020年黑客首选10大Windows网络攻击技术进行了调研。 2、19％：签名的二进制进程执行 排名第二的攻击使用2种技术：Rundll32和Mshta。两者都允许攻击者通过受信任的签名二进制文件创建恶意代码。同样，攻击者使用的是离地攻击。 因此，企业在建立查找异常攻击的基线后，建议使用Windows 10 Attack Surface Reduction设置来查找LSASS可疑访问。 10、4％：重命名伪装 攻击者通过重命名系统工具程序来绕过控件和检测。为此，建议不是直接查找文件名而是查找进程，从而确定攻击者是否正试图使用此技术进行攻击。
1.2K50发布于 2021-05-20 - 来自专栏帅云霓的技术小屋
容器网络硬核技术内幕 (10) 胜利之桥
在K8S网络中，也有这么一种简单直接的方案——网络桥接。 这种方案叫做bridge。 在bridge方案中，每个宿主机上的pod都通过veth pair连接到网桥。(什么是veth pair? "type": "bridge", "bridge": "mynet0", "ipam": {} } 其中，cniVersion字段标识的是CNI插件版本，name字段表示的是网络名称
46820编辑于 2022-07-28 - 来自专栏又见苍岚
PyTorch 学习 -10- 利用模型块快速搭建复杂网络
本节目录 利用上一节学到的知识，将简单层构建成具有特定功能的模型块 利用模型块构建复杂网络 对于大部分模型结构（比如ResNet、DenseNet等），我们仔细观察就会发现，虽然模型有很多层， 但是其中有很多重复出现的结构 考虑到每一层有其输入和输出，若干层串联成的”模块“也有其输入和输出，如果我们能将这些重复出现的层定义为一个”模块“，每次只需要向网络中添加对应的模块来构建模型，这样将会极大便利模型构建的过程。 本节我们将以U-Net为例，介绍如何构建模型块，以及如何利用模型块快速搭建复杂模型。 U-Net模型结构如下图所示，通过残差连接结构解决了模型学习中的退化问题，使得神经网络的深度能够不断扩展。 U-Net模型块分析 结合上图，不难发现U-Net模型具有非常好的对称性。 Pytorch-UNet 文章链接： https://www.zywvvd.com/notes/study/deep-learning/pytorch/torch-learning/torch-learning-10
76710编辑于 2023-10-17 - 来自专栏CV学习史
后台开发-核心技术与应用实践--网络模型与网络调试
网络 IO 模型 IO 有两种操作，同步 IO 和 异步 IO。同步 IO 指的是，必须等待 IO 操作完成后，控制权才返回给用户进程。 4种网络 IO 模型 为了解决网络 IO 中的问题，学者们提出了4种网络 IO 模型： 阻塞 IO 模型 非阻塞 IO 模型 多路 IO 复用模型 异步 IO 模型 在Linux下，默认情况下所有的 socket 但是，“线程池”和“连接池”技术也只是在一定程度上缓解了频繁调用 IO 接口带来的资源占用。这时可以用非阻 塞模型来尝试解决这个问题。 相比其他模型，使用 select() 的事件驱动模型只用单线程（进程）执行，占用资源少，不消耗太多 CPU 资源，同时能够为多客户端提供服务。 如果试图建立一个简单的事件驱动的服务器程序，这个模型有一定的参考价值。 异步 IO 模型 异步 IO 模型的流程如图所示： ? 各个 IO 模型的比较如图所示： ?
86630发布于 2021-04-15 - 来自专栏程序编程之旅
JavaScript---网络编程(10)--DHTML技术演示(3)-多选框
<head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <title>DHTML技术演示 <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <title>DHTML技术演示 <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <title>DHTML技术演示
1.3K10发布于 2021-01-21 - 来自专栏机器之心
百度NLP | 神经网络模型压缩技术
模型越趋复杂，由最初的词袋模型（BOW）发展至建模短距离依赖关系的卷积神经网络（CNN），建模长距离依赖关系的循环神经网络（RNN），以及基于词与词之间匹配矩阵神经网络（MM-DNN）等等。 同时，由于语言复杂、表达多样、应用广泛，为了更好的解决语言学习的问题，我们将更多的 NLP 特征引入 DNN 模型，比如基于 t 统计量的二元结构特征，基于依存分析技术的词语搭配结构特征等。 我们采用这种方法，在百度搜索的深度神经网络语义模型进行了 1/4 无损压缩，即保证线上模型表达能力不变、应用效果持平的前提下，线上所有模型的内存占用减少了 75%。 百度NLP专栏扩展阅读： 百度NLP | 神经网络语义匹配技术 百度NLP | 智能写作机器人：不抢人类饭碗，我们只想人机协作 百度NLP | 自动写诗 PK 古代诗人：百度「为你写诗」技术深度揭秘 独家对话百度副总裁王海峰：NLP 的路还很长 「百度NLP」专栏主要关注百度自然语言处理技术发展进程，报道前沿资讯和动态，分享技术专家的行业解读与深度思考。
1.5K50发布于 2018-05-08 - 来自专栏C++
【Linux网络】NAT技术、DNS系统、五种IO模型
1、NAT NAT （网络地址转换）技术主要解决 IPv4 地址不够用的问题，是路由器的一个重要功能。 3、内网穿透 | 原理： 内网穿透的工作原理主要基于 NAT 技术的逆过程。NAT技术将内部网络的私有IP地址转换为外部网络的公网IP地址，实现内部网络与外部网络的通信。 | 应用： 远程办公：员工可以在家中或其他远程地点通过内网穿透技术访问公司内部网络中的资源和服务，实现远程办公。 家庭网络访问：用户可以通过内网穿透技术访问家庭网络中的NAS设备、智能家居设备等，实现远程管理和控制。 API服务访问：开发者可以将内部网络中的API服务通过内网穿透技术暴露到公网上，供外部用户访问和使用。
62210编辑于 2025-03-09 - 来自专栏全栈程序员必看
googlenet网络模型简介_网络参考模型
跟VGG不同的是，GoogleNet做了更大胆的网络上的尝试而不是像VGG继承了Lenet以及AlexNet的一些框架，该模型虽然有22层，但大小却比AlexNet和VGG都小很多，性能优越。 深度学习以及神经网络快速发展，人们容易通过更高性能的硬件，更庞大的带标签数据和更深更宽的网络模型等手段来获得更好的预测识别效果，但是这一策略带来了两个重要的缺陷。 （1）更深更宽的网络模型会产生巨量参数，从而容易出现过拟合现象。 （2）网络规模加大会极大增加计算量，消耗更多的计算资源。 二、Inception 结构 2.1 Inception模型 A Inception结构的主要思想是找出如何让已有的稠密组件接近与覆盖卷积视觉网络中的最佳局部稀疏结构。 ＧoogLeNet 网络结构如下图所示： GoogLeNet网络模型参数变化如下图所示： 总体结构： （1）包括Inception模块的所有卷积，都用了修正线性单元（ReLU）；
1.1K10编辑于 2022-09-21 - 来自专栏智能大数据分析
【现代深度学习技术】循环神经网络01：序列模型
深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。 深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。 当下获得的最直接的好处就是参数的数量总是不变的，至少在 t > \tau 时如此，这就使我们能够训练一个上面提及的深度网络。 隐马尔可夫模型中的动态规划超出了本节的范围（我们将在双向循环神经网络再次遇到），而动态规划这些计算工具已经在控制算法和强化学习算法广泛使用。 ) # 一个简单的多层感知机 def get_net(): net = nn.Sequential(nn.Linear(4, 10), nn.ReLU(), nn.Linear(10, 1))
29610编辑于 2025-04-08 - 来自专栏PaddlePaddle
【AI核心技术】课程四：多层感知机网络模型
UAI与PaddlePaddle联合推出的【AI核心技术掌握】系列课程持续更新中！ 今天的视频是多层感知机网络模型，本次视频虽然较为基础，但是仍然值得仔细观看~ （友情提示：手机横屏看更舒服！） ? 视频关键点提示 00:15 连接主义学派发展 1:00 多层感知机 3:31 激活函数 7:12 多层感知机 9:24 学习的可能性 11:44 深度学习的三种学习分类（模型+算法）
30210发布于 2018-07-26 - 来自专栏PaddlePaddle
【AI核心技术】课程十四：循环网络模型-课程导引
UAI与PaddlePaddle联合推出的【AI核心技术掌握】系列课程持续更新中！ 今天的视频是循环网络模型-课程导引，21min带你迅速入门循环网络模型~ （友情提示：手机横屏看更舒服！） ? 视频关键点提示（数字为时间节点） 0:22 循环神经网络概念 3:01 循环神经网络简史 5:15 循环神经网络热度 6:10 代表性循环神经网络 7:59 常用循环网络模式 11:02 RNN简介
41020发布于 2018-07-26 - 来自专栏Reck Zhang
Java 10 - 内存模型
内存模型 主存储器与工作存储器 主存储器 方法区(Method Area) 方法区用于存储类的信息, 常量, 静态变量, 即时编译器编译后的代码. 栈(Java Virtual Machine Stacks) 代表着Java方法执行的内存模型, 每个方法执行时都会创建一个栈帧来存储方法的变量表, 操作数栈, 动态链接方法, 返回值, 返回地址等信息
38420发布于 2021-08-11 - 来自专栏Python与算法之美
10，模型的优化
搜索超参数空间以优化超参数需要明确以下方面： 估计器 超参数空间 交叉验证方案 打分函数 搜寻或采样方法（网格搜索法或随机搜索法） 优化模型的常见方法包括 网格搜索法，随机搜索法，模型特定交叉验证， 三， 模型特定交叉验证 一些特定的模型，sklearn构建了一些内部含有交叉验证优化机制的估计器。 它们主要是在linear_model模块。 四， 信息准则优化 模型选择主要由两个思路。 解释性框架：好的模型应该是最能解释现有数据的模型。可以用似然函数来度量模型对数据集描述能力。 预测性框架：好的模型应该是最能预测结果的模型。 通常模型参数越多越复杂，越容易出现过拟合。 所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之间寻求最佳平衡。 AIC(赤池信息准则)和BIC(贝叶斯信息准则)对模型的选择提供了一种判据。 AIC信息准则选择AIC最大的模型。 BIC信息准则选择BIC最大的模型。
77821发布于 2020-07-17 - 来自专栏韩曙亮的移动开发专栏
【Java 网络编程】网络环境简介 ( 网络 | 网络编程 | OSI 七层网络模型 | TCPIP 网络模型 )
文章目录 I 网络简介 II 网络编程 III OSI 七层网络模型 IV OSI 七层网络模型 - 网络编程 V OSI 七层网络模型 - TCP/IP 模型 对应关系 I 网络简介 ---- 七层网络模型 ---- 1. 物理层 ( Physical ) : 负责电信号传输 ; IV OSI 七层网络模型 - 网络编程 ---- 1. 高级层面 : 由低到高 , 会话层 ( Session ) , 表示层 ( Presentation ) , 应用层 ( Application ) ; V OSI 七层网络模型 - TCP/IP 模型 TCP/IP 网络模型 : 应用层 , 传输层 , IP 层 , 网络接口层 ; 2.
71330编辑于 2023-03-27 - 来自专栏后端进阶
Docker 网络模型
单机网络模型 在介绍跨主机网络模型前，先来看看单机网络模型，在安装 docker 之后，docker 就会有 4 种网络模型，分别是： host 模式，使用 --net=host 指定。 但这四种网络模式都仅限于单机，其中 bridge 网络模型是 docker 的默认单机网络模型，它会将一个主机上的 docker 容器连接到一个虚拟网桥上，这个虚拟桥名称为 docker0，如下图： ? 跨主机网络模型 docker 1.9 版本之后，加入了一个默认的 overlay 的网络模型，它是 docker swarm 内置的跨主机通信方案，这是一个基于 vxlan 协议的网络实现，其作用是虚拟出一个子网 4096" }, "Labels": {}, "Peers": [ { "Name": "VM_0_10 ，集群网络模型如下： ?
1.1K30发布于 2020-05-07 - 来自专栏Jed的技术阶梯
Docker网络模型
：相当于搭建虚拟机时候使用的NAT网络模型： # 宿主机安装docker之后，生成了一块网卡,IP为172.17.0.1 # 后续启动的容器，其网段就是172.17.0.0，IP地址从2开始递增，启动的第一个容器的 ：容器与宿主机共用网络模式，即容器的IP与宿主机的一样，容器内开通的端口就是占用宿主机同样的端口，包括主机名都是相同的 container网络类型：容器与容器之间共用网络模式，即各个容器的IP一样，端口也是使用的一套端口 ，不能重复 none网络类型：无网络 # 启动容器的时候可以设置网络类型，默认就是bridge docker container run -it --name centos6.9 --network bridge latest / # ifconfig # 每个容器有两块网卡,eth0实现容器间的通讯,eth1实现容器访问外网 eth0 Link encap:Ethernet HWaddr 02:42:AC:10 Downloaded newer image for busybox:latest / # ifconfig eth0 Link encap:Ethernet HWaddr 02:42:AC:10
72020发布于 2021-04-14 - 来自专栏EffectiveCoding
网络IO模型
recvfrom -> [syscall -> wait -> copy ->] return OK!
58520发布于 2019-10-08 - 来自专栏Thierry的云原生分享
Kubernetes 网络模型
Kubernetes网络模型 集群中每一个 Pod 都会获得一个独一无二的 IP 地址， 这就意味着你不需要显式地在 Pod 之间创建链接，不需要处理容器端口到主机端口之间的映射。 kubernetes的网络模型里，Pod 可以被视作虚拟机或者物理主机。 这里的模型是基本相同的。这与 kubernetes 的网络模型基本相同，它可以帮助你实现从虚拟机向容器平滑迁移。 集群网络解释了如何为集群设置网络， 还概述了所涉及的技术。 下面讲讲Kubernetes Pod网络设计模型： 基本原则：每个Pod都拥有一个独立的IP地址（IP per Pod），而且假定所有的pod都在一个可以直接连通的、扁平的网络空间中。
61671编辑于 2022-12-02 - 来自专栏Thierry的云原生分享
Kubernetes网络模型
Kubernetes网络模型集群中每一个 Pod 都会获得一个独一无二的 IP 地址， 这就意味着你不需要显式地在 Pod 之间创建链接，不需要处理容器端口到主机端口之间的映射。 kubernetes的网络模型里，Pod 可以被视作虚拟机或者物理主机。 这里的模型是基本相同的。这与 kubernetes 的网络模型基本相同，它可以帮助你实现从虚拟机向容器平滑迁移。 集群网络解释了如何为集群设置网络， 还概述了所涉及的技术。 下面讲讲Kubernetes Pod网络设计模型：基本原则：每个Pod都拥有一个独立的IP地址（IP per Pod），而且假定所有的pod都在一个可以直接连通的、扁平的网络空间中。
1.2K71编辑于 2022-11-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号