首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏AI系统

    【AI系统】推理系统架构

    推理系统架构是 AI 领域中的一个关键组成部分,它负责将训练好的模型应用于实际问题,从而实现智能决策和自动化。 在本文中,我们将主要以 NVIDIA Triton Inference Server 为基础深入探讨推理系统架构的各个方面。 本文将以 Triton 为例,介绍推理系统架构和实现原理。Triton 接入层Triton 通过提供多种接入方式,支持不同场景下的模型推理需求。Ⅰ. HTTP/REST 协议支持HTTP/REST 是一种广泛使用的网络通信协议,它基于 HTTP 协议,使用 RESTful 架构风格。 资源高效利用:多后端架构使得 Triton 能够根据模型特性和硬件资源情况智能选择最合适的推理引擎。

    1.6K10编辑于 2024-12-02
  • 来自专栏ADAS性能优化

    Android 系统架构

    Big picture GFX 架构 Video playback Drm video Camera Audio APP vs windows Binder Message Normal Unix tasks ○SCHED_BATCH: Batch (non-interactive) tasks ○ SCHED_IDLE: Low prioritytasks EAS 中断系统

    76620编辑于 2022-05-13
  • 来自专栏知识图谱

    JanusGraph系统架构

    JanusGraph的模块化架构使其能够与各种存储,索引和客户端技术进行互操作; 这也使得JanusGraph升级对应的组件过程变得更加简单。 JanusGraph标配以下适配器,但JanusGraph的模块化架构支持第三方适配器。 高层JanusGraph架构和上下文

    1.7K10发布于 2018-11-24
  • 来自专栏云计算linux

    Hbase系统架构

    3.1 系统架构 HBase 系统遵循 Master/Salve 架构,由三种不同类型的组件组成: Zookeeper 保证任何时候,集群中只有一个 Master; 存贮所有 Region 的寻址入口;

    37010编辑于 2024-12-19
  • 来自专栏微服务

    支付系统架构

    大部分公司,只要想赚钱,就得上支付系统,让用户或者客户有地方交钱。 当然,公司发展的不同阶段,对支付系统的定位和架构也不同。 电商系统,指提供在线购物服务的系统。用户在这个系统中完成交易。 支付系统,可以是电商系统的一个模块,或者是个独立的系统。这是本文的主角,用来完成支付过程。 用户,在电商系统中败家的那位。 这就有三种情况: 电商系统和商家对账;电商系统和支付系统对账;支付系统和收单机构对账。最为支付系统,我们仅关注后两者的情况。 支付的典型架构 所以支付的坑还不少,我们先看看互联网的头牌们是如何设计支付系统的? 先看看某团的: ? 再看某Q旅游公司的的: ? 对比下某东金融的: ? 最后看看业界最强的某金服金融的: ? 这其实也是普通互联网应用系统架构,没有什么特别之处。比如微服务如何体现,如何满足性能需求等,在这个视图中无法体现出来。

    2.4K12发布于 2018-08-01
  • 来自专栏个人分享

    Hadoop系统架构

    一、Hadoop系统架构图 ? Hadoop1.0与hadoop2.0架构对比图 ? YARN架构: ResourceManager –处理客户端请求 –启动/监控ApplicationMaster –监控NodeManager –资源分配与调度 NodeManager –单个节点上的资源管理

    2.1K30发布于 2018-09-06
  • 来自专栏Android 进阶

    Android 系统架构

    Android 系统架构分为五层 从上到下依次为应用层、应用框架层、系统运行库层、硬件抽象层与Linux内核层。 应用层 应用层:系统内置的应用程序与非系统的应用程序,负责与用户的直接交互。 系统运行库 C/C++ 程序库,被Android中不同的组件使用,并通过应用程序为开发者提供服务 Android 运行库及Android 运行环境 ,运行时库又被非为核心库与ART虚拟机, ART 系统在安装应用时会进行一次预编译 Surface Manager - 对显示子系统的管理,并且为多个应用程序提 供了2D和3D图层的无缝融合。 硬件抽象层 位于操作系统内核与硬件电路之间的接口层,其目的在于将硬件抽象化,保证硬件厂商的知识产权,隐藏特定平台的硬件接口细节,为操作系统提供虚拟硬件平台,使其具有硬件无关性,可在多种平台进行移植。 系统安全性、内存管理、进程管理、网络协议栈和驱动模型等都依赖与该内核。

    1.2K10发布于 2019-12-26
  • 来自专栏Java后端开发博客

    HBase系统架构

    # HBase系统架构 客户端 ZooKeeper HMaster RegionServer Hbase相关概念 逻辑模型 物理模型 实际存储方式 HBase是一个高可靠、高性能、面向列、可伸缩的分布式数据库 HBase的系统架构包括客户端、Zookeeper服务器、HMaster服务器、和RegionServer服务器这些组件。 # 客户端 HBase系统的入口 客户端是任务的发起者;它是整个储与管理HBase系统的入口,使用者直接通过客户 端来操作Hbase。 系统容错:每个RegionServer在加入集群时都需要到Zookeeper中进行注册,创 建一个状态节点,Zookeeper会实时监控每个RegionServer的状态。

    1.4K30编辑于 2022-12-25
  • 来自专栏program

    Android 系统架构

    首语 由于工作内容的转变,使得我向Android系统方向转变,对于一个Android系统工程师,了解Android整个系统架构是必然的。 本篇是Android系统学习的开篇,Android系统庞大且复杂,但是能对Android的认识更深,更全面。开启Android系统之旅吧! 推荐Android系统干货博主:Gityuan 系统架构 Android系统架构分为五层。从上往下依次是应用层、应用框架层、系统运行库层、硬件抽象层和Linux内核层。 应用程序包 out 编译代码输出目录,可自定义 pdk Plug Development Kit,本地开发套件 platform_testing 平台测试 prebuilts X86和ARM架构下预编译的一些资源 AOSP 系统架构

    1.5K61编辑于 2023-11-06
  • 来自专栏全栈程序员必看

    业务架构浅谈_业务架构系统架构

    一、序章   一般的工程师接触到的是 应用架构 ,传统的MVC分层架构、事件驱动架构、微内核等等。第一次接触业务架构这个概念是在来到商品发布团队之后。 商品发布是一个业务属性很重的系统,承载了诸多业务(业务多的围起来可以绕地球一圈)的商品发布功能。 四、如何做到灵活易接入的中台化产品   仅仅达到业务代码解耦并不够,商品发布系统要做一个中台化的产品。 使用微内核设计,对系统进行升级,只要用新模块替换旧模块,不需要改变整个操作系统。 微内核技术源于操作系统,但是在互联网产品“平台化”的大浪潮之下,这个技术得到了广泛的应用。    系统启动时,程序扫描出所有实现了SPI接口的插件,并集成到系统中对外提供服务。当新业务需要接入时,定义好一个业务身份,同时实现需要的SPI接口,即可完成业务的接入,同时做到业务的隔离。

    1.4K41编辑于 2022-11-07
  • 来自专栏迁移内容

    Ambari系统架构

    一、Ambari系统架构 Ambari框架采用的是Server/Client的模式,主要由两部分组成:ambari-agent和ambari-server。 二、Ambari-agent内部架构 Ambari-agent是一个无状态的,其功能分两部分: 采集所在节点的信息并且汇总发送心跳发送汇报给ambari-server。 三、Ambari-server内部架构 三种状态: Live Cluster State:集群现有状态,各个节点汇报上来的状态信息会更改该状态; Desired State:用户希望该节点所处状态,是用户在页面进行了一系列的操作 四、Ambari-web内部架构 Ambari-web使用了一个流行的前端Embar.js MVC框架实现,Embar.js是一个TodoMVC框架,它涵盖了现今典型的单页面应用(single page (5)、并通过控制台和系统提示通知你错误。

    2.3K10编辑于 2022-12-01
  • 来自专栏Java技术进阶

    系统架构】-如何评估软件架构

    结构重组、可移植性)、功能性、可变性、互操作性 评估方法 基于调查问卷(检查表)的方式 基于度量的方式 基于场景的方式 几种方式的比较 评估方式 调查问卷 检查表 场景 度量 通用性 通用 特定领域 特定系统 ,它充分利用系统相关人员的经验和知识,获得对架构的评估,其缺点是很大程度上依赖于评估人员的主观推断。 基于度量 该方式建立在软件架构度量的基础上,首先要建立质量属性和度量之间的映射原则,即确定怎么样从度量结果推出系统具有什么样的质量属性;然后从软件架构文档中获取度量信息;最后根据映射原则分析推到出系统的质量属性 基于场景 该方式由SEI首先提出并应用在架构权衡分析法(ATAM)和软件架构分析法(SAAM)中,它是通过分析软件架构对场景(也就是对系统的使用或修改活动)的支持程度,从而判断该架构对这一场景所代表的质量需求的满足程度 架构权衡分析法-ATAM ATAM在SAAM的基础上发展起来,主要针对性能、实用性、安全性和可修改性,在系统开发之前,对这些质量属性进行评价和折中。

    1.5K30编辑于 2022-12-02
  • 来自专栏【程序员Aion】带你去考证

    系统架构设计师|关于系统架构(上)

    前言从本篇开始,梳理关于软考的「系统架构设计师」的文章,如果不对,还望指出。1.1 系统架构系统架构系统的一种整体的高层次的结构表示,是系统的骨架和根基,其决定了系统的健壮性和生命周期的长短。 通俗地说,【系统架构系统架构 (System Architecture)是系统的一种整体的高层次的结构表示,是系统的骨架和根基,支撑和链接各个部分,包括组件、连接件、约束规范以及指导这些内容设计与演化的原理 系统架构设计的目的是对需要开发的系统进行一系列相关的抽象,用于指导系统各个方面的设计与实现,架构设计在系统开发过程中起着关键性作用,架构设计的优劣决定了系统的健壮性和生命周期的长短。 1.2 软件架构定义【软件架构】软件架构(也可称为体系结构)是用来刻画软件系统整体抽象结构的一种手段,软件架构设计也是软件系统开发过程中的一个重要环节。 并力图通过结构来反映系统的重要语义内容,包括系统的配置、约束、隐含的假设条件、风格和性质。研究结构模型的核心是架构描述语言。

    1.7K31编辑于 2024-08-19
  • 转载:【AI系统】推理系统架构

    推理系统架构是 AI 领域中的一个关键组成部分,它负责将训练好的模型应用于实际问题,从而实现智能决策和自动化。 在本文中,我们将主要以 NVIDIA Triton Inference Server 为基础深入探讨推理系统架构的各个方面。 本文将以 Triton 为例,介绍推理系统架构和实现原理。 Triton 接入层 Triton 通过提供多种接入方式,支持不同场景下的模型推理需求。 Ⅰ. HTTP/REST 协议支持 HTTP/REST 是一种广泛使用的网络通信协议,它基于 HTTP 协议,使用 RESTful 架构风格。 资源高效利用:多后端架构使得 Triton 能够根据模型特性和硬件资源情况智能选择最合适的推理引擎。

    1.4K11编辑于 2024-12-12
  • 来自专栏正则

    架构之路 (一) —— iOS原生系统架构

    接下来这几篇我们就一起看一下关于iOS系统架构以及独立做一个APP的架构设计的相关问题。 iOS系统架构 iOS系统架构如下所示: 具体哪一层包含什么框架如下所示: 下面看一下详细的信息: 1. AddressBookUI.framework:包含显示系统定义的联系人挑选界面和编辑界面的类。 EventKit.framework:包含访问用户日历事件数据的接口。 MobileCoreServices.framework:定义系统支持的统一类型标识符(UTIs) QuickLook.framework:包含预览文件接口。 参考文章 1. iOS系统架构和常用框架 2. iOS系统架构 后记 本篇主要讲述了iOS系统架构,感兴趣的给个赞或者关注,谢谢~~~

    1.3K10发布于 2021-09-04
  • 来自专栏全栈程序员必看

    数据系统架构——Lambda architecture(Lambda架构)

    数据量的变化数据管理系统(DBMS)和数仓系统(DW)也在悄然的变化着。 传统应用的数据系统架构设计时,应用直接访问数据库系统。 出现这种情况以后,在系统架构上就采用图(A)的架构,在数据库和应用中间过一层缓冲隔离,缓解数据库的读写压力。 Lambda架构的目标是设计出一个能满足实时大数据系统关键特性的架构,包括有:高容错、低延时和可扩展等。 Lambda架构 Lambda架构的主要思想是将大数据系统架构为多层个层次,分别为批处理层(batchlayer)、实时处理层(speedlayer)、服务层(servinglayer)如图(C)。 Lambda架构组件选型 下图给出了Lambda架构中各组件在大数据生态系统中和阿里集团的常用组件。

    4.1K10编辑于 2022-09-12
  • 来自专栏IT架构圈

    软件架构-电商系统架构(上)

    对于vagrant的如何安装不用的系统不一样可以参看 mac 安装vgarant :https://idig8.com/2018/07/29/docker-zhongji-07/ window安装vgarant

    82730发布于 2021-08-24
  • 来自专栏IT架构圈

    软件架构-电商系统架构(中)

    软件架构-电商系统架构(上) docker的方式安装了nexus,gogs和正常的方式安装jenkins,下面一起说说tomcat的持续集成,和3者之前项目的贯通。接上节,请勿别单独看本节。 安装路径下的conf/settings.xml文件 settings.xml 配置 mirrors中添加 找到节点添加 找到节点增加 在之后增加 jenkins配置JDK和Maven 系统管理 全局工具配置 JDK配置 Maven配置 •③ nexus中的maven配置私服地址(192.168.72.103) 在仓库中,默认会在本地去查找插件,当未发现有插件时,会去第三方仓库查找,跟系统上的

    69920发布于 2021-08-24
  • 来自专栏GreatSQL出品技术文章

    微服务系统架构

    微服务系统架构 背景 回忆一下微服务架构是如何进化产生的,最早出现的是单体应用架构,后来为了具备一定的扩展和可靠性,就有了垂直拆分架构,也就是加了个负载均衡,而到现在的微服务架构则是进一步在探讨一个应用系统该如何设计才能够更好的开发 什么是微服务架构 微服务架构的核心思想是:分而治之,就是开发多个围绕业务领域的组件来构建应用,让组件可以独立的开发、测试、部署和加速。 且业务持续升级改进 项目需要长期迭代维护 业务处于高速发展期或成熟期 微服务架构不适用的场景 初创公司或10人以下的小团队 概念验证性质的项目 微服务与单体应用在生产率上的比较 根据马丁·福勒介绍, 在系统复杂度较小时 ,单体应用的生产率更高,微服务架构反而降低了生产率。 但是,当复杂度到了一定规模,无论采用单体应用还是微服务架构,都会降低系统的生产率。区别是:单体应用生产率开始急剧下降,而微服务架构则能缓解生产率下降的程度。

    50930编辑于 2023-02-24
  • 来自专栏乱码三千

    Android系统架构简介

    Android系统架构师安卓系统的体系机构,Android的系统架构和其他操作系统一样,采用了分层的架构,共分为4层,从高到低分别是Android应用层,Android应用架构层,Android系统运行层和 系统运行库层 1) 程序库 Android包含一些C/C++库,这些库能被Android系统中不同的组件使用。 他们通过Android应用程序框架为开发者提供服务,以下是一些核心库: *系统C库(libc):一个从BSD继承来的标准C系统函数库,他是专门为基于embedded linux的设备定制的媒体库(Media * Surface Manager:对显示子系统的管理,并且为多个应用程序提供了2D和3D图层的无缝融合。 Dalvik被设计成一个设备可以同时高效地运行多个虚拟系统。Dalvik虚拟机执行(.dex)的Dalvik可执行文件,该个税文件针对小内存使用做了优化。

    81140发布于 2021-07-29
领券