首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏AI系统

    AI系统】AI编译器前瞻

    随后会分析当前 AI 编译器面临的诸多挑战,并展望 AI 编译器的未来。 XLA共五个热门 AI 编译器,如下图所示。 AI 芯片需要编译器吗?AI 芯片需要 AI 编译器吗?AI 芯片对于编译器的依赖取决于芯片本身的设计。越灵活的芯片对于编译器的依赖会越大。 AI 编译器的未来针对 AI 编译器的未来,可能存在着许多未知的问题,但仍然是十分可观的。 在 AI 编译器整体架构图中其他的部分,如 AI 编译器的后端优化等,将在后续章节中进行介绍。

    1.6K10编辑于 2024-11-28
  • 来自专栏AI系统

    AI系统】AI 编译器后端优化

    AI 编译器分为多层架构,最顶层由各种 AI 训练框架编写的神经网络模型架构,一般由 Python 编写,常见的 AI 训练框架有 PyTorch、MindSpore、PaddlePaddle 等。 在导入 AI 编译器时需要用对应框架的 converter 功能转换为 AI 编译器统一的 Graph IR,并在计算图级别由 Graph Optimizer 进行计算图级优化,也叫前端优化。 本文将重点介绍 AI 编译器的后端优化相关功能。后端优化后端优化基本概念在 AI 编译器中存在两层中间表示,相应也存在两类优化,即前端优化和后端优化。 不同 AI 编译器内部低级 IR 形式和定义不同,但是对于同一算子,算法的原理实质相同。对于每个具体的算子,需要用 AI 编译器底层的接口来定义算法,再由编译器来生成内部的低级 IR。 传统编译器如 GCC、LLVM 也具有后端优化的部分,为什么不直接将 AI 编译器的后端优化委托给传统编译器来实现呢?有两个关键原因:1)数据形式不同:深度学习中数据形式主要为张量(Tensor)。

    83510编辑于 2024-11-29
  • 来自专栏AI系统

    AI系统】为什么需要 AI 编译器

    本文将通过探讨 AI 编译器的黄金年代以及传统编译器AI 编译器的区别等角度,来介绍为什么需要 AI 编译器。 每家 AI 芯片公司都在推出自己的 AI 编译器、框架甚至软件栈,市场上出现了极度碎片化的现象。Chris 预见,未来十年将是 AI 编译器快速发展的十年。 这会极大的促进 AI 领域的发展!下图展示了 AI 编译器大致的框架图。传统编译器AI 编译器区别接下来,我们来了解一下 AI 编译器与传统编译器的区别与联系。 AI 编译器依赖传统编译器AI 编译器对 Graph IR 进行优化后,将优化后的 IR 转化成传统编译器 IR,最后依赖传统编译器进行机器码生成。 相对地,AI 编译器的输入是神经网络模型的计算图,而输出同样是机器码。这在输入层面构成了传统编译器AI 编译器最根本的区别。进一步的区别体现在编译器的目标上。

    77010编辑于 2024-11-28
  • 来自专栏AI系统

    AI系统】AI 编译器历史阶段

    本文将通过介绍 AI 编译器的设计目标、定义、发展阶段等角度,详细探讨 AI 编译器的历史发展。 如下图所示,AI 编译器的发展应该分为三个阶段:朴素 AI 编译器(阶段一)、专用 AI 编译器(阶段二)、通用 AI 编译器(阶段三),接下来我们将会主要按照这三个阶段的顺序详细介绍 AI 编译器的发展阶段 AI 编译器的发展需要同时满足这两个场景的需求,以支持 AI 模型从开发到部署的整个生命周期。朴素 AI 编译器AI 编译器的第一个阶段,我们可以将其看作是朴素 AI 编译器阶段。 专用 AI 编译器AI 编译器的发展中,阶段二标志着专用 AI 编译器的诞生,这一阶段的编译器开始针对 AI 和深度学习工作负载进行优化。 通用 AI 编译器在阶段二专用 AI 编译器之后,就是 AI 编译器发展阶段三的到来。阶段三代表着通用 AI 编译器的重要发展阶段。

    61810编辑于 2024-11-28
  • 来自专栏AI系统

    AI系统】编译器基础介绍

    AI 编译器就成了应对以上问题广受关注的技术方向,让用户仅需专注于上层模型开发,降低手工优化性能的人力开发成本,进一步压榨硬件性能空间。 在本文内容里面,我们将会探讨编译器的一些基础概念,以便更好地去回答以下问题:了解什么是编译器,为什么 AI 框架需要引入编译器?最后一个问题则是 AI 框架和 AI 编译器之间什么关系? 框架中区别目前主流的 AI 框架,都会带有前端的表达层,再加上 AI 编译器对硬件使能,因此 AI 框架跟 AI 编译器之间关系非常紧密,部分如 MindSpore、TensorFlow 等 AI 框架中默认包含了自己的 AI 编译器。 目前 PyTorch2.X 版本升级后,也默认自带 Inductor 功能特性,可以对接多个不同的 AI 编译器

    1.1K10编辑于 2024-11-27
  • 来自专栏AI系统

    AI系统】传统编译器发展

    我们很难想象,在没有出现编译器的时候,程序员编程是有多么的困难。在本文内容里面,由于 AI 系统中大量地使用了传统编译器中的概念和内容,本文我们将会去了解传统编译器的发展。 第六阶段:21 世纪第一个 10 年,出现了以 Lua 为首的 Torch 框架,用于解决爆炸式涌现的 AI 应用和 AI 算法研究,之后又推出 TensorFlow、PyTorch、MindSpore 、Paddle 等 AI 框架,随着 AI 框架和 AI 产业的发展,出现了如 AKG、MLIR 等 AI 编译器。 Xcode4 之后,苹果的默认编译器采用 Clang 作为编译器前端,LLVM 作为编译器后端。 GCC 是一个功能强大的编译器集合,支持多种编程语言,广泛应用于各种开源课程和商业软件。LLVM 是一个灵活的编译器基础设施,提供了通用的编译器工具和库,被用于构建自定义编译器

    1.2K10编辑于 2024-11-27
  • 转载:【AI系统】编译器基础介绍

    AI 编译器就成了应对以上问题广受关注的技术方向,让用户仅需专注于上层模型开发,降低手工优化性能的人力开发成本,进一步压榨硬件性能空间。 在本文内容里面,我们将会探讨编译器的一些基础概念,以便更好地去回答以下问题:了解什么是编译器,为什么 AI 框架需要引入编译器?最后一个问题则是 AI 框架和 AI 编译器之间什么关系? 框架中区别目前主流的 AI 框架,都会带有前端的表达层,再加上 AI 编译器对硬件使能,因此 AI 框架跟 AI 编译器之间关系非常紧密,部分如 MindSpore、TensorFlow 等 AI 框架中默认包含了自己的 AI 编译器。 目前 PyTorch2.X 版本升级后,也默认自带 Inductor 功能特性,可以对接多个不同的 AI 编译器

    1K00编辑于 2024-12-11
  • 转载:【AI系统】传统编译器发展

    我们很难想象,在没有出现编译器的时候,程序员编程是有多么的困难。在本文内容里面,由于 AI 系统中大量地使用了传统编译器中的概念和内容,本文我们将会去了解传统编译器的发展。 第六阶段:21 世纪第一个 10 年,出现了以 Lua 为首的 Torch 框架,用于解决爆炸式涌现的 AI 应用和 AI 算法研究,之后又推出 TensorFlow、PyTorch、MindSpore 、Paddle 等 AI 框架,随着 AI 框架和 AI 产业的发展,出现了如 AKG、MLIR 等 AI 编译器。 Xcode4 之后,苹果的默认编译器采用 Clang 作为编译器前端,LLVM 作为编译器后端。 GCC 是一个功能强大的编译器集合,支持多种编程语言,广泛应用于各种开源课程和商业软件。LLVM 是一个灵活的编译器基础设施,提供了通用的编译器工具和库,被用于构建自定义编译器

    1K00编辑于 2024-12-11
  • 来自专栏【腾讯云开发者】

    LLVM极简教程:9个步骤!实现一个简单编译器

    导语 | 本文将从目标及详细的步骤教学来介绍使用LLVM实现一个简单编译器,希望带领大家去理解使用LLVM实现一个编译器的完整代码运行。 现在开始我们要使用LLVM实现一个编译器,完成对如下代码的编译运行: # 斐波那契数列函数定义def fib(x) if x < 3 then 1 , // if TOKEN_THEN = -7, // then TOKEN_ELSE = -8, // else TOKEN_FOR = -9, 优先级为5def binary| 5 (LHS RHS) if LHS then 1 else if RHS then 1 else 0 # 新增二元操作符 `=`,优先级为9, 这个操作符类似C++的 `==`def binary= 9 (LHS RHS) !

    6.4K30发布于 2021-09-30
  • 来自专栏周末程序猿

    ChatGPT|AI自制编程语言-实现JavaScript编译器

    回顾 JS 编译器的实现过程 如上是总结的 V8 大体的实现方式,编程语言的实现已经经历了几十年的发展,包括 V8,Lua等语言基本都采用类似实现步骤: 词法分析 语法分析 语义解析和优化 虚拟机 通过 ,首先开发者要了解编译器实现方案(参考上图),然后让 AI 了解实现方案(虽然 AI 本身已经有编译器的实现原理,但是开发者需要按照场景提示 AI 按照哪种方案实现),最好要有简单的样例给到 AI 编码助手 ,这里提供一些知识库的资料: https://github.com/linkxzhou/mylib/tree/master/c%2B%2B/simplejs 非常简单的 JS 编译器实现 https:/ /github.com/wren-lang/wren wren 脚本语言源码,大约 4000 行代码 书籍:《用 Go 语言自制解释器》和《用 Go 语言自制编译器》 书籍:《编译器设计(第二版)》和《 自己动手构建编程语言》 JS 测试用例集合:https://github.com/tc39/test262 如果您实现的不是 JS 编译器,也可以作为知识库,让 AI 参考源码按照你想要的方式实现(比如

    41510编辑于 2025-04-27
  • 来自专栏ADAS性能优化

    AI Weekly | Nov. 9, 2019

    Researchers tout AI that can predict 25 video frames into the future In a preprint paper, researchers propose an AI model that can predict up to 25 video frames into the future given only two to five starting Applause targets AI bias by sourcing training data at scale Software-testing company Applause wants to reinvent AI testing with a service that detects AI bias by crowdsourcing larger training data sets. Remember that scary AI text-generator that was too dangerous to release?

    32210编辑于 2022-05-13
  • 来自专栏全栈程序员必看

    java官方编译器_JAVA 编译器

    说白了,javac就是一个编译器编译器就是把一种语言规矩转换成另一种语言规矩,也就是将对人友好的语言转换成对机器友好的语言。 JIT做了些什么 JIT 是 just in time 的缩写, 也就是即时编译编译器。使用即时编译器技术,能够加速 Java 程序的执行速度。下面,就对该编译器技术做个简单的讲解。 查看编译模式 中级编译器调优 大多数情况下,优化编译器其实只是选择合适的 JVM 以及为目标主机选择合适的编译器(-cient,-server 或是-xx:+TieredCompilation)。 我们已经知道 client 编译器和 server 编译器在最终的性能上有很大的差别,很大程度上是因为编译器在编译一个特定的方法时,对于两种编译器可用的信息并不一样。 当使用 client 编译器时,JVM 启动一个编译线程,而 server 编译器有两个这样的线程。

    3.1K30编辑于 2022-09-14
  • 来自专栏白话互联

    Ai Agent】Ai Agent News | 9月11日速递

    今天是9月11日星期四,让我们一起来看看今天 Ai Agent 带来的 AI 领域的重要动态吧! ❤ Indeed Unveils AI Agents for Job Seekers and Recruiters 求职招聘领域迎来AI助手新时代 Indeed推出了两款AI Agents,分别面向求职者和招聘方 ❤ Secure AI Agents at Runtime with Docker Docker推出AI Agent运行时安全解决方案 Docker发布了关于如何在运行时保护AI Agent的新方法, 随着AI工具的强大和普及,它们也变得不可预测且易受攻击。从LLM输出中的幻觉到提示注入,AI工作流面临多重安全威胁。 AI Agent时嵌入运行时安全,为AI原生开发提供更可靠的安全保障。

    41210编辑于 2025-09-17
  • 来自专栏全栈程序员必看

    手机版java编译器_Java编译器

    这是一款专为学习Java的学员们打造的一款非常优质的程序验证软件,让用户能够非常快速的复制自己的程序到APP中,进行检验,能够非常快速的去验证程序的内容,能够非常及时的进行纠错,让你的代码能够及时的得到解决,用户可以随时在这里打开使用,保证自己的编辑的代码能够更加的完美,让你可以更好的精心纠错,对于初学者来说是一款非常棒的软件,让自己能够学的更好,经验能够更加的丰富。

    4.6K30编辑于 2022-09-14
  • 来自专栏月色的自留地

    从锅炉工到AI专家(9)

    Epoch 8 Step 1207755: lr = 0.015 words/sec = 401 Eval 4965/17827 accuracy = 27.9% Epoch 9

    86960发布于 2018-06-20
  • 来自专栏圣杰的专栏

    .NET+AI | Agent | 人机协作(9

    通过 ApprovalRequiredAIFunction 为敏感工具加上人工审批环节,快速构建符合企业合规要求的 MAF 人机协作智能体。

    31010编辑于 2025-12-28
  • 来自专栏CSDN社区搬运

    推荐编译器插件:Fitten Code 更快更好的AI助手

    Fitten Code 更快更好的AI助手 前言 作为一名开发者,随着技术的不断进步,我们手中的工具也在不断升级。

    1.7K10编辑于 2024-08-29
  • 图解AI9个MCP应用场景

    100% 本地 MCP client MCP 客户端是 AI 应用(如 Cursor)中用于建立与外部工具连接的组件。 目前很多IDE都提供了兼容本地AI的配置方式,我一般用代码代替客户端来完成一些测试。 机器配置稍微好点的可以跑个满血版的模型,推荐使LlamaEdge,ollama默认会下载量化版的模型,体验稍差。 财务分析 基于 Cursor 或 Claude Desktop 构建 MCP 驱动的 AI 智能体,实现对股市趋势的数据获取、分析及洞察生成。 这块也可以像前面提到的,对接各种外部数据,从各种数据库拉取数据交给AI生成报表。目前比较流行的是让AI使用数据画成图表数据,目前主流AI IDE都已Mermaid语法,推荐豆包。

    8710编辑于 2026-06-22
  • 来自专栏Charlie's Road

    使用编译器

    Solidity存储库的一个构建目标是solc,solidity命令行编译器。 使用solc --help为您提供所有选项的解释。 编译器可以生成各种输出,范围从简单的二进制文件和汇编到抽象语法树(解析树),以估计gas使用情况。 编译器输入输出JSON描述 这些JSON格式由编译器API使用,也可以通过solc使用。 这些可能会发生变化,有些字段是可选的(如上所述),但其目的仅在于进行向后兼容的更改。 编译器API需要JSON格式的输入,并以JSON格式的输出输出编译结果。 评论当然是不允许的,这里仅用于解释目的。 UnimplementedFeatureError:编译器不支持该功能,但预计将在未来的版本中受支持。 InternalCompilerError:在编译器中触发的内部错误 - 这应报告为问题。

    2K20发布于 2018-10-19
  • 来自专栏m0w3n

    gcc编译器

    一、gcc编译器 编译器:把文件经过处理,生成对应的可执行文件。 //test.c文件: X86平台上面:   gcc编译器,可以在x86平台上面运行。 ARM平台上面的:   arm-linux-gcc   交叉编译器:在一个平台编译生成可执行文件,在另外一个平台运行可执行文件。   例如windows下面的keil就是一个交叉编译器。 ? } } } main.c #include <stdio.h> #include "sequence.h" unsigned char dis_num[8] = {10,9,17,92,2,8,35,12

    2.8K10发布于 2020-02-28
领券