首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏思影科技

    语言加工的神经计算模型

    语音韵律及其神经基础 Science:鸣唱学习和口语的演化 PNAS:婴儿大脑中语言的正交神经编码 语前婴儿与成人相似的语音统计学习模式:来自神经夹带的证据 Nature子刊:脑卒中后失语症语言恢复的神经计算基础 本文专门考虑匹配时间序列大脑数据的神经计算模型,以阐明语言学家感兴趣的问题。它更新了Stowe et al. (2005) 使用大脑特定区域语言加工的计算模型。 神经计算模型可能有助于揭示大脑机制如何在不同类型的语言中进行不同的分配。 5. 打开黑盒子以了解机制 上一节讨论的语言特征是人类语言加工的候选模型执行的句法和语义计算的输出。 表1.与神经计算模型一起使用的公开可用的神经语言学数据集。 总结: 当前,研究者们可以测试更细粒度的大脑/语言相关性。 在一个神经计算模型中同时考虑多种语言对于得出一般结论至关重要。随着网络规模的语料库的出现,相信这是一个现在可以实现的目标。

    79920编辑于 2022-02-28
  • 来自专栏CreateAMind

    DeepMind可微分神经计算机-论文中文解读

    又是一篇deepmind发表在nature上的文章,还记得前面2篇吗?一篇是DQN,一篇讲AlphaGo。发表在nature上的论文格式不太一样,正文只是简单描述一下思路和成果。附录里面才是主要的技术细节。今天只探讨一下正文里面的内容(推荐先了解论文Neural Turing machines,这两篇论文的作者都是一波人)。后续有机会继续看看技术细节。

    51120发布于 2018-07-25
  • 来自专栏机器之心

    资源 | 基于TensorFlow和Sonnet,DeepMind开源可微神经计算机实现包

    选自Github 机器之心编译 参与:蒋思源 去年 DeepMind 在自然期刊上曾介绍过一种记忆增强式的神经网络形式-可微神经计算机。 而近日,DeepMind 开源了可微神经计算机的实现,该实现是基于 TensorFlow 和可在 TensorFlow 中快速构建神经网络的 Sonnet。 项目地址:https://github.com/deepmind/dnc 机器之心报道的可微神经计算机: 业界 | DeepMind 深度解读 Nature 论文:可微神经计算机 资源 | DeepMind 提出的可微神经计算机架构的 TensorFlow 实现 该开源包提供可微神经计算机(论文发表在自然期刊)的实现。 可微神经计算机是一种循环神经网络。在每一个时间步中,它的状态由当前记忆内容和诸如记忆使用的辅助信息组成,并将在时间 t 的输入映射到时间 t 的输出。

    77930发布于 2018-05-07
  • 来自专栏机器之心

    业界 | 英特尔发布Movidius Myriad X VPU:提出神经计算引擎

    通过全新神经计算引擎(Neural Compute Engine)的加速,VPU 可以在功耗很低的情况下实现每秒万亿次 DNN 计算,英特尔称,这比他们此前的产品速度快上十倍。 Myriad X 的强大之处在于 Movidius 引入了被称之为神经计算引擎(Neural Compute Engine)的新结构,这是一种片上 DNN 加速器。

    1.6K60发布于 2018-05-08
  • 来自专栏AI科技大本营的专栏

    英特尔Movidius推神经计算棒,可在终端运行神经网络

    英特尔表示,Movidius神经计算棒(Neural Computer Stick)是世界上第一款采用USB格式的AI加速器,这个计算棒能够编译并加速边缘神经网络。 有外媒分析认为,Movidius神经计算棒是AI从云端走向终端设备的又一个标志,Movidius的这款产品填补了市场的空白,有助于加速AI民主化的进程。 虽然概念很好,但是受限于计算性能,Movidius的这款神经计算棒到底能走多远,还有待市场验证。

    1.3K110发布于 2018-04-26
  • 来自专栏SIGAI学习与实践平台

    理解计算:从√2到AlphaGo——第2季 神经计算的历史背景

    感知机的出现标志着一门称之为“神经计算“的研究领域的诞生,现在更一般说法就是人工神经网络,尽管这个说法现在看起来已经不那么时髦。 有意思的是,在20世纪后半,神经科学和计算科学相结合诞生的神经计算(Neural Computing),显微镜终于和集成电路联系在一起。

    57750发布于 2018-07-02
  • 来自专栏量子位

    英特尔推出升级版VPU:引入神经计算引擎,提速10倍

    安妮 编译整理 量子位 出品 | 公众号 QbitAI 今天凌晨,英特尔推出Movidius Myriad X视觉处理单元(VPU),它是一种低功耗系统芯片(SoC),引入了神经计算引擎(Neural 神经计算引擎是一种集成在芯片上的DNN加速器,有了它的助力,Myriad X功率低且性能强,可为无人机、相机、安全系统、VR/AR设备、360度摄像头等设备的视觉和AI应用提供高效解决方案。 △ Myriad X介绍图,左上为芯片与美元5分硬币的大小对比 速度的提升很大程度上归功于在Myriad X上引入的神经计算引擎。 △ Myriad X与Myriad 2两者性能对比 神经计算引擎的能力令人印象深刻,但在如此低功率下提供高性能的推理并不简单。 Myriad X主要融合了4个重要的设计元素: 灵活的SHAVE处理器:SHAVE处理器的原始性能达到了数百个GFLOPS,加速神经计算引擎的硬件固定功能。

    84760发布于 2018-03-27
  • 来自专栏新智元

    DeepMind 可微分神经计算机 DNC 开源,内部架构原理首次曝光

    【新智元导读】DeepMind昨夜宣布,将其 Nature 论文研究成果、2016 年引起热议的可微分神经计算机 DNC 开源,相关代码和部署细节已经在 Github 公开。 DNC 结合了神经网络自动学习和传统计算机可读写存储数据的能力,被认为是目前最接近数字计算机的神经计算系统。此次正式开源,想必会吸引众多开发人员和研究者参与改进。 在去年10月,DeepMind 发表于 Nature 的一篇论文中,他们提出了一种叫做“可微分神经计算机”(DNC)的混合计算系统,将神经网络和一个外部存储器相结合。 现在,DeepMind 将 DNC 开源,公布代码,提供训练教程,名震一时的“可微分神经计算机”的内部细节终于曝光。 ? DeepMind 的 DNC 展示了一种不同与传统数字计算机的“认知神经计算机”,以及对认知和神经科学的启示:现在有一台机器,在不需要事先编程的情况下,能够自己组织信息,解决问题。

    1.7K60发布于 2018-03-27
  • 来自专栏量子位

    有记忆会推理的可微分神经计算机,DeepMind现在开源了代码

    通过把神经网络和可读写的外部存储器进行结合,可微分神经计算机这种混合学习型神经网络,既能像神经网络那样进行学习,又能像计算机那样处理复杂数据。 可微分神经计算机类似一个可微分的函数,能够成功理解复杂的图形结构,比如家谱图或者是交通网络。 可微分神经计算机(Differentiable Neural Computer,DNC)是一种特殊的循环神经网络。 ▪ access模块是可微分神经计算机做出逻辑判断的主要位置,因为这是存储器写入和读取的地方。 这样的问题,可微分神经计算机可以规划出路线。 相关评论 对于可微分神经计算机展现出的能力,不来梅大学计算机科学家Herbert Jaegar说:“我认为这可以说是理性的推理。

    1.4K60发布于 2018-03-30
  • 来自专栏新智元

    神经计算机AI模型大突破! 训练时间每秒120万帧,创最新记录

    神经计算机就像是在AI计算军备竞赛中发出的一个示警信号。 AlexNet到AlphaGo零:计算量增长了300,000倍 先来了解一下IBM 的神经计算机吧 IBM神经计算机 IBM的神经计算机由432个节点组成(每16个模块卡中有27个节点),这些节点是IBM 既然对神经计算机有所了解,那么IBM在神经计算机上的首次应用演示,系统是怎么达到创纪录的每秒120万帧的训练时间呢? 如果IBM神经计算机测试结果是重复的,则该系统可以用于加速这些AI算法的开发。 研究人员在神经计算机中每个卡使用了26个节点,对总共416个节点进行了实验。 在五个实验过程中,IBM研究人员在神经计算机上运行了59个Atari 2600游戏。

    42940发布于 2020-05-26
  • 来自专栏新智元

    北大黄铁军:强AI的“仿真主义”和神经计算机的“五原则”

    文章不仅阐述了如何打破走向通用人工智能的研究僵局、探索研制类脑神经计算机的新思路,还详细描述了类脑神经计算机三个重要技术层次和国内外研究进展。 如果说Neurogrid、BrainScaleS、SpiNNaker和TrueNorth等神经形态计算系统代表了神经计算机的今天,那么全新的神经形态器件将决定神经计算机的明天。 要在一个有限的物理空间中以较低功耗实现大脑规模的神经计算机,必须研制尺度和功耗都与生物相当甚至更小的神经形态器件。 尽管这些器件应用于神经计算系统还有很长的路要走,但它们将从根本上塑造神经计算机的未来,就像晶体管和集成电路对经典计算机的贡献一样。 神经计算机“五原则” 为了和经典计算机区分,真正的“电脑”可称为“类脑计算机”或“神经计算机”,是仿照生物神经网络,采用神经形态器件构造的,以多尺度非线性时空信息处理为中心的智能机器。

    1.1K80发布于 2018-03-28
  • 来自专栏新智元

    【Nature 重磅】谷歌 DeepMind 发布可微分神经计算机 DNC,深度学习推理能力或大幅提升

    【新智元导读】谷歌 DeepMind 团队设计了一种叫做可微分神经计算机(DNC)的神经网络模型,结合神经网络与可读写的外部存储器,能够像神经网络那样通过试错或样本训练进行学习,又能像传统计算机一样处理数据 德国研究者 Herbert Jaeger 评论称,这是目前最接近数字计算机的神经计算系统,该成果有望解决神经系统符号处理难题。 Graves 和他的同事在这一问题之上又迈出了一步,他们开发了一个神经计算系统,这一系统跟数字计算机有着惊人的类似。 与数字计算机有着惊人相似的神经计算系统 虽然在人类的推理和计算机程序运行之间存在明显的相似之处,但是,我们在理解如何把它们中的任何一个部署于生物或者人工神经网络时,依然缺乏足够知识。 在本文中我们提出了一种名叫可微分神经计算机(DNC)的机器学习模型,该模型含有一个能够对外部存储矩阵进行读写的神经网络,这个外部存储矩阵好比传统计算机的随机存取存储器。

    1.3K80发布于 2018-03-26
  • 来自专栏AI科技评论

    【业界】Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

    它来自谷歌 DeepMind 团队,现在这个人工智能实验室又推出了一项重磅研究——可微分神经计算机的神经网络模型(Differentiable Neural Computer,简称 DNC)。 DNC 简易模型,图源:FT 为了提高深度学习的能力,谷歌的 DeepMind 团队创造了这种新型机器学习算法“ 可微分神经计算机”DNC,它将“神经网络”计算系统与传统计算机存储器结合在一起。

    1.1K70发布于 2018-03-08
  • 来自专栏机器之心

    只有4%的公司让AI计划真正落地?如何成为AI马拉松领跑者

    英特尔神经计算棒二代:边缘设备从实验室到量产 ? 「相比于上一代神经计算棒,NCS 2 有高达 8 倍的性能提升。」英特尔人工智能产品事业部总经理 Naveen Rao 这样介绍道。 神经计算棒可以说是比原型设计中常见的「开发板」更灵活一个等级的算力模块。 自 2017 年 7 月 神经计算棒(NCS)一代发布以来,致力于在边缘设备上发力的开发团队想出了不少有趣的点子。 在现场,Clean Water AI 项目的创始人 Peter Ma 就介绍了他利用神经计算棒闯关大小 Hackathon 的经历:在去年 9 月拿到神经计算棒后,他先后将皮肤癌检测技术、人脸识别「开锁 最后,他用神经计算棒设计了 Cleanwater AI,一个能从显微镜图片中离线、实时检测出水中的污染物的设备。原型机只是笔记本电脑加上神经计算棒,实验成功后他们决定将这个项目产品化。

    68130发布于 2018-12-14
  • 来自专栏机器之心

    神经图灵机深度讲解:从图灵机基本概念到可微分神经计算

    可微分神经计算机(参见机器之心文章《DeepMind 深度解读 Nature 论文:可微神经计算机》)或者最近的一些模型本质上就是经过一些修改的神经图灵机。 这是可微分神经计算机体系结构的总结。你们看到的左边的图表代表的是输入和输出变量的长度,然后读头和写头允许计算机在记忆区进行存取。这里你可以看到它一次读入整个向量并在第 6 区域写入。 我需要这块记忆......」可微分神经计算机确实学会了做这件事,这使事情变得更加容易,让这些事情变得更加有趣。 ? 动态神经计算机在推理任务上的性能 我从为见过的让计算机之间显得有些不同的例子就是它们能够做这种逻辑推理的事情,虽然是结合了某种模糊的推理。 你会看到,动态神经计算机(DNC)只在两个领域没有通过,其他的都通过了,而且还和可以 Facebook 的模型相媲美,Facebook 的模型被设计得非常好,因为这些数据集就是它们自己的数据集。

    1.8K80发布于 2018-05-07
  • 来自专栏量子位

    英特尔AIDC2018:神经计算棒二代从天而降,软硬生态合作圈尽露锋芒

    在剩余相对有限的时间内,英特尔还发布了一份关于推动AI科研和人才培养的“AI未来先锋计划”,以及一款全新的硬件产品——英特尔神经计算棒二代(NCS 2)。 △ Naveen发布NCS 2 英特尔神经计算棒(NCS)是一款基于VPU的“微型无风扇深度学习USB驱动器”,设计用于深度神经网络推理应用的开发。 此次发布的NSC2,则首次配备了神经计算引擎,搭配了OpenVINO工具包,性能为上一代产品的8倍。 然而谁也没想到,说完这句话Naveen就把之前拿在手里展示的神经计算棒二代冲台下扔了出去,飞行距离之远,现场群众纷纷为Naveen的臂力发出惊叹。

    65940发布于 2018-12-14
  • 来自专栏ATYUN订阅号

    【技术】英特尔的Movidius AI加速技术适用于mini-PCIe版本,旨在加速神经网络

    AiTechYun 编辑:nanan Aaeon公司推出了“UP AI Core”—— mini-PCIe版本的英特尔Movidius神经计算棒,用于神经网络加速,可用于UP Squared SBC和其他 正如英特尔在上周宣布“Intel AI”时所承诺的那样:在其Movidius神经计算棒的生产程序中,Aaeon推出了一款名为UP AI Core的mini-PCIe版本。 与英特尔的79美元的Movidius神经计算棒所使用的USB连接相比,UP AI Core的mini-PCIe接口可能提供更快的响应时间。 然而,Aaeon并没有宣称这一效应,或许是为了避免贬低英特尔的神经计算棒,或其他基于英特尔®AI:In Production计划的USB产品。 ? 这款由Ubuntu驱动的USB记忆棒,在早期的Myriad 2参考板中实现了技术的小型化,与英特尔的Movidius神经计算棒重新出现的技术基本相同。 ?

    1.2K60发布于 2018-03-27
  • 来自专栏机器之心

    业界 | 英特尔推出Myriad™ X芯片:将人工智能引入边缘计算

    机器之心发布 机器之心编辑部 首个拥有专用神经计算引擎的视觉处理单元,将赋予设备实时观察、理解周围的世界,并与其进行交互的能力。 Myriad™ X 是世界上第一个拥有专用神经计算引擎的视觉处理单元(VPU),能够以惊人的低功耗和高性能将人工智能引入边缘计算。 Myriad™ X 将专用的成像、计算机视觉以及高性能深度学习推理(这一点要感谢业界首个神经计算引擎)结合在同一个芯片中,然后开辟了新的充满潜力的领域。 引入该神经计算引擎之后,Myriad™ X 架构能够为基于深度学习的神经网络推理提供 1 TOPS 的计算性能。 除了神经计算引擎,Myriad X 通过如下方式独特地实时整合了成像、视觉处理和深度学习推理: 可编程 128 位 VLIW 向量处理器:通过为计算机视觉工作负载而优化的 16 个向量处理器可以灵活地同时运行多个成像和视觉应用流水线

    1.2K90发布于 2018-05-09
  • 来自专栏机器之心

    业界 | 英特尔研发自我学习芯片Loihi:我们正在尝试复制大脑!

    神经计算系统将会在变化多端的心率数据中,自行辨别出一个「正常」心率,从而,系统便可以根据这个模型持续监测心率。这意味着,机器学习系统可以为每个人量身定制不同的算法。 ? 这套逻辑同样适用于其他场景。 系统会在日常监测中自动辨别出一个「正常」的数据流量,当数据发声泄露时,数据量会发生异变,这种情况下,神经计算系统将会及时辨认出这种数据波动,为网络安全保驾护航。 展望未来,英特尔相信,通过模仿大脑工作的方式,神经计算将为我们带来百亿亿次级别的计算量。 我们真诚地希望这次里程碑似的发布能够引起社会广泛的关注,因为英特尔正在将神经计算等前瞻性概念推向主流科研领域,这对于世界未来 50 年的经济发展有着重要的意义。 在神经计算的帮助下,未来,一切皆有可能! 英特尔在计算架构创新发展上的愿景始终坚定不移。并且从今天开始,英特尔已经开始打造未来的计算。 ? 本文为机器之心发布,转载请联系本公众号获得授权。

    1.1K70发布于 2018-05-10
  • 来自专栏新智元

    【Nature重磅】扩散型忆阻器带来类脑计算大突破,或成神经计算机时代“晶体管”

    北京大学计算机科学技术系系主任黄铁军博士评论称,马萨诸塞州阿姆赫斯特大学在神经形态器件研制方面很强,配上8月份IBM苏黎世的神经元,神经形态计算最重要的两个器件就到位了,如果可行,堪称神经计算机时代的“ 北京大学计算机科学技术系系主任黄铁军博士评论称,马萨诸塞州阿姆赫斯特大学在神经形态器件研制方面很强,配上8月份IBM苏黎世的神经元,神经形态计算最重要的两个器件就到位了,如果可行,堪称神经计算机时代的“ 历史似乎在重复,今年以来,欧洲两台神经形态计算系统 BrainScaleS 和 SpiNNaker 正式上线运行,8 月 IBM 宣布研制成功人工神经元,10 月扩散忆阻器如果在人工突触白热化竞争中胜出,神经计算机就有了自己的 “晶体管”,神经计算机时代就将正式开启,计算机第二次革命就真的发生了。

    1.9K81发布于 2018-03-23
领券