Jump to content
Main menu
Main menu
move to sidebar
hide
Navigation
Main page
Recent changes
Random page
freem
Search
Search
Appearance
Create account
Log in
Personal tools
Create account
Log in
Pages for logged out editors
learn more
Contributions
Talk
Editing
类脑计算
(section)
Add languages
Page
Discussion
English
Read
Edit
Edit source
View history
Tools
Tools
move to sidebar
hide
Actions
Read
Edit
Edit source
View history
General
What links here
Related changes
Special pages
Page information
Appearance
move to sidebar
hide
Warning:
You are not logged in. Your IP address will be publicly visible if you make any edits. If you
log in
or
create an account
, your edits will be attributed to your username, along with other benefits.
Anti-spam check. Do
not
fill this in!
= 当前研究进展及突破 = 近年来,类脑计算领域取得了令人兴奋的进展。一方面,学术界在算法和模型上不断创新,另一方面,工业界的科技公司和研究机构(如 DeepMind、IBM、Intel 等)也投入大量资源推动类脑计算走向实用。以下是当前一些前沿进展和突破的概览: * '''DeepMind 的神经科学启发AI''':作为业界领先的AI研究机构,DeepMind非常重视从神经科学汲取灵感来改进算法。他们倡导“神经科学与AI的良性循环”,认为大脑的机制可以为新的AI算法提供灵感 (AI and Neuroscience: A virtuous circle - Google DeepMind)。例如,DeepMind著名的强化学习算法DQN中引入的'''经验回放(Experience Replay)机制,正是受海马体记忆离线重放'''现象的启发 (AI and Neuroscience: A virtuous circle - Google DeepMind)。生物实验发现,老鼠在迷宫中学习后,会在休息时重放先前经历的神经活动序列,以巩固记忆。对应地,DQN通过在训练中反复随机抽取过去的经验进行训练,有效提高了学习稳定性和数据效率 (AI and Neuroscience: A virtuous circle - Google DeepMind) (AI and Neuroscience: A virtuous circle - Google DeepMind)。这一案例体现了将生物记忆机制融入人工智能的成功。除此之外,DeepMind等也在探索'''脑启发的神经网络结构'''(如注意力机制类似人类视觉注意、记忆网络模拟工作记忆)等,使AI算法更加智能和高效。 * '''IBM 的类脑芯片与算法''':IBM在类脑计算硬件方面走在前列。早在2014年他们推出了TrueNorth神经形态芯片(包含百万级神经元),近期更研发了新一代'''NorthPole 类脑原型芯片'''。NorthPole采用数字方式实现脑启发架构,消除了传统冯诺依曼架构中存储与计算分离的瓶颈,通过在芯片内近存储计算、大规模并行核心阵列等设计,实现了惊人的性能提升 (How neuromorphic computing takes inspiration from our brains - IBM Research) (How neuromorphic computing takes inspiration from our brains - IBM Research)。2024年的实验结果显示,基于NorthPole的系统在推理一个含30亿参数的AI模型时,速度比最先进的GPU快46.9倍,能效提高72.7倍 (How neuromorphic computing takes inspiration from our brains - IBM Research)!这一突破表明,类脑架构在大型AI模型的高效运行上具有巨大潜力。此外,IBM研究员还强调他们采用“数学上”模拟神经元/突触行为而非硬件上直接仿生,从而在硅芯片上优化性能 (How neuromorphic computing takes inspiration from our brains - IBM Research)。IBM的工作代表了'''类脑算法与硬件协同设计'''的前沿,为低功耗高性能AI硬件铺平了道路。 * '''Intel 的神经形态计算系统''':芯片巨头英特尔近年来也积极布局神经形态计算。他们研制的Loihi系列芯片可以模拟脉冲神经元网络,并支持在线学习规则。2024年,英特尔发布了全球规模最大的神经形态计算系统“'''Hala Point'''”,由1152颗Loihi 2处理器组成 (Intel Develops World's Largest Neuromorphic Computer System for Advancing AI Research)。这个系统拥有多达'''11.5亿个神经元和1280亿个突触''',分布在140,000多个神经形态核心上 (Intel Develops World's Largest Neuromorphic Computer System for Advancing AI Research)。Hala Point每秒可执行20千万亿(20 PetaOps)的操作,性能比之前的神经形态系统提升了12倍。而令人瞩目的是,与传统CPU/GPU系统相比,它在实现相当计算能力时'''速度快50倍,却只消耗后者1%能量(节能100倍)''' (Intel Develops World's Largest Neuromorphic Computer System for Advancing AI Research)!如此巨大的能效优势证明了神经形态计算在特定任务上确实有潜力颠覆传统计算。这一系统将为研究者提供测试大规模 SNN 算法的平台,推动类脑算法在更高复杂度问题上的应用。 * '''其他前沿进展''':学术界也在探索更多类脑算法的创新和应用。例如,受大脑皮层启发的层次型生成模型、将生物视觉机制融入计算机视觉的算法、新型突触器件支持的在线学习规则等等。另外,在算法和深度学习的融合上,出现了'''将Hopfield网络融入Transformer模型'''的新研究,使网络具备快速内容寻址记忆能力。这些探索都表明类脑计算正在多方向开花结果,不仅限于硬件提升,也包括算法范式的演进。 综上所述,无论是互联网巨头的AI实验室还是半导体公司,都在投入资源攻关类脑计算。这些最新研究突破让我们看到了类脑算法在'''高效智能计算'''上的巨大潜力。从模拟大脑计算原理的算法,到支持这些算法的大规模芯片,类脑计算生态正日趋成熟。
Summary:
Please note that all contributions to freem are considered to be released under the Creative Commons Attribution-ShareAlike 4.0 (see
Freem:Copyrights
for details). If you do not want your writing to be edited mercilessly and redistributed at will, then do not submit it here.
You are also promising us that you wrote this yourself, or copied it from a public domain or similar free resource.
Do not submit copyrighted work without permission!
Cancel
Editing help
(opens in new window)