类脑计算_黄铁军

布尔逻辑 1847
Alan Turing Claude Shannon Bell Labs Von Neumann Donald O Hebb Alan Turing Alan L Hodgkin 图灵机 开关电路 晶体管 体系结构 机器能 Andrew Huxley 郝布规则
1936
1938
1947
14
IBM类脑计算(2004-­‐)
2014十十大大 科学进展
15
类脑计算国内外进展
• HP计划2016年推出The Machine原型计算机及操作系统 • 高高通类脑处理器Zeroth支支持手手机视听感知 • 类脑芯片片：海德堡大大学BrainScaleS，ARM SpiNNaker，斯坦福 NeuroGrid… • 忆阻器模拟神经突触：UC Berkeley、HP、HRL、斯坦福、墨尔本 理工工、UC Santa Babara、北大大、清华、华中科技大大学等 • 光神经元和光突触：洛克希德⻢马丁和普林斯顿大大学，北大大 • ……
• 功能主义范式：认知（心心理）—人人工工智能（计算） • ~2016： • 结构主义：神经科学—类脑计算 • 通过大大脑仿真理解智能 — 通过类脑计算产生生智能
6
经典计算机vs.类脑计算机
视 听
数学，电子子……
生生命，信息……
计算神经科学1980s 类脑计算2000s 深度学习2006~ ……
G. Boole
认知科学
26
Why vs. What
• ⻜飞机为什么会⻜飞？ • 为什么糨糊能粘？ • 爱情是怎么回事？ • 思维？智能？意识？ 造⻜飞机！ 捣糨糊！ 谈恋爱！ 类脑计算！
27
人类大脑：物质产生意识
• 物质意义上的大大脑
– ~1.3升，~1.5公斤斤，占体重2% – 功耗~20W，占全身身20%
• 单元功能仿真：神经元和突触的功能用用光电器件逼近 • 系统结构仿真：⺴网网络结构遵照大大脑，器件密度逼近甚至至超越 大大脑，连接速度大大幅度超越生生物脑
3. 智能层次：超越脑
• 养育：感官刺激（虚拟环境）和身身体互动（机器人人） • 学习：物联⺴网网（摄像头）为传感器，互联⺴网网大大数据为信息源 • 进化：发现表达知识及其演化的更优算法，制造“超级大大脑”
• Noam Chomsky：提出了关于语言言理论的论文文 • George. A. Miller：短时记忆 • Newell & Simon：通用用问题解决者
• Dartmouth会议，人人工工智能学科方方向诞生生
• Noam Chomsky，John McCarthy, Marvin Minsky, Allen Newell, Herbert Simon, George A. Miller出席会议
13
瑞士士蓝脑计划 Blue Brain Project
• 2005年启动“蓝脑计划”，瑞士士政府 支支持EPFL（联邦理工工学院洛 桑)Henry Markram教授研究组整合 从分子子到智能行行为的多层次的认识 和数据，在IBM Blue Gene超级计 算机上构建仿真大大脑 • 2009年，在峰值56T flops的Blue Gene上，构造出出生生两周大大鼠鼠的新 皮皮质柱模型，包括1万个神经元和数 千万个突触连接。模型大大脑出现了γ 振荡现象（~40hz信息整合现象）
25
“脑认知与类脑计算”任务规划
3类典型智能 算法层次 “超越脑”
类脑智能
视听感知
自主学习
自然会话
类脑处理器
机器学习 处理器
2款核心芯片 器件层次 “逼近脑”
类脑计算机研制
神经形态 器件平台 类脑计算机 系统平台
4类支撑平台
理论基础研究
大脑解析 仿真平台
认知功能 模拟平台
结构层次 “模仿脑”
神经科学
8
Hodgkin-­‐Huxley方方程 (1963年诺⻉贝尔奖)
动力力系统-­‐非非线性-­‐离子子通道 数值解-­‐时间步⻓长问题
10
计算神经科学 Computational Neuroscience
16
北京“脑认知与类脑计算”
类 视听感知 脑 智 能 自然会话 自主学习
类脑计算机 系统平台 大脑解析 仿真平台 类脑 处理器 神经形态 器件平台 机器学习 处理器 半导体 工艺器件 认知功能 模拟平台
神经科学
认知科学
17
历史十十字路口口，学科干广广阔天地
经典计算机 器件 体系结构 基础软件 应用用软件 典型应用用 晶体管 冯诺依曼 操作系统 数据库 数据结构+ （人人工工）算法 计算，逻辑 精确信息处理 人人工工智能 （认知科学） 类脑计算机 神经形态器件 （神经元，突触） 大大脑神经⺴网网络结构 结构配置与管理 系统动力力学行行为管理 (大大)数据+ 训练(自自学习) 视听感知 自自主学习 智能交互 类脑智能 （神经科学）
22
23
计算XX学
•计算数学（计算几几何学…） •计算物理（计算力力学，计算动力力学，计算电磁学…） •计算化学（计算材料学…） •计算生生物学（计算神经科学…） •计算语言言学 •计算摄影学 •…… •计算地理学 •计算心心理学（计算认知科学…） •计算社会学 •计算金金融学 •计算传播学 •计算干广广告学 •计算形而而上学（Computational Metaphysics） •……
• 一一种信息处理装置，创造了人人类社会的一一切事 物、科技、文文化......
21
图灵的思想 1950
• Alan Turing “Computing Machinery and Intelligence”, Mind, 59:433 – 460, 1950 • 图灵晚期认为： – 可计算的范围远远超过了能被指令明确包含的范围，足足 以包含人人脑能做的事，不管它是多么具有创造性。足足够 复杂的机器，将具有产生生未被明确编程的行行为。建造大大 脑是可能的！ – 无无法制造替你思考的机器，这是通常人人们会毫无无疑义接 受的老老生生常谈。我的观点是：与人人脑的活动方方式极为相 似的机器是可以制造出来的。
1952
1949
思维吗？ 1952
HH方方程 1939/1952
7
冯·∙诺伊曼《计算机与人脑》（1958）
第一一部分 计算机
第一一章 模拟方方法 第二二章 数字方方法 第三章 逻辑控制 第四章 混合数字方方法 第五章 准确度 第六章 现代模拟计算机的特征 第七章 现代数字计算机的特征
• Computational neuroscience (即theoretical neuroscience) • the study of brain function in terms of the information processing properties of the structures that make up the nervous system • 计算神经科学（理论神经科学）：根据神经系统这一一结 构的信息处理特性来研究大大脑功能 • 名称： • Eric L. Schwartz1985年在一一次会议上，为了概括neural modeling, brain theory和neural networks等名称而而提出 • 第一一位博士士毕业生生：1985 • CalTech Computational & Neural Systems Ph.D. program
19
谢谢！
tjhuang@pku.edu.cn
人类大脑——产生意识的物质
• 物质意义上Biblioteka Baidu大大脑
– ~1.3升，~1.5公斤斤，占体重2% – 功耗~20W，占全身身20%
• 宇宙间已知最复杂的结构，自自然进化而而来
– 神经元数约100B （~86B，from NIH） – 1~2M个功能柱（6层），每柱数万个神经元 – 每个神经元通过1000-­‐10000突触与其他神经元相联，人人 脑突触总数超过100T – 神经元典型发放频率 数十十Hz
第二二部分 人人脑
第八八章 神经元功能简述 第九章 神经脉冲的本质 第十十章 刺激的判据 第十十一一章 神经系统内的记忆问题 第十十二二章 神经系统的数字部分和模拟部分 第十十三章 代码及其在机器功能的控制中之作用用 第十十四章 神经系统的逻辑结构 第十十五章 使用用的记数系统之本质：它不是数字的而而是统计的 第十十六章 人人脑的语言言不是数学的语言言
计算机学科发展建议： 类脑计算
黄铁军
北京大学信息科学技术学院 计算机科学技术系 2015年11月6日,浙江大学
1
人人类智能 vs. 人人工工智能
技术圣杯 自自我/想象/创造 意识
？
计算/逻辑/记忆
计
算
问答/视听/学习
？
问答/视听/学习 计算/逻辑/记忆 算 法
？
人人类大大脑 自自然进化
18
实现智能
类脑计算机
1. 结构层次：模仿脑
• 大大脑是亿万年进化的产物，其物质结构与功能可以认识模拟 • 意识解析还需要较⻓长时间，但不必达到这个⺫目目标后再模仿脑 • 通过仿真大大脑的系统结构和单元功能，实现大大脑的智能功 能，甚至至涌现出自自主意识
2. 器件层次：逼近脑
11
计算神经科学：研究内容
1 单神经元建模（Single-neuron modeling） 2 连接发育、模式形成与导引（Development, axonal patterning, and guidance） 3 感官信息处理（Sensory processing） 4 记忆和突触可塑性（Memory and synaptic plasticity） 5 ⺴网网络行行为（Behaviors of networks） 6 认知，辨别和学习（Cognition, discrimination, and learning） 7 意识（Consciousness） 8 计算临床神经科学（Computational clinical neuroscience）
脑科学/神经科学
What? 希格斯玻色色子子可以发现 有机大大分子子也可以认识
3
技术 科学
类脑智能
理论
理解意识
实验
科学圣杯
类脑智能
技术圣杯
认知科学与心心理学
机理
涌现
脑科学与神经科学 反向工工程 复制脑（人人造大大脑）
12
计算神经科学 vs. 类脑计算
• 计算神经科学： • 理论神经科学的一一部分，通过建模和仿真的方方法提 出和检验神经科学理论和假说，服务于神经科学 • 类脑计算 • 以实验神经科学的知识为基础，构建新的计算系 统，包括神经形态器件、神经处理器、类脑计算模 型以及软硬件系统 • 两者的⺫目目标都是智能/意识，前者⺫目目的是“理解智能”， 后者⺫目目的是“制造智能” • 两者的中心心问题都是信息的表示示和处理
科学圣杯 计算机 数理 开关 逻辑 电路
2
类
脑
科学 技术？
技术圣杯 智能（功能） 千年？
类脑智能
理论
How?
意识（现象） 百年？ 科学圣杯
认知科学/心心理学
机理
Why? 湍流的机理还没突破 意识的机理怎么突破？
生生理（物质） 十十年？
4
分子子生生物学
认知科学
米米
神经细胞
人人体 大大脑
厘米米
脑区
毫米米 功能模拟（机理，Brain-Inspired ）
动力力学系统 解析仿真
计算神经科学（理论神经科学）
脑功能区
神经回路
微环路 细胞 突触
（结构，Brain-Like）
微米米
脑器官
染色色体 蛋白白质
(实验)神经科学
纳米米
回望1956
• 1956~ • MIT会议，认知科学诞生生