通用人工智能与机器的意识问题

通用人工智能与机器的意

识问题

南开大学黄彧

•意识是什么——意识的哲学思考？•Conscious AGI Agent是否可能？

•Conscious AGI Agent如何构建自己的身体？•Conscious AGI Agent是怎样与环境互动的？

•如何理解AGI Agent中的时间问题？•Conscious AGI Agent实现自由意志的途径是什么？•AGI Agent如何具有主观经验？

•AGI Agent中意识和创造力有何种联系？

•Antonio Chella

University of Palermo

研究领域：Artificial Intelligence; Oncology; Machine Learning & Pattern Recognition; Cardiology; Multimedia

antonio.chella@unipa.it

•Riccardo Manzotti

Iulm University of Milan

研究领域：Artificial Intelligence; Computer Vision; Human-Computer InteractionNetworks & Communications; Neuroscience

riccardo.manzotti@iulm.it

One's conscious experience of an object is identical with the object one experiences

对在设计有意识的智能体时面临的主要问题，进行回顾。

智能是什么

•经典的方法：心理学角度，g 因素和心理测量。（Neisser）•其他方法：心理学、哲学、认知科学角度。（Garder；Sternberg；Legg；Hutter）

•智能体的研究，无法绕开意识问题。

意识和智能的关系

•意识和智能的关系是很微妙的。一方面，智能体的建构需要有意识；另一方面，表现出智能的认知进程，可能是在无意识的情况下发生的。

•智能的两个方面的区分：

句法的（syntactic）——与意识无关

根据启发法和规则，对一些符号进行重组，从而实现智能。

语义的（semantic）——与意识相关

有意义的智能行动，是和意识相关的。

意识是什么——意识的哲学思考？

（1）dualism

•二元论

•认为我们的世界可以分为物理世界和精神世界，它们之间是能相互交流。

•大脑属于物理世界，经验属于精神世界。不能根据物理世界的实体来解释精神世界的经验。

•意识是很难定义的。

•John Searle:

Consciousness consists of inner, qualitative, subjective states and processes of sentience or awareness. Consciousness, so defined, begins when we wake in the morning from a dreamless sleep and continues until we fall asleep again, die, go into a coma, or otherwise become “unconscious.”

•意识和我们关于世界的主观经验（subjective experience）高度相关。

•Thomas Nagel, “what it is like to be a bat”•我们不能体验蝙蝠所体验到的关于距离的感受。•经验不能被还原到纯物理的领域。

•Ned Block：

P-consciousness A-consciousness

和主观经验相关和意识的功能相关

受到解释鸿沟的限制推理、行动、演讲、科学研究•解释鸿沟（explanatory gap）：如何将大脑物理上和生物上的过程，描述为主观经验（有好有坏）。

•物理世界——经验世界

•David Chalmers ：

•Double-aspect of information ：

•信息包含物理和现象两个方面。

•信息加工的过程是物理性的，经验是从信息的现象层面生发出来的。

•二元论区分意识和物理世界，它们之间不进行交流。

easy problem of consciousness

hard problem of consciousness 分类、刺激反应、整合信息、

报告内部状态、注意解释主观经验

（2）epiphenomenalism

•副现象论

•尽管经验是由大脑进程产生的，但是本质上来说，它们是无用的，不会对人们的行为产生额外的影响。

•Body作用于mind之上，产生意识；但是mind本身没有物理效果。

•Frank Jackson

（3）reductionism

•还原论

•Francis Crick , “The Astonishing Hypothesis”

•情感、记忆、自由意志等意识的产生，都是神经细胞的聚合。•意识只有物理的层面，精神层面只是解释大脑物理进程的一种方式。

（4）neuroscience

•Christof Koch，从神经相互关联的角度解释意识。

•Giulio Tononi，意识和信息的整合高度相关。

•物理系统在某种程度上可以有主观经验，因而有意识的人工智能体成为可能。