《情感机器》读后感6500字

对于一个阅读障碍者, 没什么比 \书看过半, 惊呼是渣\ 更糟心的了. (或许有, 就是看完才发现.)

其硌硬程度, 不亚于 \踏上一次全程被导游强迫购物的景点打带跑旅程\.

上当多了, 久之而成惊弓鸟 --尤其是一些路人皆知, 是人就聊, 而其实大家都只是听过一分钟书评而已的书.

于是以前一直在思考一个中级(not typo)问题:

如何能够快速识别一本书的优劣, 值不值得投入资源(时间, 专注, 好天气, 一杯咖啡.)

\识渣\秘诀?

1 看评分? (比如豆瓣的? amazon的?)

问题在于, 即使如imdb这么好的资源, 也不是万能 -- 群体评分必适合自己的口味, 多少会有 \草根民主不适应症\ . 不过, 有总比没有强.

微读的评分, 虽然粗糙, 总体还不错. 真正好书很少有下4星的. (但不代表星多就是好书.)

2 看封面?

颜值控很有道理, 但对电影有效, 书却未必.

尤其受制于国内出版方的水准, 更甚.

中文版不改封面(比猪一些传记)的大编辑, 比翻拍小说不乱改情节的导演更可爱. 所以, 若要 \颜值相书\ 不走眼, 去amazon看原版封面.

3 引言/续篇!

书有用与否, 作者是否带来新的思路和知识框架, 引言中一望可知. (如 \The Selfish Gene\ 之流, 引言中除了如\小朋友被欺负了告老师\般的抱怨, 就是无休止的解词和责任撇清, 盛名之下错漏百出, 也就真没必要浪费时间了.)

之前就碰到一本, 书名被天朝编辑翻译的很神棍风的 \Predictably Irrational\, 就是靠作者出色的引言被拯救回我的视野, 最终受益匪浅.

此书的引言, 就是能让人眼前一亮的那种. 而作者的资历和背景, 也完全当得起 \框架思想者\ 的称号.

口碑, 封面, 引言. 细想来, 相书相人, 诚不二也..

~

.

[agent(资源)]

agent怎么译成 \资源\?

作者Minsky说为了避免歧义.

行话为agent, 科普叫resource, 两者一回事: 大脑活动需要调动的一系列功能模块.

粗糙划分, 神经系统中(不仅仅是大脑, 还包括小脑, 脑干, 脊柱, 肠道, 等, 一切有神经元的, 有智能(记忆+预测)功能的), 有几百种这样的 agent/resource模块, 负责生物体的方方面面.

agent/resource模块单元, 是作者自造的概念, 而非学界共识 -- 甚至老Minsky自己都说并非通过实验发现, 但这是本书的基础框架, 其它章节皆构建于此上.

..

.

[情感]

语言与情感相关的词汇 (如 \痛苦\, \爱\, \恐惧\, \渴望\, \焦虑\, \懒\) 都不是单一模块(single agent), 而是一组共同发生作用. 一些感受之间, 甚至有大量的交集.

..

.

[目标 / 价值观 / imprinting]

目标和价值, 从何而来?

个体从出生到成年独立生活. 其大脑功能日趋复杂和分工明确(模块化) -- 人是其中最缓慢的(十几年).

于是全部能力(智力, 目标, 价值等)的形成并非 \源于直接自身经验\, 而是来自亲代的 \传递\ -- 1观察模仿(无意), 和2灌输教授(有意).

为保证1和2, 进化授予哺乳动物一套联系亲代和子代的\绑定\机制 (婴儿哭泣, 子代定位, 找不到亲代的恐慌和惊叫). 当然还有最为重要的, 子代的 \镜像神经元\.

统称为, \依恋\.

不难想象, 如果进化要求每个个体, 都只能从 \自己的亲身经历\ 获得启迪和学习, 那成功率(存活率)必是极低 -- 个体需要从别人的经验中获得知识.

然而, 如果不分亲疏, 任何\外人\ 都可以影响和修改个体的价值观和目标, 将十分不稳定且危险.

imprinting: 目标和价值观的形成, 受我们依恋的人深刻影响, 至少在人生早期如此.

(看过\Twilight\系列的人应该都听说过此词 -- Bella对狼人的imprinting, 使之终生不渝.)

认为, 依恋的条件, 未必是 喂养或快乐. 而是看 1交流的频度 和 2交流的强度(多感官?). 于是一些受虐的对象也会对施暴者产生依恋(Stockholm syndrome).

\镜像神经元\ 使得个体可以理解其它人的意图和想法-- 就好像此人 \入驻了自己的大脑前额皮层区域10\, 时刻帮助自己思考, 判断与决策-- 此谓 \镜像\, 也是人类展开合作与社交, 组成社会的基石.

(同样, 也是一些大型哺乳动物能够成群生活, 甚至被人类驯化的先决条件. 而缺乏者, 永远不能被驯化, 比如斑马, 象, 大型猫科, etc.)

\依恋\ 让幼体得以充分模仿和学习亲代(不仅仅是直接喂养者) 的行为和决策模式 -- 这是一个从具象到思维体系的逐渐升级的过程, 始于习惯和偏好, 终于世界观, 价值体系, 终极目标, etc.

但依恋不是永久有效的. 不同的物种, 有效期不同. (蹄类, 对亲代依恋长达终生; 食肉类终于成年, etc.)

人类进入青春期, 会再一次开放前额皮层(根据 \社交天性\ 的 \皮层第10区=内侧前额叶\ ) API接口, 允许非亲代的价值观介入和修改价值网络 -- 这正是社交脑开始发育的年龄, 约13岁后, 即叛逆之始(也是Steve Wozniac第一次遭受价值观冲突和社交困境的年纪).

Imprinting, 对象的升级过程, 也会接纳一些 \非实体\ 的抽象概念, 比如神话传说, 影视, 动漫, 媒体偶像, etc -- 真实与否不是关键, 还是看, 1频度, 2强度. (说MJ甚至崔健, 影响一代人, 并不夸张. 因为其对传统的颠覆-- 强度.) 宗教的神奇也在于此.

人生的不断转换imprinting的来源(认领不同的\榜样\, 向不同的来源开放\皮层第10区=内侧前额叶\), 此即一个人终生价值, 世界观等建造过程 -- 上至终极目标, 使命.

(也有人的毕生追求在童年种下后终生不变-- 频度与强度, 其中有反馈与智力起着核心作用.)

对于AI的 \终极目标\, 是个有聊的话题.

人个体的终极源于亲代和一系列偶像的模仿, \镜像入驻\, imprinting. 而全部人类作为一个整体, 其目标则来自亿万年的进化所形成的生物本能需求, 社会网络, 知识积累, 和整个资源运作体系 -- 某种程度上, 人类的命运多舛, 但其使命和前进的方向是相当的稳定和可预期的.

而AI不然. 就像 \Superintelligence\ 书中所说, 未经过长期\进化锁定\, 而复制和修改极其\轻松\的AI, 极有可能出现若干(让人类)意外的情形:

1 一个非常愚蠢幼稚的初始目标 (比如, 把宇宙贴满笑脸贴纸, 或用全宇宙的资源制造图钉.) 马后炮看似愚蠢的“使命” 开始还是源于人类设定的某局部需求; 而随着其发展壮大, 掌控资源愈增, 终成超越一切的统治力量.

2 认为人类低劣或至少碍手碍脚或是浪费资源, 励志或至少不介意顺手把人类从宇宙中抹去.

3 etc..

可能性无穷, 但, 似乎没有一个未来的图景中包含人类的 \happily ever after\.

..

.

[pain]

疼痛的作用:

1 让大脑关注出问题的身体部位, 2 强迫休息

它是 \趋利避害\ 的信号.

可是为什么有慢性病呢? 持续痛苦有什么好处呢?

主流猜测是, 这并非进化选择的优势, 而是功能的故障.

..

.

[手提箱 & 二元论]

世界充斥着 dualism. 然而它并非世界的逻辑. 简言之, dualism是无知者勉强的切分.

天, 是怎么创造出来的?

当人们说, \天开始下雨\ 这句话的时候, 其实并不知道\天\ 到底是什么-- 不了解天的构成, 工作机制, 或这玩意与雨的因果关系\ -- 只是归类了一个 \手提箱\ 概念, 与另一个(相对熟悉的) 概念 \地\, 相对.

\手提箱\概念, 就像每人家里堆放物品的\杂物间\, 没有逻辑, 也不知道有什么用 -- \Friends\ 里Monica Geller就有一间.

人们发明 \天\ 这个 \手提箱概念\, 与地相对, 只是为了方便把一些 \不理解\ 的现象找个地方塞进去, 然后安慰自己 \似乎已经理解\了, \问题受控\了, 甚至\可以被解决了\.

为什么会有 \手提箱\?

智能的本能是, 不停的根据输入进行预测和解释. 而当 \解释本能\ 失效时, 便会陷入焦虑(不幸福), 于是另一个缓解压力本能便发生作用: 将不理解事物\打包\, 冠名一个\概念\, 获得\问题可理解\ 的 \安虚假全感\.

\安全感\ 只是一种幻觉, 因为: \概念创造仅仅是边界的划定(无能为力的边界). 它既不能提供任何关于事物现象的细节, 更不能提供机制, 因果, 解释, 甚至预测.

(这很像:

a, \不负责任的部门主管\, 将自己也没明白的事情, \KPI\给更加懵b的小弟, 瞬间获得了短暂的安全感.

b, 甲方总是跟(提供服务的)乙方 说 \这是你的责任, 因为你收钱了\, 但忽略了一个根本问题: 问题解决的关键信息, 并不掌握在乙方手中.

c, 不良生活习惯把身体搞废的病人, 走进医院, 就默认 \医生必须治好我的病\; 而最终未能如愿时, 便勃然大怒, 感到受到了欺骗, 从此开启了医患关系新篇章.

etc.)

\手提箱概念\, 不仅仅是没用(useless)而已, 而是有害 -- 妨碍真正理解.

\二元论\ 就是 创造 \手提箱概念\ 的本能下的必然结果.

大脑擅长比较, 发现相对的差异, 而对全局和绝对数值并不敏感. 最擅长对2个元素间的直观比较. 但不善于3元素及更多之间的比较.

于是, 人们的成长经历, 伴随各种添乱的二元对立:

叉子vs.勺子, 叉子vs.刀, 大地vs.蓝天, 雨vs.风, 秋水 vs. 长空, 站着 vs. 坐着, 高兴 vs. 愤怒, etc. -- 如此顺理成章, 就好像我们知道它们是什么, (更糟糕的是)好像在此2元之外再无其它!

然而, 雨和风没有任何直接的关联; 而我们能区分 \死的\ 与 \活的\, 也并不代表我们理解 \什么是生命\.

然而普遍的糟糕教育中, 儿童一直被训练做二元辨识, 却很少被要求在 \三个一组(甚至多个)\ 中做选择.

大脑的被训练成 \哑铃式\ 的.

于是无论 \概念的创造\, 还是 \决策\, 一切都变成二选一的选择题.

然而, \哑铃\ 只是\生物构造的局限\, 而并非这世界的真实逻辑.

反思我们词典中, 大多数 \主管体验\ (外向 vs. 内向, 勇敢 vs. 怯懦, etc.), 都是 \二元论\ 的遗毒. 很欣慰Marvin Minsky能带领我们, 跳出这个扁平的桎梏, 看到立体的多元世界的真相.

..

.

[模块化]

一个体系中的所有决策单元(神经元)都相互连接, 无疑是敏捷与强大的 -- 能以单一的结构应对一切问题.

然而它意味着指数级增长的能耗与物质空间资源. 因而在现实中是不存在的.

无论是国家(GOP不断强调的小政府), 还是大脑(人脑只有1.3kg), 都不会获得解决问题所需的无限资源. 因而, 模块化是任何复杂实体壮大的必然-- 边界清晰, 分工明确, 并通过接换少量信息 而非全部.

脑是 效率(能耗, 空间, 物质, 资源) 与 效果(反应速度, 预测准确) 之间的完美平衡.

在本书中, 模块被称为 \agent\, or esource\.

..

.

[常识 / \Mind Modeling\ / Invariant Representation]

只有做过AI的人才知道, 人类 \看似轻而易举\ 的思维活动(比如, 识别猫狗, 人脸, 语义, 读心术) 是多么不可完成.

书中无数咖都说过, 思维的悖论在于: 无法审视自身.

于是即使是人, 也无法知道, 一些思维活动的得来, 其实丝毫不 \信手拈来\ -- 我们称之为 \勤劳而低调的本能\.

比如, 进入一家餐厅, \一切尽收眼底\ 只不过是错觉. 真相是, 我们从眼睛接收的信息量, 根本没有 \感觉\ 上那么大 -- 视觉的带宽很低, 速度很慢.

那么人是如何获得 \尽在掌握\ 的印象呢? 信息从何而来?

答案是, 读取自人脑中已有的备份, 而非眼睛 -- 在个体是 \印象\ 或 \记忆\, 在群体中为 \常识\ 或 \默契\.

我称之为, \模型\. 而形成模型的过程, 是旷日持久的-- 缓慢, 多反复.

AI不能理解“话里有话”, 不能读懂“眉目传情”和其中夹杂的社会信息, 是因为缺乏 \常识\. 而婴儿从0开始构建常识, 需要多年的观察, 学习, 试错, 与积累. 同样, 对于成年人, 拥有\品味\ 和 \辨识微妙\(比如什么料子的西装高级, 什么样的搭配或坐姿优雅, 什么样的动作或饮食 \老土\) 也统统基于大量的常识, 这是婴儿儿童只能识别 \鲜明特征\ 的根源.

.

\印象\ 一旦构建, 就不大变了(察觉变化非常缓慢), 只是修修补补. \以不变 应万变\.

仅靠背影, 气息, 就能从人群中认出ta来; 黑暗中摸到物体的局部, 就在脑海中 \看到\ 其全貌. 因为此前已经(在漫长的时间内) 构建过一个完整的模型. 于是一个\碎片化的局部\ 就能激活这个 \完整的model\.

建模的过程 称为Mind-Modeling.

视觉的输入是局部, 碎片化的 二维信息, 而脑中的模型却是3D的, 有弹性, 有质感, 有层次的, 甚至有社会学和经济学含义的.

模型其实就是记忆. 每次检索一个记忆都能精准定位, 好像每个模型都有唯一的id一样-- 就像The Ship of Theseus, 即使细节和构成不断更替, 也能保持整体的连贯. 心理学称 \恒定表征\ (invariant representation).

一切 \表征\ 至 \常识\ 的创造, 都是以 \mind-modeling\ 构建 \invariant representation\ 的日积月累的过程.

..

.

[自我]

\自我\ 是什么?

似乎所有人都再熟悉不过, 却又不明所以.

这个故事有三面.

A, 归因

\归因\(寻求解释) 是脑(智能)的本能.

当人们说, \天开始下雨\ 这句话的时候, 其实是 \并不了解天这个玩意的构成, 工作机制, \那个叫做天的东西\ 与雨的因果关系\ -- 只是\塞\进了一个 \工具箱\, 与另一个(相对熟悉的) 概念 \地\, 相对, 并幻想自己 \大概理解了它就是那么回事\.

当群体对外界现象(比如日升月落, 风雨雷电, 四季更迭, 生老病死) 无法解释时, 其本能会幻想 \某超自然存在\ 作为其原因 -- a.k.a. 神. (开始是多神, 不难理解, 将不同现象归因于不同的 \原因\, 更加天然和本能. 而 \独神\(唯一神), 是社会发展并积累到一定阶段的, 相当抽象的创造. )

而对内, 当人无法解释一些 \与身体相关的行为\, 或 \在身体内的思维活动\ 时, 会本能的归因于某个(些)源头, 认为是 \它(们)\ 产生了感受, 发出了动作的指令.

B, 归一

\这些思想\ 是来自同一源头么? 其实是或者不是, 我们自己也无法分辨 -- 我们只是 \觉得\ 它是唯一的, 且拥有最高权限 和 独立的存在.

但有一件事是确定的, \多人格\的案例并不多见. 多数人都是有一个 \唯一的\ 最高意识(即语言意识, 以(Stephen Pinker所说)\语言逻辑\为其思维框架的意识, 常位于左脑, 并不能意识到其它模块的存在, 甚至无法指挥低层功能, 比如心跳, 消化, 内分泌, 或神经反射, etc.)

同样, 这是相当抽象的阶段(就像独神).

C, 社交区隔

第三面, 是 \划定边界\ -- 身体的, 脑壳中, 相对恒定的, 一个独立单元. 而它, 是在社交中发生的.

(类似的, \国家\ 的认同, 并非因为其内部的沟通, 而是意识到外敌或外国的存在, 之后, 才产生的概念. 比如, \中原~中国\, \欧洲\, \德意志\, \USA\, etc.)

A面(归因), B面(归一) 和 C面(社交区隔), 共同造就了一个 \单一自我\ 的抽象概念.

A面需要进化出相当发达的智力(预测), B面需要抽象(复杂的层级), C面需要相当高阶的 \社交模块\.

于是, 在书 \社交天性\ 中, 实验显示, 灵长类有模糊的自我意识(无社交的猴子,无), 而更多的哺乳动物, 并没有. 猜测马和狗是有弱自我的 -- 因其进化出的 \社会性\ 和 \不错的智力\(预测). 参考书 \Guns, Germs & Steel\中, 大型哺乳类的驯化章节.)

在过去, 研究对于 \智能\ 和 \自我意识\ 不甚了了的年代, 常弄混, 认为两者是一体两面 -- 毕竟我们只有人作为研究的样本, 没见过例外. 然而, 越来越多人认为, 两者没有关联. 即, AI 可以拥有发达的智能(预测与解决问题的能力), 而不需要自我意识. (这恰恰是前文提到的, \手提箱概念\ 对 \求甚解\的阻碍, 以及Popper的精髓理念 \归纳法的不靠谱\.

不仅仅是 \自我\. 我们 \习以为常\ 的许多 \概念创造\ 和 \主观体验\, 其实并没搞懂.

熟悉 != 理解. (就像 \猪跑\, 那是 \天天用手机\ 跟 \造出一部手机\ 之间的云泥.)

..

.

[快乐]

提到的四个快乐的方面: 1欲望满足 2探索达成 3批评压制 险规避.

(书 \社交天性\ 也提到 \幸福感\ 的4要件: 1a 理想 1b 成果; 2a 工作 2b 社交关系. 我总结为: 对于追求目标短期奖励和远期信心, 以及实现条件和社交的维系保障.)

\快乐\ 和 \幸福\ (在英语里是一回事) 更进一步可汇总为:

\对于达成目标的乐观预期\.

所以, 这既跟智力直接相关, 更决定于达成目标所处的状态(自身, 社会) 和条件(工具, 路径).

..

.

[frame]

在一些心理作品中, \框架效应\ 似是个负面概念. 认为\在特定框架\下, 人的决策会出现扭曲和误导.

然而, 如果没有框架, 信息将根本无法存储, 世界也是一团无法理解的信息粥.

在Minky的字典中, \悬挂\ 被 slots(插槽)替换. 而悬挂/插入的信息模块, 是多面的 (has facets).

判断一个思考者(创作者), 作品(思想体系) 是否有价值的核心标准, 是看ta是否提供了一个新的视角(框架). 这样, 即使其中一些细节是错的, 读者也可以基于其框架, 修改和进化, 形成自己的新框架, 并丰富新的事实和细节.

..

.

[敲死神棍]

所谓 \神棍\, 就是让你膜拜, 却不打算讲明白. (因为ta自己就不明白, 华丽法袍下面光着.)

\(手提箱)概念创造\, 是神棍的典型行为. (如果 老子止步于 \玄而又玄, 众妙之门\, 那他也是神棍无疑; 然而他没有, 而是掰开揉碎从最基本的辩证法开始阐述他的世界观.)

在Minsky看来, 为\生命\ 或 \自我\ 等概念, 披上神秘色彩的 \哲学家们\, 其实是拒绝理解其中的真谛.

\整体论\ 本身只是个视角, 对于许多领域它是不可或缺的. 然而, 对 \整体论\ 的盲信, 则是一种懒惰, 甚至是骗局.

\二元论\ 是一种更糟糕的东西, 产生于 \手提箱概念创造\. 相比有用的整体论, 它只会添乱.

人认为自己\真的能够感受到的\ 所谓 \主观体验\, 其实也是出于(无论是整体论, 二元论, 还是手提箱)自身理解能力的局限, 而非世界的真实脉络.

它只是一种幻象, 或曰隐喻, 只是神棍们不求甚解的修辞而已. (从某种程度说, \Turings Test\也是一种 \不明所以的神棍风\ -- 就像古人 \创造了天 的概念\ 一样, 仅对智能 \划定边界\ 对我们理解, \什么是智能\ 没有丝毫用处. 注意, 我并没有说伟大的Alan Turing是神棍.)

相反, 它会给人们 \这事高深莫测\ 的无聊神秘感, 和 \这事已有经定论\ 的虚假安全感-- 无任何卵用, 还妨碍真正的思考者和研究者做该做的事.

如果把 \主观体验\ 比喻为 一个组织机构中的 ceo, 那么就不难理解, 即使他拥有execution/ administration 方面的最高权限, 它也做不到: 1 感知的无限洞察, 2 管理触角的事无巨细, 甚至 3 修改或关闭一些生死攸关模块的运行.

有一点是相似的: 随着结构的复杂, 信息的过载, 分工(模块化), 分层(抽象化)是不可避免的, 于是ceo也越发难以(同时从全局和细节)理解自己的公司.

末章Marvin Minsky总结说:

我们不需要 (类似于 \整体论\的等) 魔法, 去干扰我们 \求甚解\. 除非我们已经拥有足够的经验和对原理的知识, 来帮助我们重新构建系统, 我们无法 \真正的\ 领悟其中奥秘.

用A.E.话说: you dont understand sth. unless you can explain it to your grandma (in 7 different ways).

..

.

~

此书出版已历10年(Minsky今年88). 其境界依然远超后世一些自作聪明名不副实之畅销热作. (比如Ray Kurzweil, Malcolm Gladwell等).

如果凡人站在巨人的肩膀能看得更高更远些, 那么巨人站在一群巨人的肩膀上, 则如何?!

本书实为Marvin Minksy以通天的造诣, 驾驭一众思想的精髓的神作.

对话式 (源于苏格拉底) 的思辨文风, 从多角度打造了一套渐进, 完整, 且严密的思辨体验 -- 是的, 体验.

囊括各种假象的立场和角色:

学生, 哲学家, 医生, 程序员, 神学家, 神经科学家, 理论物理学家, 伦理学家, 法学家, 政治家, 二元论思想家, 宗教家, etc. (还标注了观点的创作年) 当然也包括作者自己. 对每一个观点立场, 不是简单的 \同意\ 或 \驳斥\, 而是辩证的思考其中的价值, 条件, 局限, 谬误.

从字里行间, 可以感受到, Minsky不认为任何观点是不言自明的真理, 而是需要讨论的. 与\异议学生\ 的对话, 也没有丝毫的武断和粗暴, 而是就事论事平等相待 -- 这是一位真正学者的治学态度.

多立场角色, 巧妙而有张力. Minsky丝毫不避讳其中的冲突和矛盾, 反而能在完全驾驭矛盾后, 从一个更高的视角看清事情的本源.

有些像\A Song of Ice and Fire\. 没有任何人是反派, 也不存在绝对的主角-- 每个人都有其思想和行动的道理, 也有其败亡的必然性 -- POV角色身份也不是免死金牌, 甚至道德高点, 只是一个叙述视角, 而已.

这样的一个世界, 是切身的, 全局的, 逼真的,无比有张力的.

(编剧们也十分配合的给出了 编外视频组 \History of Westeros\, 让不同的角色口述历史和背景. 甚至一些观点冲突和矛盾的. 比如Tywin, Margery Tyrell, 和 Robb Stark 对 \Aegon的征服七国\ 那段历史的看法, etc.)

这样的多元交叉启发体验, 对于不满足 \二手干货/观点直给\ (文学作品中舞台剧般的善恶脸谱切分) 的真正的\思辨爱好者\, 无疑是莫大的享受. (同样, 反之亦然.)

读完此书, 像是与从古至今最nb的思想者挨个促膝谈心过一轮, 且有趣.

然而, 即使书中的一切思考和细节最终全都遗忘, 也应该记住Marvin Minsky思想的精髓 (对于认知):

1 只有你能够享受以众多(>7)视角(甚至冲突的, 矛盾的)看待同一个问题, 你才可能真正领悟 -- 必要条件.

2 只有掌握足够原理, 能成功构建系统(再现), 才是真正驾驭 -- 充分条件.

bravo!

遍踏古今巨人三角肌, 看尽人间喜怒哀乐.

此书中圣, 当之无愧.

..

.