docs: new post

Former-commit-id: 3a149944786236280458c136a56b3d0c91c304b6

1 files changed, 44 insertions, 22 deletions

diff --git a/content/posts/思考是碳基生物的特权吗.md b/content/posts/思考是碳基生物的特权吗.md
index ce8e1c71..f4e80719 100644
--- a/content/posts/思考是碳基生物的特权吗.md
+++ b/content/posts/思考是碳基生物的特权吗.md
@@ -1,32 +1,27 @@
 ---
 title: 思考是碳基生物的特权吗？
-subtitle: 
 tags:
   - AI
   - 计算机
   - 哲学
-related_cards: 
-mentioned_books: 
-date: 2025-04-27T23:41:00
-categories: 
-banner: 
-draft: true
+  - 自然
+date: ""
+draft: false
 toc: true
 slug: thinking-privilege
-
 ---
 
 我一直不认为 AI 的「思考」是真正的「思考」，对于 AI 是否有主观性和主体性这个问题[^1]，我也一直很难接受肯定的答案。这个问题其实已经有不少人讨论过了，甚至形成了「人工智能哲学」这一门哲学的分支。今天的文章就来聊一聊前人有关人工智能的理论，以及我自己对 AI 能不能以及在未来能不能像人类一样思考这个问题有何看法。<!--more-->
 
 ## 什么样的机器才有智慧？
 
-我很不认可各类媒体上神化，甚至神秘化人工智能的言论，原因在于，我不认为人工的智能是真正的智能。我认为计算机创造了一种名为「人工智能」的新智能，或许人们意图使用它模拟人类的智能，但至少就目前来说，这种智能与人类的智能相差甚远。
+我很不认可各类媒体上神化，甚至神秘化人工智能的言论，原因在于，我不认为人工的智能是真正的智能。我认为计算机实现了一种名为「人工智能」的新智能，或许人们意图使用它模拟人类的智能，但至少就目前来说，这种智能与人类的智能相差甚远。
 
 在深入这个话题之前，我们先要定义：什么是智能？
 
-这个问题其实很难回答，因为在不同的语境下，智能有着不同的定义。我们可以承认的是，地球上的大部分生物都拥有一种智慧，即使是植物也在漫长的进化过程中学会了使用根系和信号素来进行沟通。
+这个问题其实很难回答，因为在不同的语境下，智能有着不同的定义。我们可以承认的是，地球上的大部分生物都拥有一种智慧，即使是植物，也在漫长的进化过程中学会了使用根系和信号素来进行沟通。
 
-中文中的智能和智慧似乎有差别，但英文都写作 intelligence，在中文中谈到「智能」一词时，大部分人应该会先想到「高新技术」。所以，我们不妨把「智能」定义为「机器显示出来的智慧」，或者说「人通过制造机器而展现出来的智慧」「人的智慧在物理世界中的投射」。
+中文的智能和智慧似乎有差别，但英文都写作 intelligence。在中文语境下谈到「智能」一词时，大部分人应该会先想到「高新技术」。所以，我们不妨把「智能」定义为「机器显示出来的智慧」，或者说「人通过制造机器而展现出来的智慧」「人的智慧在物理世界中的投射」。
 
 那么，什么样的机器才有智慧，什么样的技术才能制造出智能？这里其实会分化出两种观点：
 
@@ -41,7 +36,7 @@ slug: thinking-privilege
 
 很少被人提及的是，图灵测试也受到了批评。Stuart J. Russell 和彼得·诺维格这样写道：
 
-> 航空工程学的教科书并没有将领域目标定义为‘制造能像鸽子一样准确飞行的机器，直到能骗过鸽子。
+> 航空工程学的教科书并没有将领域目标定义为“制造能像鸽子一样准确飞行的机器，直到能骗过鸽子”。
 
 这句话想表达的观点是：图灵测试只能保证机器足够「人性化」，一台通过图灵测试的机器施展的可以是彻头彻尾的骗术，而无需实现结构上的智能。
 
@@ -57,15 +52,17 @@ slug: thinking-privilege
 
 ## 学习和智能可以被准确描述吗？
 
-现在我们来看更麻烦的第一种智能，也就是在结构上实现的智能。如果要在结构上实现智能，我们必须对思考、学习、语言组织等过程进行深度的解构，用机器能理解的方式准确地描述。这听起来就很难，我们不妨看看前人是怎么看的吧。
+现在我们来看更麻烦的第一种智能，也就是在结构上实现的智能。如果要在结构上实现智能，我们必须对思考、学习、语言组织等过程进行深度的解构，用机器能执行的方式准确地描述。
+
+这听起来就很难，我们不妨看看前人是怎么看的吧。
 
 ### AI 奠基人的假设
 
 1956 年，一群数学家、科学家聚在一起讨论在当时还非常新颖的技术，他们创造了「人工智能」这个概念和词汇，人工智能如今成为一个庞大的研究领域，也归功于这次会议。这次会议被称作达特茅斯会议（Dartmouth Workshop）。他们在会议上提议：[^2]
 
-> We propose that a 2-month, 10-man study of artificial intelligence be carried out during the summer of 1956 at Dartmouth College in [Hanover, New Hampshire](https://en.wikipedia.org/wiki/Hanover,_New_Hampshire "Hanover, New Hampshire"). The study is to proceed on the basis of the conjecture that ==every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it.== An attempt will be made to find how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves. We think that a significant advance can be made in one or more of these problems if a carefully selected group of scientists work on it together for a summer.
+> We propose that a 2-month, 10-man study of artificial intelligence be carried out during the summer of 1956 at Dartmouth College in Hanover, New Hampshire. The study is to proceed on the basis of the conjecture that ==every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it.== An attempt will be made to find how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves. We think that a significant advance can be made in one or more of these problems if a carefully selected group of scientists work on it together for a summer.
 
-简单来说，他们提议为期两个月的研究，研究基于这样的推测进行：==如果可以精确的描述学习的所有面向，或智能的任何其它特征，一个机器就可以被制造来模拟它==。他们想要在研究中找到让机器使用语言、创造抽象和概念的方法。
+简单来说，他们提议为期两个月的研究，研究基于这样的假设进行：==如果可以精确的描述学习的所有面向，或智能的任何其它特征，一个机器就可以被制造来模拟它==。他们想要在研究中找到让机器使用语言、创造抽象和概念的方法。
 
 请注意原文使用的词是 conjecture，意思是 an opinion or conclusion formed on the basis of incomplete information（基于不完整信息的观点和结论）。达特茅斯会议提出了很多对后世影响深远的想法，塑造了学界对人工智能的基本认知（包括这一假设），但讨论和研究都是基于这个未被证实的假设进行的，并且没有直接产出实际性的成果。
 
@@ -75,14 +72,27 @@ slug: thinking-privilege
 
 前文所述的中文屋，其实是对「物理符号系统」的一个模拟。一些学者认为人的思维其实是处理符号的过程，只要建立一个物理符号系统，就能够模拟智能。你可以说，这是符号主义观点中的人工智能。
 
-Nils Nilsson 对物理符号系统进行了抨击，其论述中有一些论点，也可以被用于反驳其他类型的人工智能。
+Nils Nilsson 对物理符号系统进行了抨击，其论述中有一些论点，也可以被用于反驳不基于符号系统的人工智能。
 
 > 1. “ ‘物理符号系统假设’缺少了符号基础”这一错误主张被认为是通用智慧行为的必要条件。
 > 2. 普遍认为，AI 需要非符号处理（例如，联结主义架构可以提供非符号处理）。
 > 3. 普遍认为，**大脑根本不是一台计算机**，目前所理解的计算并没有为智力提供合适的模型。
 > 4. 最后，**有些人也相信大脑本质上是无意识的，大部分发生的事情是化学反应，人类的智慧行为类似于蚁群所显示的智慧行为**。
 
-Nilsson 指出，大脑根本不是一台计算机，大脑可能在本质上是无意识的，思考很大程度上是化学反应。尽管已经有生物计算机的研究正在进行，甚至有了一些产品出现，但至少目前的大语言模型和其他类型的人工智能，都不是运行在生物计算机上的，**电子计算机还无力实现基于生物化学反应的思考过程**。
+我想谈的重点在最后两条。Nilsson 指出，大脑根本不是一台计算机，大脑可能在本质上是无意识的，思考很大程度上是化学反应。尽管已经有生物计算机的研究正在进行，甚至有了一些产品出现，但至少目前的大语言模型和其他类型的人工智能，都不是运行在生物计算机上的，**电子计算机还无力实现基于生物化学反应的思考过程**。
+
+### 人造的生物智能
+
+前两个小节中，我们明确了：
+
+1. 「智慧行为能被准确描述并被机器模拟」这一假设被广泛使用，但似乎未被证实；
+2. 智慧行为很可能不只是「计算」，不只是理性的分析和推理，可能还包括了生物的化学反应，包括了心理上的无意识；或者说，智慧行为根本就不是计算，而是更复杂的生物过程。
+
+尽管目前的大语言模型，在表现上似乎已经实现了智能，甚至在很多方面表现得超过了人类，但在结构上，很难说包括大语言模型在内的各种人工智能，真的拥有和生物类似的智慧。这也是为什么我在本文一开始就表示，==我认为人们用计算机创造了一种新智能，而非用计算机模拟了生物的智能==。
+
+我并不认为人工智能鼻祖们提出的假设就是错误的，但就目前来看，我们对机器的理解和对智能的理解，都不足以让我们准确描述智能，用机器实现智能。==如果要让人工智能进一步接近生物智能，我们需要对生物的思考方式进行更深入的研究，并且让实现人工智能的机器技术和工程方法不局限于「计算」==。
+
+既然人能模仿自然造出钻石，那为什么不相信人能模仿自然造出智慧呢？只不过人造钻石也有缺陷，人造的生物智能也是很遥远的事情了。
 
 ## 思考可以发生在物理世界吗？
 
@@ -94,16 +104,28 @@ Nilsson 指出，大脑根本不是一台计算机，大脑可能在本质上是
 
 那么问题来了：**如果操作 0 和 1 的不是机器，而是猴子，甚至是人呢？**
 
-尽管大语言模型可能需要运行上千亿条指令才能算出答案，但这样的过程总归是有迹可循的，计算机算法的一个基本特性就是「有穷性」。如果列出大语言模型在运行时执行的所有机器指令（这些指令是极其抽象、原始，不像 C 语言这样的高级程序设计语言那样容易理解其逻辑结构），并让一只受到良好训练的猴子和一个人根据这些指令进行计算，操作 0 和 1，最后将计算结果编码，就得到了大语言模型所生成的答案。
+尽管大语言模型可能需要运行上千亿条指令才能算出答案，但这样的过程总归是有迹可循的，计算机算法的一个基本特性就是「有穷性」。如果列出大语言模型在运行时执行的所有机器指令（这些指令是极其抽象、原始的，不像 C 语言这样的高级程序设计语言那样容易理解其逻辑结构），并让一只受到良好训练的猴子和一个人根据这些指令进行计算，操作 0 和 1，最后将计算结果编码，就得到了大语言模型所生成的答案。
 
 你可以理解为，这只猴子和这个人，用自己的大脑和必要的计算工具运行了一个大语言模型实例。
 
-猴子是有意识的，但其思考能力要逊色于人类；人是有意识的，也显然比人更有智慧。然而，无论智力水平如何，猴子和人都通过机器的计算「思考」得出了一个问题的答案。也就是说，猴子和人在没有思考的情况下完成了「思考」，而且这种「思考」与智力水平无关。
+猴子是有意识的，但其思考能力要逊色于人类；人是有意识的，也显然比猴子更有智慧。然而，无论智力水平如何，猴子和人都通过机器的计算「思考」得出了一个问题的答案。也就是说，猴子和人在没有思考的情况下完成了「思考」，而且这种「思考」与智力水平无关。
+
+那么，这样的「思考」真的是思考吗？这样的「思考」是发生在物理世界的，因为它不需要被人或猴子的意识理解就能进行，所以可以交给机器来做。相信基于二进制和机器指令操作的计算机能够「思考」，就是在相信「思考」无需「意识」也能进行，也就是在相信「思考是物质的」。
+
+当然，这似乎也没什么问题，因为从唯物主义的视角来看，物质决定意识，思考就是建立在物质基础上的。生物结构是物质的，而由物质构成的我们拥有思考能力。只不过，这里提到的「物质的思考」略有不同，因为它同时也是「概念的」，它可以发生在人和猴子的脑中，但无需被大脑理解就能进行。
+
+## 人类对智慧的理解足够深入吗？
+
+人们发现 AI 会骗人，并感到恐惧；人们发现 AI 会出现幻觉，并觉得它很蠢；人们发现 AI 会迎合人类的想法，并认为它虚伪……
+
+然而，「骗人」「蠢」「虚伪」，都是对「表现」的评价，是人类投射在无生命物体上的情绪和想法。在结构上，AI 从来就不会骗人也没有当伪君子的能力，在内部结构中发生的事情，只是复杂的算法认为这个「让人类觉得是骗人或虚伪或蠢」的字符串，是在当前语境和参数下，概率最高的结果。**计算机程序缺少判断结果是否虚假、是否愚蠢的结构**。
+
+即使是看似领先时代的神经网络模型，甚至是 GPT 使用的另一种神经网络模型 Transformer，最终也是一个字一个字输出的概率运算。基于数理统计和概率论的逻辑结构，能够模拟涉及到复杂化学反应和无意识活动的生物结构吗？我不这么认为。
 
-那么，这样的「思考」真的是思考吗？这样的「思考」是发生在物理世界的，因为它不需要被人或猴子的意识理解就能进行，所以可以交给机器来做。
+当然，「复杂的化学反应和无意识活动」也是一个非常简化的、浅薄的对智慧的理解。我认为人类制造出真正意义上的生物智能不是没有可能，只是很难、很复杂，并且目前的任何一种人工智能，都还达不到那样的高度。
 
-你可以用唯物主义的角度来思考这个问题，即物质决定意识。人和猴子的意识都是基于物质的，是在一定的生物结构中发生的。那么，我们需要考虑的就是，计算机程序的代码逻辑结构才能像猴子和人的生物结构一样进行思考吗？
+模拟生物智能，目前看来，还是存在于人类认知以外的东西。
 
-[^1]: 值得一提的是，主体性和主观性在英文里对应的是同一个词「Subjectivity」，所以直到现在我也还是非常疑惑主观性和主体性的区别，不过这是题外话了。
+[^1]: 值得一提的是，主体性和主观性在英文里对应的是同一个词「Subjectivity」，在维基百科上同属于一个词条，所以直到现在我也还是非常疑惑主观性和主体性的区别，不过这是题外话了。
 [^2]: [Dartmouth workshop - Wikipedia](https://en.wikipedia.org/wiki/Dartmouth_workshop)
 [^3]: 参见：[鸭子测试 - Wikipedia](https://zh.wikipedia.org/zh-cn/鸭子测试)
\ No newline at end of file