summaryrefslogtreecommitdiff
path: root/content
diff options
context:
space:
mode:
Diffstat (limited to 'content')
-rw-r--r--content/posts/AI-与猴子打字机.md38
-rw-r--r--content/稻草人周刊-vol-27.md38
2 files changed, 70 insertions, 6 deletions
diff --git a/content/posts/AI-与猴子打字机.md b/content/posts/AI-与猴子打字机.md
index ba329623..2ee51e0e 100644
--- a/content/posts/AI-与猴子打字机.md
+++ b/content/posts/AI-与猴子打字机.md
@@ -16,9 +16,9 @@ toc: true
前几天谈 AI 的时候想到一个有趣的理论,兴许可以引发一些关于「思维」的思考。
-在这之前需要先补充一些计算机系统的基础知识:编程语言被编译成可执行的程序的过程,其实是在将源代码编译成机器指令的过程;机器指令是非常底层且难以被理解的指令,定义了计算机上最基础的操作。举个例子,`x = x + 1` 这个简单的自增操作,至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器;寄存器自增;将寄存器中的值写回内存。
+在这之前需要先补充一些计算机系统的基础知识:编程语言被编译成可执行的程序的过程,其实是在将源代码编译成机器指令的过程;机器指令定义了计算机上最基础的操作。举个例子,`x = x + 1` 这个简单的自增操作,至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器;寄存器自增;将寄存器中的值写回内存。
-任何计算机程序,在硬件底层,都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1,AI 也一样,看似强大的大语言模型实际上也只是在不断地将 0 变成 1,将 1 变成 0 而已。
+任何计算机程序,在硬件底层,都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1,AI 也一样,大语言模型实际上也只是在不断地将 0 变成 1,将 1 变成 0 而已。
那么问题来了:**如果操作 0 和 1 的不是机器,而是猴子,甚至是人呢?**<!--more-->
@@ -28,10 +28,36 @@ toc: true
有意识的猴子和拥有智力的人,在完全没有思考的情况下,跟随一系列指令算出了一个问题的答案;由于他们操作的是对他们无意义的 0 和 1,他们在计算时完全不知道自己在干什么。然而,他们却得出了问题的答案。
-我的问题是:你认为这算思考吗?以及,这算是带有主观的思考吗?
+我的问题是:这算思考吗?以及,这算是带有主观的思考吗?
-如果你认为这算思考,甚至有主观的存在,那么,另一个问题是:这样的思考发生在计算者的脑中,还是发生在外部世界?如果思考发生在外部世界,主观也存在于外部世界,而外部世界就是客观世界,那主观和客观的界限在哪里?
+如果这算思考,甚至有主观的存在,那么,另一个问题是:这样的思考发生在计算者的脑中,还是发生在外部世界?如果思考发生在外部世界,主观也存在于外部世界,而外部世界就是客观世界,那主观和客观的界限在哪里?
-如果你认为这不算思考,那上面的问题就都不是问题了。
+如果这不算思考,那上面的问题就都不是问题了。
-或者,你认为问题的答案可以不由思考得出,那既然不思考也可以解决问题,那思考的意义是什么? \ No newline at end of file
+或者,问题的答案可以不由思考得出,那么无意识地通过计算得出答案,就是合理的。既然不思考也可以解决问题,那思考的意义是什么?
+
+## 答案仍然需要思考得出
+
+先来解决最后一个问题,因为它最容易,也很关键。
+
+先从机器指令回到更高的算法层级。大语言模型是神经网络模型,设计者在建立了神经网络的结构之后,通过反向传播调整模型的权重和偏值,让得出的答案更准确。其中,「准确」的标准是人定义的,这个标准仍然是人思考得出的。
+
+训练模型的过程是让系统输出的结果更接近期望的过程,如果没有人的思考,这个「期望」也就不存在。换句话说,机器其实没有思考,只是在通过计算给出最接近期望的答案而已。
+
+至少就目前看来,大语言模型还没有真正的思考能力,它只是在尽力给出符合标准和期望的答案,而标准和期望也是人在思考后定义的。
+
+## 发生在客观世界的解答过程
+
+大语言模型没有思考能力,这是上一小节得出的结论。基于这个结论,第二个问题「这样的思考发生在计算者的脑中,还是发生在外部世界?」就没有答案,因为问题的出发点是错的。这个过程无论发生在外部世界,还是计算者的脑中,都不是思考的过程,只是一种解答问题的算法过程。
+
+这样的过程可以由人不思考地完成,可以由猴子完成,也当然,可以由机器完成。
+
+第一个问题「这算思考吗?」自然也有答案了。至于「主观」,其实有些难定义,因为在英文里 Subjectivity 既可以被译为「主观性」,也可以被译为「主体性」,与意识、人格、能动性有关。[^1]由于定义比较模糊,所以这里先不谈了。
+
+用类似猴子打字机的思想看待大语言模型生成答案的过程的话,能发现 AI 的思考是完全发生在外部的客观世界的,
+
+---
+
+## 机器能完全模拟人吗?
+
+[^1]: [主体性 - 维基百科,自由的百科全书](https://zh.wikipedia.org/wiki/主体性) \ No newline at end of file
diff --git a/content/稻草人周刊-vol-27.md b/content/稻草人周刊-vol-27.md
new file mode 100644
index 00000000..b59351ac
--- /dev/null
+++ b/content/稻草人周刊-vol-27.md
@@ -0,0 +1,38 @@
+---
+title: 稻草人周刊 Vol.
+subtitle:
+tags:
+related_cards:
+date:
+categories: 稻草人周刊
+banner:
+draft: true
+toc: true
+---
+
+random shit, maybe music and stuff
+
+## 🙋 在做什么
+
+
+
+## 📖 本周阅读
+
+{{< bookcard "虚掷的夏日" >}}
+
+## 💬 本期杂谈
+
+### a topic
+
+content here
+
+[#tag](/tags/tag)
+
+## 💡 新知复盘
+
+
+
+
+## 🗣️ 碎碎念
+
+- 我对大语言模型的确没有太多赞美之词,但我绝非卢德主义者,更非意识不到「时代变了」。我不是二极管,我不会因为在某些方便不喜欢一个东西就全盘否定它的价值。我总觉得有的人看到我在批评大语言模型时,就把我想象成了完全排斥 AI 的、自以为地位不保、无能狂怒的保守分子……