diff options
| -rw-r--r-- | content/posts/AI-与猴子打字机.md | 38 | ||||
| -rw-r--r-- | content/稻草人周刊-vol-27.md | 38 |
2 files changed, 70 insertions, 6 deletions
diff --git a/content/posts/AI-与猴子打字机.md b/content/posts/AI-与猴子打字机.md index ba329623..2ee51e0e 100644 --- a/content/posts/AI-与猴子打字机.md +++ b/content/posts/AI-与猴子打字机.md @@ -16,9 +16,9 @@ toc: true 前几天谈 AI 的时候想到一个有趣的理论,兴许可以引发一些关于「思维」的思考。 -在这之前需要先补充一些计算机系统的基础知识:编程语言被编译成可执行的程序的过程,其实是在将源代码编译成机器指令的过程;机器指令是非常底层且难以被理解的指令,定义了计算机上最基础的操作。举个例子,`x = x + 1` 这个简单的自增操作,至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器;寄存器自增;将寄存器中的值写回内存。 +在这之前需要先补充一些计算机系统的基础知识:编程语言被编译成可执行的程序的过程,其实是在将源代码编译成机器指令的过程;机器指令定义了计算机上最基础的操作。举个例子,`x = x + 1` 这个简单的自增操作,至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器;寄存器自增;将寄存器中的值写回内存。 -任何计算机程序,在硬件底层,都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1,AI 也一样,看似强大的大语言模型实际上也只是在不断地将 0 变成 1,将 1 变成 0 而已。 +任何计算机程序,在硬件底层,都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1,AI 也一样,大语言模型实际上也只是在不断地将 0 变成 1,将 1 变成 0 而已。 那么问题来了:**如果操作 0 和 1 的不是机器,而是猴子,甚至是人呢?**<!--more--> @@ -28,10 +28,36 @@ toc: true 有意识的猴子和拥有智力的人,在完全没有思考的情况下,跟随一系列指令算出了一个问题的答案;由于他们操作的是对他们无意义的 0 和 1,他们在计算时完全不知道自己在干什么。然而,他们却得出了问题的答案。 -我的问题是:你认为这算思考吗?以及,这算是带有主观的思考吗? +我的问题是:这算思考吗?以及,这算是带有主观的思考吗? -如果你认为这算思考,甚至有主观的存在,那么,另一个问题是:这样的思考发生在计算者的脑中,还是发生在外部世界?如果思考发生在外部世界,主观也存在于外部世界,而外部世界就是客观世界,那主观和客观的界限在哪里? +如果这算思考,甚至有主观的存在,那么,另一个问题是:这样的思考发生在计算者的脑中,还是发生在外部世界?如果思考发生在外部世界,主观也存在于外部世界,而外部世界就是客观世界,那主观和客观的界限在哪里? -如果你认为这不算思考,那上面的问题就都不是问题了。 +如果这不算思考,那上面的问题就都不是问题了。 -或者,你认为问题的答案可以不由思考得出,那既然不思考也可以解决问题,那思考的意义是什么?
\ No newline at end of file +或者,问题的答案可以不由思考得出,那么无意识地通过计算得出答案,就是合理的。既然不思考也可以解决问题,那思考的意义是什么? + +## 答案仍然需要思考得出 + +先来解决最后一个问题,因为它最容易,也很关键。 + +先从机器指令回到更高的算法层级。大语言模型是神经网络模型,设计者在建立了神经网络的结构之后,通过反向传播调整模型的权重和偏值,让得出的答案更准确。其中,「准确」的标准是人定义的,这个标准仍然是人思考得出的。 + +训练模型的过程是让系统输出的结果更接近期望的过程,如果没有人的思考,这个「期望」也就不存在。换句话说,机器其实没有思考,只是在通过计算给出最接近期望的答案而已。 + +至少就目前看来,大语言模型还没有真正的思考能力,它只是在尽力给出符合标准和期望的答案,而标准和期望也是人在思考后定义的。 + +## 发生在客观世界的解答过程 + +大语言模型没有思考能力,这是上一小节得出的结论。基于这个结论,第二个问题「这样的思考发生在计算者的脑中,还是发生在外部世界?」就没有答案,因为问题的出发点是错的。这个过程无论发生在外部世界,还是计算者的脑中,都不是思考的过程,只是一种解答问题的算法过程。 + +这样的过程可以由人不思考地完成,可以由猴子完成,也当然,可以由机器完成。 + +第一个问题「这算思考吗?」自然也有答案了。至于「主观」,其实有些难定义,因为在英文里 Subjectivity 既可以被译为「主观性」,也可以被译为「主体性」,与意识、人格、能动性有关。[^1]由于定义比较模糊,所以这里先不谈了。 + +用类似猴子打字机的思想看待大语言模型生成答案的过程的话,能发现 AI 的思考是完全发生在外部的客观世界的, + +--- + +## 机器能完全模拟人吗? + +[^1]: [主体性 - 维基百科,自由的百科全书](https://zh.wikipedia.org/wiki/主体性)
\ No newline at end of file diff --git a/content/稻草人周刊-vol-27.md b/content/稻草人周刊-vol-27.md new file mode 100644 index 00000000..b59351ac --- /dev/null +++ b/content/稻草人周刊-vol-27.md @@ -0,0 +1,38 @@ +--- +title: 稻草人周刊 Vol. +subtitle: +tags: +related_cards: +date: +categories: 稻草人周刊 +banner: +draft: true +toc: true +--- + +random shit, maybe music and stuff + +## 🙋 在做什么 + + + +## 📖 本周阅读 + +{{< bookcard "虚掷的夏日" >}} + +## 💬 本期杂谈 + +### a topic + +content here + +[#tag](/tags/tag) + +## 💡 新知复盘 + + + + +## 🗣️ 碎碎念 + +- 我对大语言模型的确没有太多赞美之词,但我绝非卢德主义者,更非意识不到「时代变了」。我不是二极管,我不会因为在某些方便不喜欢一个东西就全盘否定它的价值。我总觉得有的人看到我在批评大语言模型时,就把我想象成了完全排斥 AI 的、自以为地位不保、无能狂怒的保守分子…… |
