From c4215a32ca8d8b5b68428d1a82ec8407bb4c0715 Mon Sep 17 00:00:00 2001 From: Eltrac Date: Tue, 29 Apr 2025 13:40:58 +0800 Subject: docs: update draft Former-commit-id: 9088049e3296ac1760d28bb5d68402d985988b8b --- ...255\220\346\211\223\345\255\227\346\234\272.md" | 38 ++++++++++++++++++---- 1 file changed, 32 insertions(+), 6 deletions(-) (limited to 'content/posts') diff --git "a/content/posts/AI-\344\270\216\347\214\264\345\255\220\346\211\223\345\255\227\346\234\272.md" "b/content/posts/AI-\344\270\216\347\214\264\345\255\220\346\211\223\345\255\227\346\234\272.md" index ba329623..2ee51e0e 100644 --- "a/content/posts/AI-\344\270\216\347\214\264\345\255\220\346\211\223\345\255\227\346\234\272.md" +++ "b/content/posts/AI-\344\270\216\347\214\264\345\255\220\346\211\223\345\255\227\346\234\272.md" @@ -16,9 +16,9 @@ toc: true 前几天谈 AI 的时候想到一个有趣的理论，兴许可以引发一些关于「思维」的思考。 -在这之前需要先补充一些计算机系统的基础知识：编程语言被编译成可执行的程序的过程，其实是在将源代码编译成机器指令的过程；机器指令是非常底层且难以被理解的指令，定义了计算机上最基础的操作。举个例子，`x = x + 1` 这个简单的自增操作，至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器；寄存器自增；将寄存器中的值写回内存。 +在这之前需要先补充一些计算机系统的基础知识：编程语言被编译成可执行的程序的过程，其实是在将源代码编译成机器指令的过程；机器指令定义了计算机上最基础的操作。举个例子，`x = x + 1` 这个简单的自增操作，至少需要三条机器指令来完成——将 `x` 的值写入一个寄存器；寄存器自增；将寄存器中的值写回内存。 -任何计算机程序，在硬件底层，都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1，AI 也一样，看似强大的大语言模型实际上也只是在不断地将 0 变成 1，将 1 变成 0 而已。 +任何计算机程序，在硬件底层，都是这样完成操作的。大部分人应该都知道计算机实际上只能操作 0 和 1，AI 也一样，大语言模型实际上也只是在不断地将 0 变成 1，将 1 变成 0 而已。 那么问题来了：**如果操作 0 和 1 的不是机器，而是猴子，甚至是人呢？** @@ -28,10 +28,36 @@ toc: true 有意识的猴子和拥有智力的人，在完全没有思考的情况下，跟随一系列指令算出了一个问题的答案；由于他们操作的是对他们无意义的 0 和 1，他们在计算时完全不知道自己在干什么。然而，他们却得出了问题的答案。 -我的问题是：你认为这算思考吗？以及，这算是带有主观的思考吗？ +我的问题是：这算思考吗？以及，这算是带有主观的思考吗？ -如果你认为这算思考，甚至有主观的存在，那么，另一个问题是：这样的思考发生在计算者的脑中，还是发生在外部世界？如果思考发生在外部世界，主观也存在于外部世界，而外部世界就是客观世界，那主观和客观的界限在哪里？ +如果这算思考，甚至有主观的存在，那么，另一个问题是：这样的思考发生在计算者的脑中，还是发生在外部世界？如果思考发生在外部世界，主观也存在于外部世界，而外部世界就是客观世界，那主观和客观的界限在哪里？ -如果你认为这不算思考，那上面的问题就都不是问题了。 +如果这不算思考，那上面的问题就都不是问题了。 -或者，你认为问题的答案可以不由思考得出，那既然不思考也可以解决问题，那思考的意义是什么？ \ No newline at end of file +或者，问题的答案可以不由思考得出，那么无意识地通过计算得出答案，就是合理的。既然不思考也可以解决问题，那思考的意义是什么？ + +## 答案仍然需要思考得出 + +先来解决最后一个问题，因为它最容易，也很关键。 + +先从机器指令回到更高的算法层级。大语言模型是神经网络模型，设计者在建立了神经网络的结构之后，通过反向传播调整模型的权重和偏值，让得出的答案更准确。其中，「准确」的标准是人定义的，这个标准仍然是人思考得出的。 + +训练模型的过程是让系统输出的结果更接近期望的过程，如果没有人的思考，这个「期望」也就不存在。换句话说，机器其实没有思考，只是在通过计算给出最接近期望的答案而已。 + +至少就目前看来，大语言模型还没有真正的思考能力，它只是在尽力给出符合标准和期望的答案，而标准和期望也是人在思考后定义的。 + +## 发生在客观世界的解答过程 + +大语言模型没有思考能力，这是上一小节得出的结论。基于这个结论，第二个问题「这样的思考发生在计算者的脑中，还是发生在外部世界？」就没有答案，因为问题的出发点是错的。这个过程无论发生在外部世界，还是计算者的脑中，都不是思考的过程，只是一种解答问题的算法过程。 + +这样的过程可以由人不思考地完成，可以由猴子完成，也当然，可以由机器完成。 + +第一个问题「这算思考吗？」自然也有答案了。至于「主观」，其实有些难定义，因为在英文里 Subjectivity 既可以被译为「主观性」，也可以被译为「主体性」，与意识、人格、能动性有关。[^1]由于定义比较模糊，所以这里先不谈了。 + +用类似猴子打字机的思想看待大语言模型生成答案的过程的话，能发现 AI 的思考是完全发生在外部的客观世界的， + +--- + +## 机器能完全模拟人吗？ + +[^1]: [主体性 - 维基百科，自由的百科全书](https://zh.wikipedia.org/wiki/主体性) \ No newline at end of file -- cgit v1.2.3