diff options
Diffstat (limited to 'content')
| -rw-r--r-- | content/article/no-ai-for-my-joy.md | 10 |
1 files changed, 10 insertions, 0 deletions
diff --git a/content/article/no-ai-for-my-joy.md b/content/article/no-ai-for-my-joy.md index 0d9f88b3..e836b7b4 100644 --- a/content/article/no-ai-for-my-joy.md +++ b/content/article/no-ai-for-my-joy.md @@ -23,5 +23,15 @@ toc = true ## 叛徒 +## 反思 +前文的所有论述都建立在一个尚未被证实的假设上：AI 真的能代替人。 + +几乎所有人都在夸大这项技术的影响，实际上，就和所有计算机程序一样，没有输入就没有输出。银行有非常健壮的自动化软件系统，但仍然需要柜员和人工服务。比一般的软件系统更危险的是，至少对于语言模型来说，AI 的数据不是*决定论*（deterministic）的。这个翻译可能不准确，我解释一下就好。 + +决定论原本是哲学词汇，认为一切都是注定会发生的，因为宇宙从一开始的状态是确定的，而物理规则也是确定的，那么从最初状态按照固定的规则运行下去的世界，任何一个时间点下的状态都是由最初状态和改变状态的规则决定的（这很像个迭代器）。谈到状态，就很容易联想到计算机系统了。状态就是计算机处理的数据，规则就是程序本身。我在 C 语言课上学到的印象最深刻的观点就是：确定的输入得到确定的输出。 + +这并不适用于所有计算机程序，因为状态有可能影响规则的执行。程序的语句之间可能存在时序耦合（temperal coupling），即前面的语句在执行后改变了系统的状态，而这个状态使得后续语句的行为发生改变，导致偏离预期。如果说时序耦合还有办法解耦（比如使用美妙的函数式编程），那么近似黑箱的神经网络模型就几乎无法根据输入和输出进行调试了。对于大语言模型，确定的输入无法得到确定的输入。大语言模型是非决定论的。 + +这样可怕的软件，甚至没有办法编写测试用例来保证稳定性。幻觉已经是陈词滥调了。既然传统的软件系统都没能消除人工，凭什么相信更加**不稳定**的技术可以？ |