diff options
| -rw-r--r-- | content/article/no-ai-for-my-joy.md | 61 |
1 files changed, 51 insertions, 10 deletions
diff --git a/content/article/no-ai-for-my-joy.md b/content/article/no-ai-for-my-joy.md index 34ff30a2..347429dd 100644 --- a/content/article/no-ai-for-my-joy.md +++ b/content/article/no-ai-for-my-joy.md @@ -103,7 +103,7 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 ## Head in the Cloud -我在大量依赖编程智能体之前，其实有阅读[软件架构相关的书](/library/2026/clean-architecture/)，也因此我不至于写出漏洞百出，让人无法理解的 Slopware[^4]，而且，我在使用智能体的时候，有尽力清晰地描述需求、做出深思熟虑的系统设计决策、做架构决策、在恰当的时机停下来进行重构，我在费力地思考。这样的过程并不是被动的，那 LLM 的负面影响会被减轻吗？ +我在大量依赖编程智能体之前，其实有阅读[软件架构相关的书](/library/2026/clean-architecture/)，而我的专业本身也是软件工程，不同于计算机科学等其他相关专业，我还学习了不少有关软件设计模式、需求工程和软件项目管理的知识，也因此我不至于写出漏洞百出，让人无法理解的 Slopware[^4]，而且，我在使用智能体的时候，有尽力清晰地描述需求、做出深思熟虑的系统设计决策、做架构决策、在恰当的时机停下来进行重构，我在费力地思考。这样的过程并不是被动的，那 LLM 的负面影响会被减轻吗？ 可以确定的是，我的确会在几个小时内一行代码都没写的情况下感到劳累和…… 某种程度的满足感。这种满足感并不是发自内心的「我亲手做成了某件事」带来的，而是「我好像真的创造了某个东西」。如果是我自己写代码，我会同时感受到两种满足。 @@ -111,7 +111,7 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 代码本身就不是软件开发的全部，这是肯定的。代码没那么重要？真的吗？ -代码不仅是软件行为产生的地方，也是软件架构的体现。早在 LLM 编程之前，不严肃对待架构的开发者就吃了很多苦头。由于源代码之间的依赖关系不合理，耦合紧密，导致需求变更时做出更改非常困难。开发的前期代码飞速增长，中后期则举步维艰。尽管用自然语言编程能够在宏观上把控架构（前提是使用者真的有设计灵活的架构的能力），但无法精细到代码之间的依赖关系。如果完全不读代码，致命的耦合就会悄无声息地发生。 +代码不仅是软件行为产生的地方，也是软件架构的体现。早在 LLM 编程之前，不严肃对待架构的开发者就吃了很多苦头。由于源代码之间的依赖关系不合理，耦合紧密，导致需求变更时做出更改非常困难。开发的前期代码飞速增长，中后期则举步维艰。尽管用自然语言编程能够在宏观上把控架构（前提是使用者真的有设计灵活的架构的能力），但难以精细到代码之间的依赖关系，毕竟 AI 编程使用者不会亲自管理依赖。如果完全不读代码，致命的耦合就会悄无声息地发生。 代码也是安全漏洞发生的地方，这是无法通过系统设计消除的。如果不关注代码，就不知道机器具体做了什么，在哪一步会出问题。LLM 产出有安全漏洞的代码并不罕见，而且有些漏洞并不出现在一段代码中，而是出现在组件之间。 @@ -119,22 +119,26 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 让我感到最讨厌的，是某些人抱有的玄学心态。我某天做家务的时候在听一期讲 AI 的播客，他们没有一个人是相关领域的专家，其中有个男人讲的话非常讨厌，语气和内容都是，我听到这句话之后就立刻关掉了播客。他们本来在讨论和 ChatGPT 聊天时遇到的问题，结果这个男的没头没脑地冒出来一句：「你给 ChatGPT 充钱了吗？」对方回答没有，男的就换了个强调说：「哎！难——怪——啊——」。 -不少人把具体的工作变成了与聊天机器人交互的过程，这就诞生了不少毫无根据的玄学，比如提示词神话，比如订阅什么价位的方案，比如在没有数据支撑的情况下根据自身局限的经验判断模型之间的优劣并十分笃定，以及任何类似于「必须要这样和 AI 聊天才能获得好的结果！」的说辞。 +不少人把具体的工作变成了与聊天机器人交互的过程，这就诞生了不少毫无根据或者被夸大的玄学，比如提示词神话，比如「你给它开启专家模式」「你调整一下 LLM 的记忆」，比如订阅什么价位的方案，比如在没有数据支撑的情况下根据自身局限的经验判断模型之间的优劣并十分笃定，以及任何类似于「必须要这样和 AI 聊天才能获得好的结果！」的说辞。 代码本身是确定的，是冰冷的，是无聊的，是可证伪的。如果我们在讨论代码层面的事情，那么我们非常容易相互理解，因为我们都清楚代码的执行路径、依赖关系、数据流等等，也就更容易讨论得到解决方案。倘若我们抛弃代码，去讨论模糊的自然语言，讨论怎么和智能体进行交互，那只会诞生出越来越多的玄学迷思，因为 LLM 本身就不是决定论（deterministic）[^5]的。完全抛弃代码，全面使用 LLM 编程，会把技术问题变成模糊且不可控的儿戏。 -## 反思 +## 非决定论的技术 人们似乎都相信一个尚未被证实的假设上：AI 真的能代替人。 几乎所有人都在夸大这项技术的影响，实际上，就和所有计算机程序一样，没有输入就没有输出。银行有非常健壮的自动化软件系统，但仍然需要柜员和人工服务。比一般的软件系统更危险的是，至少对于语言模型来说，AI 的数据不是*决定论*（deterministic）的。这个翻译可能不准确，我解释一下就好。 -决定论原本是哲学词汇，认为一切都是注定会发生的，因为宇宙从一开始的状态是确定的，而物理规则也是确定的，那么从最初状态按照固定的规则运行下去的世界，任何一个时间点下的状态都是由最初状态和改变状态的规则决定的（这很像个迭代器）。谈到状态，就很容易联想到计算机系统了。状态就是计算机处理的数据，规则就是程序本身。我在 C 语言课上学到的印象最深刻的观点就是：确定的输入得到确定的输出。 +决定论原本是哲学词汇，认为一切都是注定会发生的，因为宇宙从一开始的状态是确定的，而物理规则也是确定的，那么从最初状态按照固定的规则运行下去的世界，任何一个时间点下的状态都是由最初状态和改变状态的规则决定的（这很像个迭代器）。谈到状态，就很容易联想到计算机系统了。状态就是计算机处理的数据，规则就是程序本身。对计算机来说，确定的输入得到确定的输出。 -这并不适用于所有计算机程序，因为状态有可能影响规则的执行。程序的语句之间可能存在时序耦合（temperal coupling），即前面的语句在执行后改变了系统的状态，而这个状态使得后续语句的行为发生改变，导致偏离预期。如果说时序耦合还有办法解耦（比如使用美妙的函数式编程），那么近似黑箱的神经网络模型就几乎无法根据输入和输出进行调试了。对于大语言模型，确定的输入无法得到确定的输入。大语言模型是非决定论的。 +这并不适用于所有计算机程序，因为状态有可能影响规则的执行。程序的语句之间可能存在时序耦合（temperal coupling），即前面的语句在执行后改变了系统的状态，而这个状态使得后续语句的行为发生改变，导致偏离预期。如果说时序耦合还有办法解耦（比如使用美妙的函数式编程），那么近似黑箱的神经网络模型就几乎无法根据输入和输出进行调试了。对于大语言模型，确定的输入无法得到确定的输出。大语言模型是非决定论的。 这样可怕的软件，甚至没有办法编写测试用例来保证稳定性。幻觉已经是陈词滥调了。既然传统的软件系统都没能消除人工，凭什么相信更加**不稳定**的技术可以？ +由于输出不可预测，为了保证可用性，就必须介入人工调控。因为计算机程序没有主体性，不能为它交付的工作成果负责。你不能问责机器，但你可以问责员工，所以人需要为 AI 提供输入，并为它的输出负责。 + +在维持算力成本的同时还需要支付人工成本，这么做真的值得吗？我不是在全盘否定 AI 技术的应用，AI 会留下来的，我也认为它能给一些行业的某些人带来积极影响，但所有人都立刻将 AI 用于生产，至少在成本上并不明智。关于成本，我会在下下小节谈到，接下来我们先聊聊另一个问题。 + ## 幕后的受害者 前文我讨论了我不想让 AI 帮我做事的心理原因，依赖 AI 技术可能造成的认知能力下降，将技术细节提升为高层决策带来的模糊性和不可预测性，以及大模型本身的非决定论特质。接下来我要讨论更棘手的问题——道德。 @@ -160,22 +164,59 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 大大小小的代码托管网站都使用了类似的反爬手段，比如 [Codeberg](https://codeberg.org/)，我自己的 [Forgejo 实例](https://src.eltr.ac/) 也一样。这些平台本身是开放且尊重用户的，不需要使用 JavaScript 和 Cookies 也能正常访问，但 AI 爬虫的猖獗让他们无法正常提供服务，必须采取限制手段，否则要么服务器被打趴下，要么任由肮脏的机器人给自己留下昂贵的账单。 -所以，这显然是个道德问题。科技公司是吸血鬼，他们利用开放的万维网内容训练 AI 模型，从画师在网站和社交媒体上发布的作品，再到各大代码托管平台上的开源代码。他们为了做出有竞争力的产品，不择手段，完全违反 robots.txt 协议[^6]，不管小网站的死活，完全没有意识到自己行为实际上是与 DoS 攻击无异。 +所以，这显然是个道德问题。科技公司是吸血鬼，他们利用开放的万维网内容训练 AI 模型，从画师在网站和社交媒体上发布的作品，再到各大代码托管平台上的开源代码。他们为了做出有竞争力的产品，不择手段，完全违反 robots.txt 协议[^6]，不管小网站的死活，没有意识到自己行为实际上与 DoS 攻击无异。 使用 AI 绘图、编程、写文档、做任何事情，不都是在变相吸这些受害者的血吗？我们还没有开始讨论版权问题。 - ## 更现实的代价 让我们以企业的角度来思考问题，员工使用 AI 技术更快速地工作，让他们变蠢、变迟钝、变得上瘾看起来不道德，AI 技术本身让社区、非营利组织和小公司生不如死好像也很不道德，但道德和金钱比起来算什么呢？AI 好像能以更低的价格实现更快地增长，不是吗？ 根据 Axios 发布的一篇[文章](https://www.axios.com/2026/04/26/ai-cost-human-workers)，互联网科技公司在 AI 上花的钱已经超过了员工的薪水。 -只要稍微了解，就会知道运行大模型和如今主流的各种 AI 技术都不便宜，非常昂贵。据从事学术研究的某位老师透露，我所在的学校能供学生使用的只有一块显卡，不足以支撑某个学生的研究方向，他不得不放弃，从头再来。如果在个人电脑上跑，只能以很低的效率运行参数较小的模型。那为什么这么多的科技公司提供免费的 AI 聊天机器人，以至于人们早就习惯使用 AI 了呢？我最不能理解的是那些使用大模型生成随机数以抽点同学的老师，你为什么要消耗这么多的算力资源，就为了得到一个非常简单的 C 语言程序就能输出的结果？为什么人们觉得 AI 像是不要钱一样？ +运行大模型和如今主流的各种 AI 技术都不便宜。据从事学术研究的某位老师透露，我所在的学校能供学生使用的只有一块显卡，不足以支撑某个学生的研究方向，他不得不放弃，换个方向从头再来。如果在个人电脑上跑，只能以很低的效率运行参数较小的模型。那为什么这么多的科技公司提供免费的 AI 聊天机器人，以至于人们早就习惯使用 AI 了呢？我最不能理解的是那些使用大模型生成随机数以抽点同学的老师，你为什么要消耗这么多的计算资源，就为了得到 Excel 表格也能输出的结果？为什么人们觉得 AI 像是不要钱一样？ + +因为大科技公司花钱的方式就跟钱不值钱一样。 + +《[AI 泡沫如何破裂](https://martinvol.pe/blog/2026/03/30/how-the-ai-bubble-bursts/)》这篇文章从经济学和投资的角度预测了未来 AI 行业的发展，并不乐观。简而言之，大科技公司不需要在技术上胜利，他们只需要一直花钱，花的钱比竞争者更多就赢了。人们推测 Claude 方案的实际成本要比订阅费贵五倍（不过最近上调了），更别提大多数人其实不给 AI 模型付钱，免费使用消耗的算力也够多了。 + +钱从哪来呢？Google 这样的公司钱很多，玩得过所有人，而 Anthropic 和 OpenAI 这边就不容乐观了。Anthropic 在尝试[降本增收](https://www.theregister.com/2026/03/26/anthropic_tweaks_usage_limits/)，而 OpenAI 不得不往 ChatGPT 里增加广告，因为他们的购物功能以及视频生成模型 Sora 全都没了，赚不到钱。他们极度依赖投资者的钱，而赚不到钱但增长迅猛的企业看起来比那些一直赔钱也没有增长的企业值得投资多了。 + +不过投资者的钱总会烧干的。作者还推测那些为 AI 建好的数据中心可能因为市场需求的下降而闲置（因为为了赚钱回血，产品的价格会升上；最基本的经济学原理之一是：价格上升会导致需求下降），导致我们可以以非常便宜的价格买到云服务器，而 GPU 的需求也会下降，英伟达就要遭殃了。 + +尽管这些都是推测，但可以确定的是，搞 AI 很费钱，而不是所有人都愿意支付高昂的价格。此外，由于 AI 公司提高模型价格，我们还看到 IT 公司的 AI 支出超过了人力成本，对使用 AI 的公司来说，AI 也*不如人类有性价比*。 + +当然，这些情况明天就可能有改变，毕竟现在 DeepSeek 的 API 价格是*真的便宜*，似乎也没有相关报道显示他们有遇到财政危机，兴许上述问题都会在不久之后被解决。兴许摩尔定律会复活，算力会突然变得更便宜，谁知道呢？ + +## 出路在哪？ + +*你问我？我只是个什么都不懂的小屁孩儿。* + +让我来整理一下这篇已经变得有些奇形怪状的文章吧。大模型极有可能是《娱乐至死》中所言的那类「有倾向的技术」，其对话的形式与短视频媒体一样具有降智属性——和老虎机一样的操作逻辑，让人成瘾；对比短视频推荐算法创造的信息茧房，大模型的幻觉和模糊性可能加剧确认偏误；由于在某种程度上快速地消除了无知给人带来的不适，大模型成为高速的信息消费载体。 + +在工作生产层面，大模型抬高了工作的抽象层，让人们不再接触具体的、确定的、无聊的、可证伪的工作，而是让所有工作都变成模糊的自然语言处理，技术、技能、技巧失去意义，被模糊和不可控的玄学取代。 + +由于生成式人工智能是非决定论的，并且作为软件无法被问责，于是在消耗算力资源的同时仍然要消耗人力资源来调控输入与输出，并对交付的结果负责。随着 AI 泡沫破裂，价格上升，算力成本也超过了人力成本，对企业来说并不划算。 + +更值得注意的是，AI 模型建立在不道德的基础上，科技公司用不遵守规范的网络爬虫*攻击*非营利组织、开源社区、绘画社区、小型企业以获取数据，而 AI 的使用者也被吸血鬼反哺着，付给 AI 公司的每一分钱都是市场需求仍在上涨的证据，是在鼓励这种不道德行为继续猖獗，没有一个人是无辜的。 + +呼…… 让我歇一歇，来关注我自己的感受。 + +现实是残酷的，尽管短视频对人有害已成共识，也有科学研究做背书，但人们依旧无法停止刷视频，金钱仍然会汇聚到视频行业中。去做短视频（或者和短视频一样有吸引力的长视频），就是能挣到钱。 + +同理，尽管各类 AI 技术的好坏还有待辩驳，但无论如何，它看起来都不会消失，它依旧是目前最受关注的领域。尽管行业可能会受到不少冲击，但我不觉得我们能回到 2021 年前的世界。所以，似乎仍然可以得出相似的结论：去做 AI，就是更有竞争力。 + +兴许最幸福的人不会像我这样思考这么多，他们会投身到这些赚钱的行业里，并且不觉得有任何问题。我想的太多，于是踌躇不前。 + +唔…… 我好像还在用 AI 编程来着。我该停下吗？ + +我自然不能在面试被问及「你有 AI 编程经验吗？」「你怎么看待 AI？」时把这篇文章的主要论点给面试官讲一遍，除非我想没饭吃，企业想要的当然是能够用 AI 为它们创造更多价值的人。可我总对撒谎和谄媚感到非常不适。 +此外，用 AI 应付工作和学校项目实际上剥夺了我工作的成就感、价值感，这对本身就不喜欢工作的人来说可能无足轻重，但就像我在开头说的，我是个喜欢写代码的程序员。更何况，哪怕是耗时并不算多的 AI 编程，也像刷了一小会儿短视频一样影响了我的认知能力，影响了我手写代码时的状态。这是具有成瘾性的技术，自然有戒断反应。 +我谈到我在用 OpenCode 开发学校的项目，但选题是我自己定的，需求和设计是我自己做的，技术栈是我自己选的。尽管多少抱着完成任务的心态，但我在开发过程中逐渐对这个「作品」产生了情感，我突然有了更多期待。它可以作为毕业设计，也可以是更长期开发的项目，我还有可能自己在日常的工作生活中使用它。 -## Footnotes +而当我翻看它的源代码时，我感到非常陌生。无论怎么辩驳，它的确很像是个 Slopware。我感到陌生、担忧、心虚和失望，只能为我在一开始设计了灵活的抽象接口而庆幸。或许我该做些 Vibe Code 清理工作了。 [^1]: Ghostty 的分屏快捷键，分屏后打开新的终端窗口 |