diff options
| author | eltrac <hi@eltr.ac> | 2026-04-30 12:47:56 +0800 |
|---|---|---|
| committer | eltrac <hi@eltr.ac> | 2026-04-30 12:47:56 +0800 |
| commit | 4ea5ca903debed4ce3770ea6cebf7f57c73a2fe5 (patch) | |
| tree | 39d7057e41d3a9e7fcdfed8459b989433015ec38 /content/article | |
| parent | 486df5b8e33395e7e79975acdc35444acd317d2b (diff) | |
[draft] update
Diffstat (limited to 'content/article')
| -rw-r--r-- | content/article/no-ai-for-my-joy.md | 23 |
1 files changed, 17 insertions, 6 deletions
diff --git a/content/article/no-ai-for-my-joy.md b/content/article/no-ai-for-my-joy.md index 53015104..34ff30a2 100644 --- a/content/article/no-ai-for-my-joy.md +++ b/content/article/no-ai-for-my-joy.md @@ -21,7 +21,7 @@ toc = true 我逐渐意识到,编程智能体(Coding Agents)之所以发展迅猛,很大程度上是因为世界上到处都是**不喜欢写代码的程序员**和觉得创造软件就是写代码的普通人。 -## 叛徒 +## 叛徒的自白 如果你是一名讨厌 AI 的画师,一名对 AI 编程感到焦虑或者厌恶的程序员,一名对 LLM 颇有微词的文字工作者,很不幸,我可能是个叛徒。 @@ -43,7 +43,7 @@ _*`opencode`_ _*“请你帮我……”_ -## 脑腐 +## 老虎机、偏误放大器和消费载体 LLM 在很多层面都和短视频十分相似。首先,它们都有类似老虎机的交互逻辑,再往下一刷就能看到更有趣、更新鲜、更吸引人的内容,再写一条提示词、再听一句「You're absolutely right!」,问题似乎就会迎刃而解。尽管总是事与愿违,但我们似乎不愿意停下,*就像无法进行更高级的反思的动物一样*。如果给老鼠一个按钮,按下之后它就会经历性高潮,那么它就会一直按这个按钮,直到死亡。 @@ -101,7 +101,7 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 这句话出自书中隐者村的一位老者,他们的聚落举行占卜仪式,就是为了向世人展示这个道理。我写过一篇文章,论述[为什么请教 LLM 和占卜算命极其相似](/essays/为什么请教AI和占卜算命极其相似?/)。 -## 幻觉 +## Head in the Cloud 我在大量依赖编程智能体之前,其实有阅读[软件架构相关的书](/library/2026/clean-architecture/),也因此我不至于写出漏洞百出,让人无法理解的 Slopware[^4],而且,我在使用智能体的时候,有尽力清晰地描述需求、做出深思熟虑的系统设计决策、做架构决策、在恰当的时机停下来进行重构,我在费力地思考。这样的过程并不是被动的,那 LLM 的负面影响会被减轻吗? @@ -111,7 +111,7 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 代码本身就不是软件开发的全部,这是肯定的。代码没那么重要?真的吗? -代码不仅是软件行为产生的地方,也是造成软件架构的基础。早在 LLM 编程之前,不严肃对待架构的开发者就吃了很多苦头。由于源代码之间的依赖关系不合理,耦合紧密,导致需求变更时做出更改非常困难。开发的前期代码飞速增长,中后期则举步维艰。尽管用自然语言编程能够在宏观上把控架构(前提是使用者真的有设计灵活的架构的能力),但无法精细到代码之间的依赖关系。如果完全不读代码,致命的耦合就会悄无声息地发生。 +代码不仅是软件行为产生的地方,也是软件架构的体现。早在 LLM 编程之前,不严肃对待架构的开发者就吃了很多苦头。由于源代码之间的依赖关系不合理,耦合紧密,导致需求变更时做出更改非常困难。开发的前期代码飞速增长,中后期则举步维艰。尽管用自然语言编程能够在宏观上把控架构(前提是使用者真的有设计灵活的架构的能力),但无法精细到代码之间的依赖关系。如果完全不读代码,致命的耦合就会悄无声息地发生。 代码也是安全漏洞发生的地方,这是无法通过系统设计消除的。如果不关注代码,就不知道机器具体做了什么,在哪一步会出问题。LLM 产出有安全漏洞的代码并不罕见,而且有些漏洞并不出现在一段代码中,而是出现在组件之间。 @@ -160,9 +160,18 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 大大小小的代码托管网站都使用了类似的反爬手段,比如 [Codeberg](https://codeberg.org/),我自己的 [Forgejo 实例](https://src.eltr.ac/) 也一样。这些平台本身是开放且尊重用户的,不需要使用 JavaScript 和 Cookies 也能正常访问,但 AI 爬虫的猖獗让他们无法正常提供服务,必须采取限制手段,否则要么服务器被打趴下,要么任由肮脏的机器人给自己留下昂贵的账单。 -所以,这显然是个道德问题。科技公司是吸血鬼,他们利用开放的万维网内容训练 AI 模型,从画师在社交媒体上发布的图片,再到各大代码托管平台上的开源代码。 +所以,这显然是个道德问题。科技公司是吸血鬼,他们利用开放的万维网内容训练 AI 模型,从画师在网站和社交媒体上发布的作品,再到各大代码托管平台上的开源代码。他们为了做出有竞争力的产品,不择手段,完全违反 robots.txt 协议[^6],不管小网站的死活,完全没有意识到自己行为实际上是与 DoS 攻击无异。 -使用 AI 绘图、编程、写文档、做任何事情,不都是在变相吸这些受害者的血吗? +使用 AI 绘图、编程、写文档、做任何事情,不都是在变相吸这些受害者的血吗?我们还没有开始讨论版权问题。 + + +## 更现实的代价 + +让我们以企业的角度来思考问题,员工使用 AI 技术更快速地工作,让他们变蠢、变迟钝、变得上瘾看起来不道德,AI 技术本身让社区、非营利组织和小公司生不如死好像也很不道德,但道德和金钱比起来算什么呢?AI 好像能以更低的价格实现更快地增长,不是吗? + +根据 Axios 发布的一篇[文章](https://www.axios.com/2026/04/26/ai-cost-human-workers),互联网科技公司在 AI 上花的钱已经超过了员工的薪水。 + +只要稍微了解,就会知道运行大模型和如今主流的各种 AI 技术都不便宜,非常昂贵。据从事学术研究的某位老师透露,我所在的学校能供学生使用的只有一块显卡,不足以支撑某个学生的研究方向,他不得不放弃,从头再来。如果在个人电脑上跑,只能以很低的效率运行参数较小的模型。那为什么这么多的科技公司提供免费的 AI 聊天机器人,以至于人们早就习惯使用 AI 了呢?我最不能理解的是那些使用大模型生成随机数以抽点同学的老师,你为什么要消耗这么多的算力资源,就为了得到一个非常简单的 C 语言程序就能输出的结果?为什么人们觉得 AI 像是不要钱一样? @@ -178,3 +187,5 @@ Ursula K. Le Guin 在她的小说《[黑暗的左手](/library/2025/黑暗的左 [^5]: 如果你不了解这个词的具体含义,我会在后文展开。 +[^6]: 大部分网站都会提供 `robots.txt` 文件,声明允许哪些爬虫,不允许哪些爬虫。AI 公司的爬虫根本不在乎。 + |
