ChatGPT 和 AI 的未来

　　恍惚间竟然已经三月了。时间为什么这么快，人生的三百分之一竟然眨眼便过去？

　　最近我一直在公司做 Lua 和 Rust 相关的项目，每天也排得很满。早上差不多七点多起床，洗漱后开始自学到九点半去公司，站会过后上午很快就过去。下午则是工作的主要时间。下班也没有闲着，或是背单词或是写项目。笔记好像产出了不少，接触的新概念也不少，有了 Copilot 辅助代码也写了不少。

　　但是我感觉自己的学习很少有质变的感觉了。我可能又接触了一种新的指令集，可能又学会一种新的算法，可能又解决了一个罕见的 Bug，但好像又没有感觉到自己的进步。

　　我还有非常多想学的东西，想学习量子计算，神经形态计算，光学计算，想学电路设计，想练字，想学好日语，想学数学。可是每天时间已经被塞满，精神振奋的时间也有限。有限的时间也没有利用好，一个 Bug 卡一天。我的生活感觉起来很充实，但一生能做的似乎也太少。又或者是我的欲望难以被填满，总是觉得自己还差一点。我的目标太多，但又太少，因为很难说哪一个目标是终极的。

　　目标，我以前有过一个目标，那是我玩一个叫《弹丸论破》的 PSP 游戏的时候，里面有一个不二咲千寻的人，发明了一个自己的 AI. 意识一直是我最好奇的东西。

　　今年年初的时候我认识了 ChatGPT，一个语言模型。我相信它会被载入史册，因为它所体现的智能能力堪称质变。尽管它一开始连简单的数学问题也无法解答，但我相信这只是优化目标的设置问题。ChatGPT 开车指日可待，绝大多数的工作，尤其是像程序员这样的抽象层次的高的工作，未来一定会被取代，除非人比 AI 的算力和电费便宜。我以前是不相信强人工智能能够在几十年内被制造出来的，结果一夜之间似乎真的制造出来了。

　　ChatGPT 带来的最大危机可能是意义危机。未来人类无论是创造性的工作，还是机械性的工作，都交给 AI 来完成的话，人类恐怕只能沉湎于肉体的享乐，但无法给世界带来价值，几乎成为被圈养的猪的人类，要么通过药品获得幸福，要么只能成为痛苦的哲学家。思维的乐趣在于能够一种独创性，能想到别人没有想到的事情，能将别人不能关联的东西关联起来，能将别人没有写出的东西创造出来。但当 AI 也能做到这样的事情，甚至效率是人的无数倍的时候，人的思维的独特性将被解构，变成外行小孩下棋图一乐了。

　　不过现在的 ChatGPT 并没有让我感觉他有思考的能力。他只是一种精巧的剽窃工具，通过运算抽取下一个 Token 来生成似是而非的文章。比如我向它介绍 SHA1 的算法，教会他，然后让他计算某个它从未见过的字符串的 SHA1 值，它只会瞎编一个。当然 Bing 也一样。这说明他还不具备高程度的认知能力。总之在科学思维能力方面，ChatGPT 只是一个骗子，一个典型的例子是它常常忽视掉用户的定语，此外他不具备基本的计数能力，比如你问他：我和你说的第一句话是什么？他可能只能往前记住几千个字。有人说他的文字也透露出了一些情感。但其实这些都是因为他的数据集里有类似的东西。他终究无法从无到有地发明东西，它是归纳机器，而无法发明创造。数学演绎能力也更像是表演能力。

上面是一个简单的级数求和的题，我相信任何一个高中生都能做对。但 ChatGPT 用了非常漂亮的好看的过程，胡说八道。得出一个完全错误的答案。在这一点上，它和 Stable Diffusion 没有本质的区别，都是“画画”，一个在画图形，一个在画文本。

他能通过组合文字来写诗，却无法将新的哲理蕴含到其中。他读过北岛，读过海子，读过李白和苏轼，但让他模仿，他始终不得要领。他也无法感知时间，我曾经让他等待三十秒再回复我，结果他只是通过文字游戏假装度过了三十秒，实际上我看到的却是他瞬间就回复，还坚持声称我看到他的文字的时候已经过去了三十秒。我问他今天天气怎么样，他上网搜索了自己的 Redmond 的天气给我，说明他并没有理解我和他并不在一个地方。他像是睡梦中的人，他能表现得惊讶，但却其实并没有感觉，所以他很容易被洗脑。我问他能否想象四维，他说想象不到，我问他能否想象颜色，他却可以，但他其实只是运用一些颜色的形容词于事物之上。我问他能否想象三维，他说可以，但如果他真是 AI, 他又何必将维度的想象能力与人类同步？况且人的三维感知也是通过进化而来，只是人类留下的文字资料透露出人类实际上无法感知和想象四维。所以我说 ChatGPT 是一个哲学僵尸，是人类文本训练资料的平均。与其说它是 AI，不如说他是人类的镜子。

　　不过即便如此，他的工作能力可能也超过绝大多数人。毕竟人也不喜欢一直思考，人偷懒的时候信息处理能力远不如 AI.

　　这样的 AI 普及也需要时间，普及之后也足以彻底改变世界的面貌，即便他不具备真正的心智。我们现在的 AI 训练和推理是分开的，即便有在线学习，但性能也不佳。我其实很想研究这方面的东西。如果 ChatGPT 这类模型能够在每个人的家里离线部署，一定会很棒。现在的训练都是基于 GPU、TPU、ASIC, 基本都是通过间隔脉冲的时序电路来实现图灵机进而实现计算进而能够推理。可问题在于这样的性能利用率并不高，哪怕有流水线之类的技术。人脑则不然，突触之间可以连接，哪怕只有化学信号这样的缓慢，也能通过大规模并行解决性能问题。而且人脑的并行是真正的并行，不是 GPU 那样并行，但还需要定期同步。其实组合电路天然就是并行的，如果能直接运用于计算，计算性能可能会有很大的提高。

　　我们仍然无法解释意识如何产生。或许它并不来源于这个世界。

本文的标题通过 AI 生成。

标签: 无标签