当智能开始重塑智人与智能本身
关于工程信念、科技加速与人类未来的推演
我对未来的想象,始于一个很朴素的判断:解决问题的能力本身也能被研究和改进,我们可以主动创造条件,去实现今天还做不到的事情。 这里的能力既来自人的智能,也来自人工智能。我关心它们怎样推动科学和工程,又怎样在这个过程中改变人和智能本身。
遇到一个看起来极难、极贵的问题,我想先回到物理规律:它需要什么条件,是否存在能够成立的构造过程?如果在理论适用的范围内,这个过程能够被证明成立,所需条件本身也能够实现,而现实系统又遵循这些规律,那么我们就有了把它做出来的依据。在这样的前提下,不管工艺多复杂、代价多大,我相信它最终能够实现。接下来要问的,就是怎样创造条件、找到路径,把它真正做出来。
这也决定了我怎样想象未来。如果一边承认技术会进步,一边又把今天的知识、工具、能源和交互方式全部固定下来,我们实际上已经把很多可能性排除在外。未来的想象不该被当前技术框住;眼前缺少的条件,本身就可以成为我们接下来要解决的问题。
AI 让我更愿意这样想,首先是因为智能未必受限于最初学习的对象。人怎样学会编程?读代码、写代码、运行、报错、修改,再从结果里形成经验。如果 AI 也能从编译器、测试和环境中获得有效反馈,它就有机会找到人没有逐条示范过的方法。最初向人学习,不足以推出最后只能达到人的水平。
而且,科学与工程既需要足够强的智能,也需要足够大的有效工作量。一个数学家再厉害,一天也只有二十四小时,不能直接复制成一万个同时工作的自己。一套已经具备研究能力的 AI,却可以在资源允许时运行很多个实例。假设一万个实例各运行二十四小时,一天就有二十四万实例小时。它们能否变成成果,还要看任务是否适合并行、探索是否有效、结果能否验证,但扩大研究规模的方式已经不同了。
这些研究的成果,还可能反过来改善研究本身。AI 可以参与算法、模型和训练方法的研究;如果一轮研究提高了它的能力,这份更强的能力又可以被部署到更多实例里。材料和工艺的进展可以改善计算与实验设备,实验效率、能源供给也可以继续成为研究对象。我所说的 AI for Science,包括工程、工艺和制造。当这些进展接起来,增长的就不只是知识,还有产生新知识、实现新工程的能力。
资源也在这个循环里。更强的工程能力可以扩大可获得、可利用的资源范围,资源条件改善,又支持更大的研究和建设。把时间拉远,我甚至会想到其他星球的资源。运输、建设和维护都很困难,但这些能力也会发展,我不愿意把今天可利用的那部分资源,当作未来永远无法越过的边界。
顺着这些变化,我会继续问:外部能力越来越强,人怎样接入它们?马斯克在央视财经访谈中谈到的人机通信速度差距,是我开始思考脑机接口的重要动机之一。机器之间可以高速交换数据,人却仍要通过说话、打字一点点表达。通信快不等于理解快,但这段交流通路确实值得重新设计。
把表达过程拆开看,许多已经形成的概念和关系,要先被组织成语言,再经由发声器官、手指变成声音、文字和操作。一个哲学家脑中已有的思想,讲清楚可能需要三个小时。其中有些内容是在表达时才逐渐想清楚的,但那些已经形成的结构,是否也必须逐字展开?我们太习惯这套通路,容易把它的限制当成表达本身的上限。
所以,我对脑机接口尤其感兴趣的一点,是人能不能学会一种新的表达方式。打字给了我一个很具体的参照:熟练以后,我不必每次想着怎样拆拼音、按哪个键,表达就会随着手指自然出来。打字仍然经过语言,但它说明新的表达技能可以被学会。我想再往前探索,从想法到信号,中间的组织和编码能不能也被学习:人练习一种更适合读取的表达,机器学习辨认它,双方一起把新的通路用起来。在设备能够采集的带宽内,人也可以探索怎样更充分地表达自己想传递的差异。
我因此想到一些训练游戏:先在脑中想象四个开关,让前两个向上、后两个向下,尝试把这个组合表达出来。设想设备能够读取相关信号,把识别结果显示出来,人再据此调整;熟练后再试八个。也可以想象两支笔,左边顺时针画圆,右边逆时针画方,再试着增加对象。数量没有预设的保证,我想知道的是,通过反馈和练习,人到底能够走多远。
这又把问题推到了表达之外。如果设备能可靠地反馈哪些对象维持住了、哪些细节丢失了,原来缺少直接反馈的内部想象,就有机会成为可以有针对性练习的能力。学会操作接口、改善某项内部能力,以及把改善带到其他任务,是需要分别验证的。但如果学习环境能够改变,大脑可以学到什么,就不该只按今天的练习条件来想象。
新的表达真正传出去以后,还得让对方准确接住。我现在和 AI 合作的体验,让我对信息交接有了很直观的感受:把讨论积累存成文件,新的会话读入以后,就可以很快接着工作。积累足够多时,一整份长文仍可以在模型容量允许的范围内作为一次输入交给它;同样的材料交给一个人,则需要长时间阅读、理解,再把各部分联系起来。接收和处理信息的方式一变,交接的节奏就可以很不一样。但读入不等于理解正确,对人与人的交流,我更在意的甚至不是慢,而是偏差:我说的重点,对方真正理解到了吗?
因此,我希望未来能更直接地交流已经形成的结构、关系和侧重。两个人在脑中组织同一个意思的方式可能不同,能不能先把我想表达的内容转换成一种共同编码,再转换成适合对方理解的形式?这就是我设想的中间表示与映射。不过,编码可以还原,也不等于含义已经对齐,最终要看对方是否真正得到我想表达的内容。
要让对方得到这些内容,也不必每次把所有细节重新传一遍。就像现在交流时,双方已经知道的背景可以省略,我可以表达关键差异,利用 AI 或接收方已有的知识重建其余部分。压缩编码也可以利用学到的规律,让较少的信息配合已有知识,恢复更丰富的表达。但独属于这次原意的差异仍然必须传出去,已有知识不能代替我还没有表达出来的独特意图。
如果意图能被准确接住,结果也能返回,外部能力就可能更自然地进入人的思考。比如,我在思考中需要两个大数相乘,把请求和参数交给外部系统,自己继续想其他部分,结果回来再接着用,就像人也有了 tool call。这里的“写回来”可以是进入当前感知和思考,不必先等同于写入长期记忆。人的可用能力因而可能通过外部智能、计算和存储扩展,不必全部等待生物脑自身发生改变。
沿着人和外部智能的连接往下想,前面关于表达的问题也可以问到 AI 这边:如果人的意思未必必须逐字展开,接收这些表达的 AI,其内部推理是否也必须按语言输出的节奏推进?我想探索它能否更多地在连续表征或潜在空间中迭代,直接围绕内部表示中的概念、关系和状态继续推演。这也是我探索新模型架构时关心的问题。人的表达方式与机器的信息处理方式都可以改变,两边之间怎样映射,就有了新的研究空间。
这又接回最初的循环:AI 帮助研究脑机接口,接口带来的观测可能推进脑科学,脑科学再启发 AI 的架构与计算方式。在需要人参与的任务中,更好的连接也可能改善人机研究协作。AI 不必始终等着人,但人使用外部智能的能力,同样值得向前推进。
如果这些变化逐步成立,人怎样学习、思考、创作和协作,都会有重新组织的空间。一个能够学习新表达、训练内部能力、随时调用外部智能的人,可用能力可能已经与今天很不一样。个人能力变了,沟通和协作的条件变了,原有的分工与组织方式也可能随之调整,进一步影响生产关系和社会形态。技术不会自动指定唯一的社会结果,但也不能默认技术条件深刻改变以后,社会组织仍然原样不动。
这就是我看好脑机接口的原因,也是它在我的思考中占据重要位置的原因。它把机器能力的增长,与人的能力和生活方式联系了起来。对我来说,参与这样的方向,可以先从基础项目和具体问题开始,沿途做出有用的产品,把成果商业化,再用收入、技术积累和实际反馈支撑下一步。
我想保留的始终是这份工程信念:从物理规律出发,在真实路径存在、充分条件能够满足的前提下,相信目标最终能够实现,并把创造这些条件当成真正要做的工作。未来值得追求的事情,可以远远超出今天能够完成的范围;我们现在的工作,也可以成为通向那里的一部分。
本文从我的头脑风暴与后续讨论中整理而成,AI 协助梳理结构、起草和润色文字。
讨论。