443|AI研究是否需要一个“洪堡时刻”?

你好,这里是《邵恒头条》,我是邵恒。

这段时间,很多人都关注了云南野象迁徙的新闻:15头亚洲象,原本栖息在西双版纳保护区,但是从至少半年前起,它们就开始一路向北跋涉,穿过田地、公路、村庄、城镇。在过去一个多月里,它们多次进入人的居住区“肇事”,偷吃庄稼、闯进村民的院子里找食物,到汽车店里喝水,甚至还发生了醉酒事件。

这群野象到底在干啥呢?它们为什么要迁徙呢?我相信,任何人在关注这群野象动态的时候,都忍不住想要问这些问题。

我当然也对这些问题感到好奇。但是,除了好奇野象的动机之外,我在关注这条新闻的时候还在思考另外一件事,那就是:有一天,我们会不会像今天观察象群这样,去观察另一类我们无法完全理解的物种——人工智能系统呢?

我之所以思考这件事,是因为我最近看到了我的一位大学同学写的一篇文章,标题叫《一个18世纪的探险家如何能帮我们理解日益掌控世界的算法》。我这位同学叫扎卡莫•伯格瑞拉(Giacomo Bagarella)。他从哈佛大学政治系毕业后,继续在公共政策领域深造,后来加入了美国马塞诸塞省的创新和科技办公室。

他的文章讨论了一个很有意思的问题:智能系统越来越强大,它们跟人类社会的互动也越来越复杂。我们是否需要一个专门的学科,来研究机器的行为规律?这个学科,是否应该参考科学家研究动物和生态系统的框架?

在今天的《邵恒头条》中,我想结合伯格瑞拉的文章。

这篇文章发布在国外一个科技博客Gizmodo上。文章的主要逻辑可以拆分成以下三层:

第一,在18世纪,人对大自然的理解曾经经历过一个“觉醒时刻”,在那一刻,人第一次把自然当作一个“万物互联”的系统来看待,而不是一个个被割裂的类别。

第二,对于算法和智能系统,我们也需要一个类似的理解框架,因为我们已经进入了算法的“寒武纪大爆发”。

第三,一个新的、力图用系统思维研究机器行为的学科已经初现端倪了。

接下来,我把这三层逻辑一一掰开,跟你分享一下背后的具体观点。

先说第一层逻辑:18世纪的觉醒时刻。这说的是著名的地理学家亚历山大•洪堡的故事。

洪堡在科学史上的地位,从一个小细节你就可以感受出来,那就是达尔文曾经说,他写出《物种起源》是受到了洪堡的启发。

那洪堡做过什么什么样的事情这么厉害呢?他生命中最重要的一次经历:他曾经用了整整5年时间对南美洲来了一次彻底的考察。他从西班牙出发,先是探索了亚马孙水域的两条河流和热带雨林,接着又穿越了纵贯南美洲大陆的安第斯山脉,足迹遍布委内瑞拉、秘鲁、厄瓜多尔、墨西哥等地。

有一次,他在南美洲厄瓜多尔中部的钦博拉索火山上攀登。每隔几十米,他就要拿出他的设备进行测量,记录地面的温度、气压,收集空气的样本,衡量湿度,测试水的沸点等等。与此同时,他还要观察他周围植被的样子。

就在他做这些事情的时候,某一刻,他突然灵光一现:他发现,自己在探险期间,各个地方看到的植被似乎有颇多相似之处。比如说,他在厄瓜多尔看到的一种苔藓,在德国的一个森林里似乎也出现过。他在委内瑞拉看到的一种高山树,此前他在瑞士的阿尔卑斯山上也看到过。他在墨西哥看到的松木、橡树、柏树,他在加拿大也看到过。

就在那一刻,他产生了一个洞察,而这个洞察将会在未来改变人们对“自然”的看法。这个洞察就是“大自然”是一个“活着的整体”,是一张生命的大网;各类生命和物质,并不是彼此独立存在的。相反,在各种各样的物质和生命之间,存在着相互的作用力。整个大自然的运转,也是由某种全球共通的模式和规律支配的。

后来洪堡把他的洞察绘制成了一张图,被称为“自然之画”。在这张图上,你可以看到南美洲有11个不同的植被带,每个植被带如何受到海拔、温度等等因素影响,以及和全球其他地区的山脉有什么相似之处。咱们今天在地理课上学到的植被带、气候带、等温线、等压线的概念,追根溯源,其实就来自于洪堡绘制的这张图。

这个理念在咱们今天听起来一点都不新鲜,但是在当时却是一个颠覆性的认知。在洪堡之前,博物学家执着于发现各种各样的新物种,然后给不同的物种进行分门别类。但是,那时候没有人对于大自然的运转有整体的认识,更别提发现背后的规律、作用力了。

而洪堡可以说是第一个理解“万物互联”这个概念的人。他发现,无论是动物、植物,还是地理条件、气候,都不是彼此割裂的,而是互相影响的。

好,洪堡的故事说完了。洪堡对自然的理解,和人工智能有什么关系呢?

伯格瑞拉认为,在人工智能领域,我们也需要一个“洪堡时刻”。为什么这么说?

你可能也感受得到,我们已经进入了一个AI系统几乎无所不在的时代。一个人从一睁眼开始,就生活在一个AI构造的世界里。你手机上刷的新闻,吃饭时候点的外卖,出行时候叫的车、走的路线,在交友软件上约的会,等等这一切,都有AI算法的参与。甚至在一些极小的事情上,比如你能不能免费借到一个充电宝,能不能在办公室的零食货柜里刷脸买东西,也都是由AI系统决定的。在全球应用比较普遍的34万种AI相关的发明当中,超过一半都是在2013-2019年这6年之间被研发出来的。

伯格瑞拉把这种状态,称为AI算法的“寒武纪大爆发”。

大爆发不仅意味着我们越来越依赖AI系统,还意味着,人类社会跟AI系统的互动越来越复杂,甚至不可预测。

有一个特别典型的例子是2006年,脸书发明了NewsFeed,也就是“新鲜事”功能。在这个功能发布之前,脸书用户需要挨个点击好友的账户去查看好友的动态。但是新鲜事给用户提供了一个全新的浏览界面,界面上有好友状态的实时更新、重要的新闻推送,以及好友最近看了什么等等。算法还会根据每个用户的浏览习惯,对新鲜事进行优化。

当初脸书做这个功能,只是觉得这样的浏览方式更高效。而后来他们把这个功能延续下去,也只是因为发现自从有了这个功能,用户的浏览量激增。

但是,我们都知道,新鲜事这个功能可不仅仅是影响了浏览量而已。有一种观点认为,新鲜事的算法彻底改变了人和互联网互动的模式,从主动选择自己想看的东西、主动选择自己要加入的社区,到被动接受信息的轰炸。由算法主导人的信息摄入,就是从那一刻开始的。甚至有观点认为,新鲜事的发展史,就是“信息茧房”的建造史。

从这个例子里我们能感受到一件事,就是算法和整个社会的互动,往往比算法的发明者想象得复杂得多、广泛得多。这就给AI研究提出了新要求。

什么样的新要求呢?伯格瑞拉在文章里介绍了一篇论文:2019年4月24号,《自然》期刊上发表了一篇文章叫《机器行为》。这篇文章有23个来自于不同领域的科学家,第一作者是当时在美国麻省理工学院媒体实验室的副教授,叫Iyad Rahwan。

这篇文章提出了一个观点:我们应该借用生物学的系统思维,来研究AI系统。

传统来说,做AI研究的,主要是计算机科学家们。他们倾向于把AI看成是,有特定功能和目的的工具。比如,有些AI系统是人脸识别的工具,有些是用来做自动驾驶的,有些是用来做数据挖掘的。

因为这种工具化的视角,所以计算机科学家在评估AI系统“好不好”的时候,主要关心的维度,是AI能不能完成它在创造之初被构想的功能。比如,对于人脸识别的AI工具,计算机科学家主要会评估,它能不能准确地辨别物体;对于自动驾驶的工具,科学家会评估它在各类天气条件下表现怎么样;对于数据挖掘的工具,科学家会评估它能不能精准地识别广告商想要定向吸引的客户,等等。

这种评估模式,在AI系统还不普遍、不复杂的时候没什么问题。但是,前面我们已经说了,AI对社会的影响,往往超出了发明者的初衷。我们不能只盯着AI诞生时的目的,来评估它对社会的影响。

那么,我们有没有可能用一种洪堡式的整体视角来研究算法呢?

这篇论文建议,科学家可以模仿研究动物行为的思路来研究机器或者说算法的行为。这种研究不仅涉及研究算法的功能,还涉及研究算法的发展和进化,研究它是如何跟环境互相影响的。这就像研究动物一样——科学家不仅关心动物内在的生理结构,还关心那些影响动物行为的外在因素,比如动物所处的生态系统,以及生物进化的普遍规律。

举个例子来说,生物学里,遗传学是一个很重要的课题。而在算法领域,“遗传”也是一个普遍的现象。这种遗传可能体现在,某一种处理器的设计,会对算法进行“优胜劣汰”,甚至影响算法的整体设计思路。遗传还体现在,一些好的“算法基因”,可能会通过开源系统迅速传播、复制,从而决定某一个领域的技术路线,甚至决定这个领域偏好的数据类型。这些现象都值得科学家更深入、用更长的时间框架来进行研究。

除了这个话题之外,论文里还列举了一些有趣的方向,比如算法的集体行为是什么样的?不同类型的算法之间如何互动、是否会产生意想不到的功能?算法和政治环境是如何互相影响的?算法的传播规律是什么?算法在学校和医院的应用,是否会改变人类发展的轨迹?等等。

这些问题都指向一个研究思路:把算法和社会的互动看作一种整体来理解。在这个整体当中,很有可能存在着算法发展遵循的独特的逻辑和规律,就像大自然有它运行的规律一样。

好了,扎卡莫•伯格瑞拉的文章,我就给你介绍到这了。这篇文章给我们提出了一个很有意思的问题,那就是AI研究是否需要一个“洪堡时刻”?显然,AI不是一套简单的工具,而是一个能和人类社会产生复杂互动的“慢变量”。我们可能需要一种更高的视角、一个更加系统化的框架来理解这个慢变量的影响。

结束之前,我还要宣布一件事:这周将会是《邵恒头条》第二季节目为你服务的最后一周。从下周一开始,《邵恒头条》节目将会改版升级,成为《得到头条》节目。我的一位同事将会接过我的棒,继续为你提供高质量的知识服务。

接下来,我和我的团队将会去探索一个全新的方向。这个新方向是我思考了很久、相信对于每一个人来说都有价值的知识服务。在这个新方向上,我希望能走到你们每个人的面前,跟你们建立紧密的、真实的关系,也希望带你认识一个不一样的邵恒。

当然,具体的项目形态,我还需要你帮我一起出出主意,因为我特别希望接下来的项目,是咱们一起合作、共同创造出来的成果。这周五,我来跟你聊聊下一步的方向。

你肯定也会好奇,接棒《得到头条》的同事是谁呢?这段时间,经过非常认真慎重的考虑,我终于锁定了心目中的接班人。在过去几年中,Ta一直在得到做知识服务,在得到的内容创作者中,ta一直以“高产高质量”著称。Ta非常擅长运用经济学思维,从纷繁复杂的信息中抽丝剥茧、寻找答案;而且,Ta对这一代中国人关心的议题怀有极大的热忱和好奇。

具体是谁,我先卖个关子,请你按捺住好奇心。本周五,我将会在节目里隆重为你引荐升级版产品《得到头条》的主理人。

好了,这就是今天的《邵恒头条》,我是邵恒,我们明天见。

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top