为什么我们不该盲目崇拜ChatGPT?

你好,欢迎来到《得到精选》,我是李南南。今天咱们继续说AI。

你可能注意到了,整个四月份,我们得到陆续推出了一系列的AI学习课程,也从中看到了很多可能性。今天,这个系列课程的最后一门课,吴军老师的《前沿课·吴军讲GPT》,也上线了。

这门课有个特点,它不光给这个技术踩油门,让我们看到它厉害的一面。同时,吴军老师也在这门课里给这门技术踩了踩刹车,告诉我们它局限性的一面。

吴军老师有个非常重要的观点。他觉得,ChatGPT在某种程度上,被神化了,它的能力可能被夸大了。要知道,吴军老师可是约翰霍普金斯大学的计算机博士出身,早年在谷歌,还参与过语言模型搭建的工作。吴军老师这么说,一定有他的理由。

到底是怎么回事呢?

接下来,我们一起来听听他怎么说。

你好,我是吴军。欢迎来到《前沿课·吴军讲GPT》。很高兴有这个机会,和你聊一聊ChatGPT。

关于ChatGPT,你应该已经听到了很多讨论、看到了很多信息。可惜的是,绝大部分人在谈论ChatGPT时,甚至没有搞清楚最基本的概念。

ChatGPT是什么?我先下个判断:它是一个被神化的语言模型的衍生品。

1972年,当贾里尼克博士在IBM沃森实验室建立人类第一个语言模型,并且创造出这个专有名词时,一定不会想到这个概念今天会这么火。

二十年后,也就是1991年,我在清华大学开始从事语音识别工作,我和郭进博士最早构建了中文的语言模型,然后将这个名词翻译成了中文,“语言模型”这四个字便从此出现在中国的会议刊物上。同样,我们也不会想到,这个原本那么生僻的名词,今天成了中文媒体上的热门词。

1993年,贾里尼克成为了约翰霍普金斯大学语言与语音处理中心(CLSP)的主任,而我在1996年成为了他的学生,并且在他和库旦普的指导下,利用(美国)自然科学基金会(NSF)构建第二代语言模型。第二代模型比第一代复杂很多,但是效果好不少。

2010年,贾里尼克走完了他传奇的一生。这一年,Google的杰夫∙迪恩等人实现了第一个真正实用的深度学习系统——Google大脑,然后用它构建出第三代语言模型。这个模型比第二代更上了一层楼。

两年后,也就是2012年,我回到Google,启动了计算机问答的项目。到了2014年,我们已经能够利用语言模型回答一些很复杂的问题了,在后面的课程还会详细展开。

我梳理这段历史是想告诉你,今天,ChatGPT使用的语言模型采用了深度学习算法进行训练,但是这几十年发展下来,语言模型还是语言模型,不是什么其他的东西。

这就如同今天特斯拉的电动汽车还是汽车,虽然和本茨早期的汽车、福特的内燃机车、丰田的混合动力汽车不同,但它不是飞机。

2020年疫情期间,我在几次内部讲座中介绍未来科技时,特别强调要关注一个叫做GPT-3的语言模型。当时开发它的OpenAI还是一家小公司,因此听众并不对它感兴趣,所有人关心的都是大公司的动态,没有一个人事后向我提出任何有关语言模型的问题。

又过了两年,ChatGPT一夜爆红,大家才都开始谈论语言模型、GPT-3,以及后来的GPT-4。

媒体从来是扮演加速师的角色,在赞扬的同时贩卖恐惧。绝大部分赞誉是炒作,这并不可怕,因为20世纪技术的发展常常伴随着泡沫。但几乎所有的恐惧都是自己在吓唬自己,这才是可怕之处。我不知道如果贾里尼克能活过来,会如何评论这种现象。如果他想给大家降降温,大家是否会说他老糊涂了,跟不上发展了。

但是稍微了解一点宗教历史的人都会知道,只有神具有让人们既赞誉,又恐惧的特点。ChatGPT已经成为了一尊新的神。

看到很多人今天对ChatGPT的反应,让我想起了当年哥伦布的一则故事。

1503年,哥伦布的船队到达了牙买加,岛上的原住民对哥伦布他们表示欢迎,并为他们提供食品。但由于有水手盗窃了当地人的物品,几个月后,当地人不再为他们供应食品了。

哥伦布是一个对天文和地理颇为感兴趣的人,他航海时恰巧带了一本天文年鉴,里面记载了1475到1506年月食出现的时间。于是哥伦布就想到,可以借此扭转不利局势。

在一个将要发生月食的夜晚,哥伦布约见了当地的部落首领,告诉他,神对当地人不招待哥伦布和船员的事情愤怒了,神会使月亮“愤怒地发红”然后消失,以表达惩罚。

果然,当晚月亮变红了,然后逐渐消失。哥伦布的儿子斐迪南在航海日记这样写道:

“(土著人)从四面八方赶到船上,悲伤地哀嚎著,带着食品和各类供给,恳求他们向神尽可能地说情,不要将怒火发泄在他们头上……”

这时,哥伦布走进船舱去假装“祈祷”,其实是在用沙漏计时,当长达48分钟的月全食快结束时,他告诉惊魂未定的原住民,神即将原谅他们。不久后,月球开始走出地球阴影,露出了亮光。哥伦布对说,神已经宽恕了他们。此后原住民就把哥伦布当成了神的代理人,老老实实地给他的船队提供食物。

世界上各种自然神,都是人创造出来的,但是人从此匍匐于它们的脚下。而人这么做,是因为不知道各种自然现象背后的原因,简单地讲,就是不懂得科学原理。

今天,当ChatGPT这尊新的神被树立起来的时候,我不知道有多少人想成为哥伦布,又有多少人的行为和当年的土著人没有差别。如果想成为前者,就需要知道ChatGPT背后的科学原理,就如同需要掌握基本的天文地理知识一样。

很多人一听说了解科学原理就失去了耐心,希望我马上给出一个答案或者行动指南。但根据我对我这十几年来上百万读者的观察,凡是能够耐心听我讲讲道理的人都进步了,凡是懒得动脑筋,想很快得到一些结论或者行动指南的人,还在原地踏步。我相信得到的同学,一定都属于前者。

听完这门课,你会了解什么呢?

首先,这是一门让你成为哥伦布,而不是土著人的课程,它不长,也不难懂,里面没有任何公式,而是一个讲原理的课程。听完之后,你会知道ChatGPT以及类似的产品是怎么一回事,它们能做什么、不能做什么,这就如同哥伦布懂得月食的原理。听完这门课,你会像哥伦布一样,当看到别人在朝拜月亮时至少不会跟着起哄。

我在课程中所讲述的观点,不仅来自于我个人。我和Google、苹果和微软等公司负责人工智能项目的负责人,和MIT、斯坦福等大学这个领域的教授,以及年轻一代刚获得博士学位的机器学习从业者都进行了讨论。课程中给出的观点和结论包括他们的看法,只不过我以讲述人的方式给你讲出来。

其次,这不是一门讲商业机会的课程,指望着听完课就能从ChatGPT上挣一笔快钱的人,可能会失望了。但是,认真听完课的人,至少不会因为ChatGPT亏钱。人一辈子挣钱的机会很多,但关键是在机会到来时得有本钱,本钱输掉了,机会真的到来时就会倍感无力。

最后,我知道也会有人不同意我的看法。我的想法是,我们尽可以保留自己的观点,不必说服我,我也不会去说服谁,毕竟思想的多元化让世界变得美丽。

顺便说一句,既然是得到的课程,版权当然属于得到,因此不欢迎媒体断章取义地转载。

重要的事情交代完了,接下来,就让我们来了解ChatGPT。我是吴军,我们课程里见。

好,内容听完了。

其实,吴军老师开设这门课,无非是两个目的。一是找路,也就是帮我们看清ChatGPT中蕴含的机会,二是避坑,也就是人们对这个技术,最常产生哪些误解,我们又该怎么正确地理解这个技术。说白了,就是把握住这个机会的同时,不盲目崇拜,也不要焦虑恐惧。

现在你在得到APP首页搜索“吴军”两个字,就能看到这门课的入口,推荐你现在加入学习。

好,以上就是今天的内容。《得到精选》,明天见。

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top