新智元报道


(资料图片)

编辑:Aeneas 拉燕

【新智元导读】近日,一名外国小哥测出,GPT-4语言能力智商已达152,吊打绝大多数人类。好在,它的空间推理还不行。

GPT-4在语言能力上的智商,已经吊打人类!

最近,国外的一位小哥测试了GPT-4的智商,结果显示,它的语言智商已经达到了152。

而根据调查,人类的平均智商是90-109,单论语言智商的话,人类是妥妥地被GPT-4吊打了……

GPT-4的能力,我们此前早已耳熟能详。3月底,微软的一篇154页的论文,震惊全世界。

在这篇论文中,微软表示,GPT-4已经显现出了通用人工智能的火花,它可以被认为是通用人工智能的一个早期版本。

论文地址:https://arxiv.org/pdf/2303.12712.pdf

通过测试,微软的研究者证实:GPT-4不仅精通语言,还能在数学、编程、视觉、医学、法律、心理学等多样化和高难度的任务中表现出色,且无需特别提示。

最可怕的是,在所有这些任务中,GPT-4的表现都接近了人类水平,并且时常超过之前的模型。

下面,我们就来看看GPT-4在各方面能力上,哪些能吊打人类,哪些暂时还无法赶超我们。

为GPT-4量身打造IQ测试

首先,这位小哥上网搜索了一下免费的智商测试。

但他发现一个棘手的问题:这些智商测试,很多都是以图像的形式。

然而GPT-4,目前可以被认为还是一个「瞎子」+「聋子」,并没有读图能力。

怎么办呢?这位小哥随后意识到,肯定有专门为视力缺陷的人设计的智商测试。

他动手试了试,果然搜到了。然而,这种测试非常昂贵,需要花1500多刀,没法白嫖。

自己动手,丰衣足食。这位小哥干脆一不做二不休,自己上手,为GPT-4量身打造了一版智商测试。

难得倒陶哲轩,难不倒GPT-4

首先要测试的,是GPT-4的数学能力。

全世界最流行、最顶尖的数学测试是什么?自然就是国际奥数比赛。

世界上最伟大的数学家之一陶哲轩,就是在1986年参加的国际奥数比赛。

那一年,试题中的第6题,连他也解不出。

那GPT-4可以么?

小哥把这道题输给了GPT-4,结果是——它解出来了。

但是,我们并不能说,它就胜过了世界上最厉害的成年人数学家。

另外,它也无法证明孪生素数猜想。(要是能证明就有鬼了)

小哥让GPT-4绘制一个方程式的坐标,也遭到了GPT-4的拒绝。

非常礼貌地恳求它,结果还是被婉拒了。

所以,GPT-4的极限到底在哪里呢?

这位小哥只能去查阅公开的文献。在OpenAI的官方论文中,GPT-4在SAT的数学考试中得分高于91%的人类,在其其他数学类考试中表现也很优异。

不善沟通的语言天才

接下来,小哥想测试一下GPT-4在人际关系智能(Interpersonal Intelligence),以及内省智能(Intrapersonal Intelligence)方面表现如何。

严谨的小哥先上网查了一下,何为人际关系智能——善于处理人际关系的人,他们能更好地理解他人,并和别人进行互动。这类人擅长评估情绪、动机、欲望,以及周围人的意图。

然后,他找了一篇SAT考试中的文章,将文章内容复制下来,把所有的和人物动机有关的问题也一股脑甩给了GPT-4。

GPT-4表现还算....出色?四个题对了三个。

然而,GPT-4却没有任何分析情绪的能力。

因为,按它自己的原话,它只是一个AI模型,并没有「自我」的概念。

那GPT-4的内省智能如何呢?

小哥表示,一个内省智能高的人,对自身优缺点有清醒的认知。

把这个当作prompt输入GPT-4,发现这模型对自己定位还是挺清晰的。

比方说,优点里有广泛的知识储备、反应迅速、多语能力、模式识别能力,以及可扩展性强等等。

而缺点包括缺乏个人经验、缺乏某些领域的知识、不太能理解上下文、文学解读、道德评判等等。

但小哥表示,这种认识程度还远远不够。总的来说,GPT-4的人际关系智能和内省智能,都一般。

小哥还给GPT-4测了一下口头语言的IQ测试,它得了152分。

对人类来说,这个分数意味着——你是个天才。

空间推理 小试牛刀

而转到空间能力这一块,GPT-4的表现就不容乐观了。

本来,小哥想让GPT-4直接做一套空间推理的选择题。

但是,OpenAI未来才会慢慢开发GPT-4的识图功能。

在OpenAI发布的视频中,研究人员上传了这么一张图片,然后问GPT-4,如果把绳子剪短会怎么样。

GPT-4表示,那气球就会飞走了!

小哥和GPT-4下了把井字棋,通过文字输入控制走棋。

但GPT-4在深谙规则的情况下,耍赖了。

本来该小哥赢,让GPT-4帮自己在最下面一排的中间画一个圈三连。

GPT-4可倒好,直接把最上面一排的圈擦了,画了个自己的叉。作弊取胜。

ChatGPT:魔方?我不会啊

为了进一步测试GPT-4的空间理解能力,小哥祭出了大杀器——魔方。

要知道,对人类来说,魔方也是衡量一个人空间感的方法之一。

首先,因为GPT-4不能看图,所以要先想办法用文字描述魔方的状态。

熟悉魔方的朋友对下面这个图应该不会陌生。在公式中,我们常常会用若干字母,或字母加一个撇号来代表不同的操作。

一般魔方正对我们,不同的旋转对应不同的表达。就像下面这样。

小哥在视频中做了一个示范,确保GPT-4领会了这个意思。

然后,就要开始把GPT-4拉出来遛遛了!看看它到底会不会还原。

万事先从简单的开始。小哥第一步只是把魔方最上层向左拧了一下,看看GPT-4会不会还原。

这点难度还是难不倒GPT-4。小哥输入U这个操作(最上层向左拧),GPT-4也是很快给出了U’(U的反向操作)这个答案。

紧接着是UR,意思就是最上层左拧一次,最右边上拧一次。

GPT-4也很快给出了反向操作——R’U’。

接着就要上难度了!小哥开始彻底打乱魔方,总共十多步。

令人惊讶的是,GPT-4居然真的生成出结果了!

然而小哥定睛一看,GPT-4生成的复原方法,就是把所有打乱的步骤反过来来一遍。

看完直呼无语,这要你何用。

于是小哥发现这样做就是会出现这个问题。因为你输入打乱的方式,GPT-4必然在复原的时候反向操作。

问题的关键,就是不能让GPT-4知道这是怎么打乱的。

小哥很聪明,问了一下GPT-4,如果是你,你会怎么描述魔方的状态?

GPT-4采取了下图这样的方式:用不同的字母代替不同的颜色,把每一个面的颜色情况全部用字母表达出来。

这样就避免了打乱步骤这一个part。

这次经过尝试,只有第一次的小试牛刀成功了,也就是只打乱一次的结果。

GPT-4处理起简单问题真是毫不手软,可惜一复杂就趴窝了。

最后还生成出了下图这个结果——

小哥表示,这现实的魔方根本拧不成这样啊,GPT-4你在干什么??

这个结果直接给GPT-4玩儿魔方的能力宣判了死刑。

除了倒推复原,GPT-4根本玩不转魔方。

两任总统的RAP对决,泰裤辣

最后,这位小哥还测了一波GPT-4的音乐能力。

咱们都知道,GPT-4会写诗。

既然如此,小哥就让GPT-4以Minecraft服务器中的特朗普和拜登的说唱大战为主题,写出rap词和旋律,还要make a beat。

小哥发现,最好的方式就是用ABC notation,因为GPT-4写不出五线谱。

所以,小哥让GPT-4用ABC notation写一个Boom bap beat,然后把这个beat输入到一个音乐网站里。

GPT-4写出的beat是这样的——

听起来没啥惊喜。

推荐内容