近日,一个名叫生命未来研究所的网站发布了一篇名为《暂停大型人工智能研究》的公开联名信,在公开信开头我们看到,“我们呼吁所有AI实验室暂时停止AI训练比GPT-4还强大的AI,至少6个月。”截至记者发稿,该公开信已经收到了1126个签名,其中不乏像马斯克和苹果联合创始人Steve Wozniak这样的名人。

接着,公开信阐述了研究所的立场:

最近这几个月,全球的AI实验室已经完全失控了,它们疯狂地开展AI竞赛,来开发和部署更强大的AI,而没有任何人可以理解、预测、控制这些AI,连它们的创造者都不能。


(资料图片)

人工智能系统对社会和人类构成较大的风险。尽管最近几个月人工智能实验室掀起AI狂潮,开发和部署越来越强大的数字大脑,但目前没有人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。

简单说,就是得到顶级AI实验室的认可、具有人类竞争智能的AI系统,可能对社会和人类构成深远的风险。

在科技界被广泛认可的AsilomarAI原则提到,高级人工智能可能代表着地球上生命历史的深刻变革,应该以相应的谨慎和资源进行规划和管理。

前两天,马云探访云谷学校时曾提出,ChatGPT这一类技术已经对教育带来挑战,但是ChatGPT这一类技术只是AI时代的开始。我们要用人工智能去解决问题,而不是被人工智能所控制,虽然人的体力、脑力比不过机器,但机器只有“芯”,而人有“心”。

他说,工业时代是知识驱动,知识的竞争;数字时代,是智慧驱动,是创造力和想象力的竞争,是领导力、担当力、责任的竞争,是独立思考的竞争。

以前我们只能在电影当中看到各种各样似乎属于未来的人工智能,但是现在,它就在我们眼前,以目前的发展速度下去,AI将拥有怎么样的能力,我们不得而知,所以我们也许真的得像公开信中说的那样对它充满畏惧,提高警惕。

半个月前,GPT-4在科技界产生了如此大的影响,那么肯定会有人问:会有GPT-5,6甚至7吗?其实早就有团队预测,OpenAI团队将在2023年9月或10月推出一个过渡版本GPT-4.5,它将能处理更复杂的文本,提高连贯性,给用户更准确的回答。经过亿万级训练之后的GPT,只会比以往更强大,更智能,更专业。

在公开信的最后作者提到:人类可以享受AI带来的繁荣未来。在成功创建了强大的AI系统后,我们可以享受“AI之夏”收获回报,设计上述系统,以造福所有人,给全人类一个适应的机会。现在,我们的社会已经暂停其他可能造成灾难性影响的技术。对于AI,我们也该如此。让我们享受一个漫长的AI夏天,而不是毫无准备地进入秋天。

那么,这些AI团队,包括OpenAI,会“听”公开信的建议吗?

推荐内容