直播资讯

吴恩达LeCun直播激辩:GPT-5不能停

2023-04-10 12:51:31

吴恩达LeCun直播激辩:GPT-5不能停 

此前暂停比GPT-4强大的AI试验的呼吁,已得到深度学习三巨头中的Yoshua Bengio签名支持,Hinton未签名但表示“要比6个月更长才行”。

此次吴恩达与LeCun两人, 除了直播阐述各自的观点外,还回应了网友关心的更多问题。

AGI逃出实验室,需要担心吗? LeCun认为,现在人们对AI的担忧和恐惧应分为两类: 1. 与未来有关的,AI不受控制、逃离实验室,甚至统治人类的猜测。 2. 与现实有关的,AI在公平、偏见上的缺陷和对社会经济的冲击。 对第一类,他认为未来AI不太可能还是ChatGPT式的语言模型,无法对不存在的事物做安全规范。

LeCun认为,“AI逃跑”或者“AI统治人类”这种末日论还让人们对AI产生了不切实际的期待。 ChatGPT给人带来这种想法是因为它语言流利,但语言并不是智能的全部。 语言模型对现实世界的理解非常表面,尽管GPT-4是多模态的,但仍然没有任何对现实的“经验”,这就是为什么它还是会一本正经地胡说八道。 而且这个问题,4年前LeCun已经在《科学美国人》上与冷泉港实验室神经科学家Anthony Zador一起撰文回应过了,标题就叫《不必害怕终结者》。

对于影响力越来越大的AI暂停6个月提案,也有越来越多的人表达自己的观点。

比尔·盖茨对路透社表示“我不认为让一个特定的组织暂停就会解决这些问题。在一个全球性的行业中,暂停很难执行”。

据福布斯报道,谷歌前CEO埃里克施密特认为“监管部门大多数人对科技的理解还不足以正确规范其发展。另外如果在美国暂停6个月,只会让别的国家受益。”

与此同时,AI研究界另一股声音的影响力也逐渐加大。

由非赢利组织LAION-AI(Stable Diffusion训练数据提供者)发起的请愿书也有超过1400人签署。

这个项目呼吁建设公众资助的国际化超级AI基础设施,配备10万最先进的AI加速芯片,确保创新和安全。