融易新媒体
快捷导航 融易新媒体
主页 > 科技 > IT业界 >

专访阶跃星辰姜大昕:Scaling Law是通往AGI的必要非充分条件(5)

时间:2024-05-05 23:39:43来源:界面新闻

现在所谓大脑神经网络和真正的神经网络之间,我觉得是一种很牵强附会的类比——把它的构造想象成神经元、树突、轴突这些东西,但人脑可能完全不是这么工作的。

但最近有一些有趣的发现,冥冥之中好像人脑的一些规律在我们最新的大模型设计当中得到了体现。比如人的智能来自大脑皮层,是一个简单结构的不断重复,正好对应了Transformer架构的某种特征。还有就是,它认为人的智能来自对世界的建模,叫作 reference framework,这个和我们现在把大量知识输入、压缩、对世界建模从而产生智能的工作,好像从逻辑上也对应了。

但从生理上看,人的神经元产生生物放电、化学递质这个过程到底是什么样的?我们现在训练一个初中生水平的智能,就要消耗这么多能源,人的大脑就两三斤,消耗能量也就这么一点,它是怎么做到的?这里面还蕴藏很多大自然的奥秘,实际上是可以帮你反哺。

你要么就是学习它,要么从它那里得到灵感去改进大模型,甚至说不定在某个时刻,机器人聪明到一定程度,会去看明白之后告诉你,或者默默地就把自己给修改了,那我就觉得很恐怖了(笑)。

界面新闻:你之前提到过“上一代搜索到头了”。那你对这个时代的搜索有什么初步定义吗?或者说它未来可能的形态是什么样,会取代谁?

姜大昕:是个很好的问题,我觉得它是分阶段不断往前演进的。

首先,它会让用户的搜索体验更好。上一代搜索引擎逼用户养成了一个习惯,就是只能拿关键字提问,因为假如问一个自然语言,用户笃定搜索引擎不懂。但是大模型出现以后,不仅可以让这件事自然语言化,还可以多轮(对话)。

大模型会先帮你把前几十个文档和网页全看了,然后总结一套信息给你,还能提供出处,从结果呈现上也比原来好很多,从单纯的信息检索变成了知识获取。所以(大模型时代的)搜索第一个阶段是,解决了用户提问的困难和看谜底的效率。 

搜索本身其实不是一个端到端的任务,大多人搜索是为了完成一个工作或者任务。所以搜索将来怎么能够把外部搜索、本地搜索,还有工作环境的知识整合在一起,嵌入到一个端对端的工作流里面,我觉得可能是未来搜索的一个方向。

界面新闻:如果不考虑Google自己会进化这件事,现在的通用大模型其实都是要取代曾经的Google? 

姜大昕:在取代这件事情上,我觉得推演起来非常有意思。

很多人在思考,大模型出来以后,搜索引擎公司会产生一个什么样的变化?包括我们跃问在内的很多AI产品都是个聚合搜索,它是在现有搜索引擎的基础上,把Top 10或者Top 20的结果做了一个网页整合。 

所以我觉得Google等搜索引擎公司会长期存在。就你从一个Query(疑问)进来,到我从1万亿个网页当中,把Top 20的结果反馈给你,这件事情永远要存在。

至于是哪家公司我不知道,但这件事情不会消失,因为大模型没有能力在很短的时间内把1万亿网页全部看一遍,它只能做到把你给我的20个网页看一遍。

从商业模式来说,对于搜索引擎公司就非常tricky(棘手)——这种情况我是跟还是不跟?跟了,可能会损失广告收入,要不跟就得看着用户往别人那走。

所以它的一个解决方法可能是,在跟的同时秀广告,它有一段路要去探索这种商业模式是不是成立:你付费了我可以不给你广告,你不付费,对不起,你就得看广告。


近期热点

高端手机完整回归效果显著,华为一季度净利大增5倍 05-05

专访阶跃星辰姜大昕:Scaling Law是通往AGI的必要非充分条件 05-05

中国移动发布国内领先的大云磐石DPU芯片,速率达400Gbps 05-05

通义千问开源千亿级参数模型 05-05

中国移动建成全球运营商最大单体智算中心 05-05

热门文章
热点 热点追踪 网站首页 热点 观点