四年后,2016年6月15号。
今夜,全世界的科技圈注定是个不眠之夜。
特别是漂亮国,特别是硅谷。
这座被世界公认了半个世纪的科技圣地,此刻却陷入了一种诡异的安静。
硅谷的夜色还没有完全沉下去。
帕罗奥图的咖啡馆还亮着灯,山景城写字楼的灯光亮了又熄,熄了又亮,门洛帕克的工程师们本该早已回家——妻子睡着了,孩子睡着了,车停在车道上,一切都该停下来了。
可今晚,没人睡得着。
一篇刚刚上传到arxiv的论文,像一颗陨石,从太平洋彼岸砸了过过来。
标题很简单:《attentionisallyouneed》。
它提出了一种全新的神经网络架构——transformer。
是的,那篇注定载入人类科学史册的论文,横空出世了。
山景城,google总部的玻璃幕墙还亮着几层灯。
远处的us-101像一条发光的河,车灯连成细细的线,向着黑暗深处延伸,没有尽头。
googlebrain的会议室里坐满了人。
白板写满了公式,有人站着,有人坐着,有人盯着那二十几页打印纸一动不动。
“只用注意力机制……?”
“等等。”
“他们把循环结构全删了?”
“如果这东西能扩展——”
“序列建模这整套体系都会被改写。”
“……”
说着说着,会议室就陷入了可怕的沉默。
沉默,是今晚的googlebrain。
是今晚的deepmind。
是今晚的facebookai。
以及尚在襁褓之中的openai。
三年前,潮汐计算发布了tensorflow。
那一刻,很多人以为人工智能的基础设施已经被重新定义。
甚至有人说,新的ai时代已经开始。
但这一夜,坐在这间会议室里的每一个人,都隐隐感觉到同一件事。
那只是序章。
真正的改变,现在才刚刚开始。
而最让人沉默的,是论文的作者信息。
不是斯坦福。
不是麻省理工。
甚至不是google。
而是——
zhouyuetal.tidalcomputationresearchinstitute·beijing,china.
会议室里有人轻轻叹了口气。
有人把论文翻回第一页。
窗外,us-101的车灯流向黑暗。
硅谷依旧沉睡。
可很多人都隐隐感觉到。
请关闭浏览器阅读模式后查看本章节,否则将出现无法翻页或章节内容丢失等现象。