是是是，懂哥您好。

因为谷歌没有到处宣传遥遥领先吧

[图片]

对不懂的东西有最起码的敬畏之心，你这是我不懂我还有理？

额。。。但终究谷歌只是提供了这些基础研究，而不是把 ChatGPT 做出来了。。。这就好像人家说文艺复兴是意大利先出现的，你却说没有印刷术造纸术这俩技术意大利没法文艺复兴，所以中国牛逼一样。。。

对不懂的东西有最起码的敬畏之心，你这是我不懂我还有理？

额。。。但终究谷歌只是提供了这些基础研究，而不是把 ChatGPT 做出来了。。。这就好像人家说文艺复兴是意大利先出现的，你却说没有印刷术造纸术这俩技术意大利没法文艺复兴，所以中国牛逼一样。。。

谷歌提出了transformer不假，但目前生成式ai用的decoder only架构是openai提出并发展起来的，谷歌目前在生成世ai方面没什么建树，闭源的gpt、claude，开源的llama、千问等都吊打谷歌

搞笑呢 类似于从0到1 的transformer 和把decoder 单独拿出来根本不是一个量级的研究

那没有，我可戴不上这帽子。我对未知的还是很敬畏的，单纯对你不敬而已。

[图片]

字都看不明白还喜欢追着回。你去换个人上课吧，我没兴趣听你讲。不送。

谷歌这个公司挺有意思，每年全世界断档第一的科研费用，愣是没见到做出啥有用的发明来

？当下最火的生成式AI就是谷歌搞出来的

？当下最火的生成式AI就是谷歌搞出来的

不是隔行如隔山，只是这地方三低用户比例力大的惊人而已。这些人基本没有什么对科学和客观规律的敬畏之心，你跟这些人讨论点什么事儿，他们除了谈立场就没有别的本事了。殊不知，逢外必舔和逢外必贬的两拨人，本质上却都是一类人

Transformer模型是由谷歌的八位研究人员提出的，他们分别是Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez、Lukasz Kaiser和Illia Polosukhin。他们于2017年在论文《Attention Is All You Need》中首次提出了这一架构。

Transformer模型的核心思想是利用“自注意力（Self-Attention）”机制来捕捉输入数据中的内在关系，而无需依赖传统的循环神经网络（RNN）或卷积神经网络（CNN）结构。这种机制使得模型能够同时处理输入序列中的所有元素，并捕捉它们之间的复杂关系。

这八位研究人员最初的想法是改进谷歌的机器翻译技术。他们希望通过让机器通读整个句子，分析其所有部分，而不是单个单词逐个翻译，从而获得更好的上下文理解。这一想法经过讨论和碰撞后，最终形成了“Transformer”架构的概念起点——“自我注意力（self-attention）”。

论文《Attention Is All You Need》于2017年12月发表，标志着人工智能领域的一个重要转折点。这篇论文不仅推动了自然语言处理技术的发展，也为后续的研究者和开发者提供了新的工具和思路，极大地扩展了人工智能的应用范围。

如今，Transformer模型不仅嵌入在谷歌搜索和谷歌翻译中，还驱动着几乎所有大型语言模型（LLMs），如ChatGPT和Bard。此外，它还被应用于图像生成、代码生成等领域。

OpenAI 是 gpt-3 的工程实现，这儿可能提的是 attention is all you need

btw, BERT 也是 google 提出来的。

这些 encoder & decoder 各种架构在学术上可以说是非常领先的，而且直接咣咣砸论文，确实牛逼。