充分说明隔行如隔山，跨行业之后普通人根本区分不了一个公司是吹牛逼还是真牛逼。谷歌做过非常多开拓式的成果，不少成为了行业基石。在这个角度上国内几家加起来都比不过。

不是隔行如隔山，只是这地方三低用户比例力大的惊人而已。这些人基本没有什么对科学和客观规律的敬畏之心，你跟这些人讨论点什么事儿，他们除了谈立场就没有别的本事了。殊不知，逢外必舔和逢外必贬的两拨人，本质上却都是一类人

赢了？

谷歌这个公司挺有意思，每年全世界断档第一的科研费用，愣是没见到做出啥有用的发明来

印象中谷歌弄ai好多年了都，但声音不大啊，这两年风头倒都被openai出了。

[图片]

你说的这些好多是收购的

谷歌搞出来transformer跟他现在落伍了有冲突吗？原版encoder-decoder架构适用于翻译，后来纯encoder的bert用于理解，再往后谷歌一直不舍得放弃encoder导致了现在的尴尬局面。

经典我不知道就是没有，我即世界

谷歌这个公司挺有意思，每年全世界断档第一的科研费用，愣是没见到做出啥有用的发明来

主要还是把他墙了，宣不宣传都一样

因为谷歌没有到处宣传遥遥领先吧

[图片]

我说的是这两年

Transformer模型是由谷歌的八位研究人员提出的，他们分别是Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez、Lukasz Kaiser和Illia Polosukhin。他们于2017年在论文《Attention Is All You Need》中首次提出了这一架构。

Transformer模型的核心思想是利用“自注意力（Self-Attention）”机制来捕捉输入数据中的内在关系，而无需依赖传统的循环神经网络（RNN）或卷积神经网络（CNN）结构。这种机制使得模型能够同时处理输入序列中的所有元素，并捕捉它们之间的复杂关系。

这八位研究人员最初的想法是改进谷歌的机器翻译技术。他们希望通过让机器通读整个句子，分析其所有部分，而不是单个单词逐个翻译，从而获得更好的上下文理解。这一想法经过讨论和碰撞后，最终形成了“Transformer”架构的概念起点——“自我注意力（self-attention）”。

论文《Attention Is All You Need》于2017年12月发表，标志着人工智能领域的一个重要转折点。这篇论文不仅推动了自然语言处理技术的发展，也为后续的研究者和开发者提供了新的工具和思路，极大地扩展了人工智能的应用范围。

如今，Transformer模型不仅嵌入在谷歌搜索和谷歌翻译中，还驱动着几乎所有大型语言模型（LLMs），如ChatGPT和Bard。此外，它还被应用于图像生成、代码生成等领域。

OpenAI 是 gpt-3 的工程实现，这儿可能提的是 attention is all you need

btw, BERT 也是 google 提出来的。

这些 encoder & decoder 各种架构在学术上可以说是非常领先的，而且直接咣咣砸论文，确实牛逼。

谷歌搞出来transformer跟他现在落伍了有冲突吗？原版encoder-decoder架构适用于翻译，后来纯encoder的bert用于理解，再往后谷歌一直不舍得放弃encoder导致了现在的尴尬局面。

你之前的主要观点是open ai搞出来了decoder 不是这样的 虽然狗目前落后一点 但是开创性的工作 或者说里程碑式的工作和基础创新是transformer