“原理从 Bert 甚至从 lstm..没变过”这样说不对，bert 是判别模型，gpt 是生成模型，压根不是一个路子。BERT 属于走了岔路，跟当前的生成模型进步没啥关联。

真正一步一个脚印的基石是
AlexNet(2012 ，横空出世，证明了神经网络有用）
word2vec （ 2013 ，文字到向量，文字也能打上神经网络便车）
Attention 机制用于机器翻译（ 2014,发明 Attention 机制，简单有效，天才的创新）
Attention 用于文本蕴含（ 2016 ，加入全盘 Attention ，Transformer 的灵感源泉与雏形）
ResNet （ 2016 ，残差链接，支持深度网络）<---中国人在 LLM 发展浪潮中为数不多的原创性贡献--->
Attention is All you need (2016 ，抛弃 LSTM ，彻底采用纯 Attention(Transformer)，划时代工作）
GPT-1 （ 2018 使用 Transformer 做生成，小有成就）
GPT-2.5, GPT3.5, ChatGPT(接下来这些就是 Scaling law 了，这才是量变引起质变）
所以不仅仅量变引起质变，还是一步一个台阶走上来的
其中走了很多网路（例如 BERT ， 抛弃了很多旧时代的东西例如 LSTM ，CNN ）

不是，“看见刀”有这么难理解吗，刀只是一个意象，意思是通过告诉机箱型号这一举动来向别人发出警告，又不是真的带刀。写代码写傻了吧

含金量有啥用，转换不成金他还是纸；所以，别天天比比比了，专注经营自己的生活。

场景太少了，一年能写几次不？而且大家又不是没用过 AI ，这玩意直接写出来又不能用，拉一坨大的

不一样，科举是招连长排长这种官，公务员考试招的是大头兵，大头兵那么老怎么干活

不然人家的广告费哪来的

不认为 next token 预测可以实现精确的乘法进位 除法这些操作，简单数字靠规律，复杂的依然无能为力。

卸载

微信自带不就可以，何必折腾

之前试过，初次上手还可以，深度体验后感觉不好，卸载了。转阿里的，不是很智能但是胜在稳定、免费。

这应该是个刚需，难道没有成熟解决方案吗？
这种问题暴力搜索肯定不可取，代码怎么写不重要，算法才是关键，需要专业的复杂度优化策略，自己鼓捣性价比太低。
还是好好挣钱吧，有这时间多赚点钱，让老婆冲个 VIP 就解决了，手搓不可取，个人意见

不要用程序员来迷惑自己，把自己想象成流水线上工人就行了

男的也用，宝藏 APP

2023 年中华眼科大会，统计了一下，上台发言的 13 个人中有 9 个戴眼镜。[https://mp.weixin.qq.com/s/TkmE3EA6eQ7SCjci63DHbQ]( https://mp.weixin.qq.com/s/TkmE3EA6eQ7SCjci63DHbQ)

你我又不是改变世界的天才，“编程技能”没有那么重要，开心快乐最重要

3090 很好的，跑跑模型没啥问题，训练推理都在行，老当益壮