我要再次发出暴论， AGI 离我们还很遥远。

[nekoooooo]

标题党一下，从成本上来说，让自主迭代一个工程很难，成本太高。只能说从 0-1 ，平时迭代效率提高了不少，这个过程依旧非常需要人工介入，上很多约束，子会话什么的也不现实，Token 成本会很高。

我自己用 200 刀的 gpt ，跑的时候会让他开 Terra middle 多很多次代码审查，确实能避免绝大多数问题了，但也还有不少问题。还是得我自己真机实操去回归，发现，给他讲，写测试，锁死，修改。

现在能源也没什么大突破，算力危机感觉一时半会也搞不定，如果真到 Token 和流量一样便宜的时候，可能就实现了吧？大力出奇迹，一个 Ai 有幻觉就多弄几个？我也不是很懂，欢迎友好讨论。

[crackhopper]

agi 离我们很遥远 √
是因为成本高 ×

[pingdog]

Tibo 说 AGI 是 GPT-6 Astra 吧，没说 GPT-5.6 吧。而且你用 GPT-5.6 还是 terra 来评价。。好歹也用 sol 来评价吧。前沿的技术都是在高级产品上先推出，用其它的体验垦丁和别人宣传的不一样

[QingXuJiaZhi]

只要把 AGI 定义为能力不算很强的 AI ，那就不遥远了。

[cskeleton]

AGI 肯定不是一个更大的 LLM ，也没有很远，这个世纪应该有了

[pingdog]

让它自己迭代，除了设好 goal ，明确遇到 blocked 怎么分析怎么解决，验收的 subagent 要有什么标准。
要省事就用别人的 skills ，将你要的功能/抄袭的产品设置 goal 。

我现在开发计划也不做了，直接 goal 要什么功能，其它约束让他看 skills/agends.md

[413420]

好歹用 astra ultra 评价

[chenluo0429]

当前的路线做不到传统意义上的 AGI 。
总有人觉得我们花了二十年可以将汽车最高时速从 20 提高到了 100 ，翻了 5 倍。按照这个趋势，过个一百年，起码可以提高到 2000 吧？实际上和成本无关，路线是有其上限的，做不到就是做不到。
如果是现在被重新定义过许多次的所谓 AGI ，可以说目前至少已经部分实现了

[xtreme1]

AGI 不是一个良定义的概念

[maocat]

@pingdog #2 不是，是不是没搞懂 AGI 是啥玩意

[nekoooooo]

抱歉没说明白，我平时用 5.6 sol 配合子线程 terra 评审

[nekoooooo]

@pingdog @413420
抱歉没说明白，我平时用 5.6 sol 配合子线程 terra 评审

[nekoooooo]

也不是说 AGI ，就是感慨还没想象的那么智能，感觉还差好些，开发过程中感觉还是要经常参与，纠正它。

[413420]

我很有信心再过最多 485 天，人工智能会颠覆一切

[qiubo]

到目前为止 AI 虽然越来越聪明,但是发现没有上下文大小基本没多大变化,最大的一般是 1M,而且随着上下文积累还会出现幻觉,达到 AGI 之前至少要解决这个问题,我认为 llm 压根就没法做到和人一样的记忆能力

[KKKKale]

rsi

[oncethink]

@413420 #13 为啥是 485 这么精确的时间呢

[413420]

@oncethink 骗你回复

[achira]

@oncethink 还骗我点赞

[OutOfMemery]

17 18 楼笑死我了😹😹😹

[rm0gang0rf]

从发布开始用, 我觉得 6 确实更强了, 但是和 AGI 无关~

[msg7086]

terra 和 sol 都被 astra 暴打了。你就算要说，也应该拿 astra 来说。
另外我感觉 astra 比我司很多员工都厉害了。
很多同事你也得人工介入，上很多约束，子会话什么的也不现实，工资成本会很高。

Token 再怎么说也比你同事便宜吧，要不要看看一万块钱一个月的同事和 5 个 200 刀 GPT 跑的结果比比谁强？

[Thesara]

AGI 不知道，但是你看多少人现在讲话都是一股 GPT 味道的东西，AI 的影响力肯定会继续扩大

[8355]

人均算力像电力这么充足才行

[bgm004]

远不远不重要，工作离我也很远真是真的😭

[Building]

一开始我也以为 llm 终于要通过图灵测试了，结果前几天刷到短视频发出来现在的平台企图使用 ai 冒充真人客服，随着消费者不断询问鸡兔同笼，古诗词对答，太阳系轨迹运算的问题，“真人客服”的回答逐渐开始离谱起来...

[sillydaddy]

OP 觉得距离 AGI 还差些什么呢？除了便宜的 token ，还差什么？
假如让你无限用 Astra/Fable （闭上眼睛畅想一下吧），是不是就到 AGI 了呢？

[icyalala]

首先 AGI 就不是一个清晰的概念
其次就算真的有 ASI 了，也会有人外行领导内行，骂对面不行。现实世界中大把这种例子

[gitlight]

AGI 没有标准定义，讨论它是否实现没有任何意义。把两年后的模型给我们，可能我们马上觉得那个模型才是 AGI ，把 Astra 放在 2023 年，应该很少人觉得它不是 AGI 吧？
不如关心一些新的范式，比如持续学习 RSI 之类的。我觉得未来的两年会是自监督的强化学习、扩展模态数据后规模继续 scaling + 具身智能这三个方向，还有 ilya 关心的超级对齐智能

[moefishtang]

幻视成发出尖锐爆鸣 x

[winson030]

其实吧，能够把 8 小时的活一小时做完，剩下 7 小时做点别的，目前来看很满足了。

[explorerproxy]

llm 就注定到不了 agi 了吧

[lscho]

不是暴论，在学术界是公认。

目前通往 AGI 的清晰路线还没找到。

很多人觉得 AGI 近在眼前是因为不了解 AGI 最关键的持续学习与记忆机制、自我纠错机制。。举个不恰当的例子，电脑算题再强也不是 AGI ，但是小学生再笨也是 AGI

[MoGeJiEr]

还真有人用 Terra 啊

[nekoooooo]

@sillydaddy 可能我比较浅薄，我觉得如果是目前最强模型，并且有无限 Token 的话，其实已经能摸到一点点了 AGI 门槛了？最强模型，说实话我也没用过，也没舍得用 o(╥﹏╥)o

[nekoooooo]

@msg7086 确实，感觉目前按成本算，比很多人性价比都要高一些。

最好的模型我没敢用，也没舍得用。我现在开着 200 刀的，每周基本上 3 天就用完了，就自己独立开发 app

[nekoooooo]

@MoGeJiEr 之前看过一种说法：在较低等级的 AI 评审中，约束较强的模型效果还是挺好的。所以我一直在这么用，感觉效果其实还可以。

[tomchen]

我现在还没搞明白你们到底怎么定义这玩意儿。。那些各种标准和测试，astra 和 fable 差不多都能过吧。当然你叫 astra 去泡咖啡但又不给他一个机械手臂和合适的 API 和操纵方法，那就强词夺理了吧。看来真的只是个“无关紧要的营销术语”

[GyroZeppeli13]

以前我也是这么想，现在是真不敢说。就说最近数学圈的事情，很多人包括这个站里的码农不也是和陶哲轩一个想法，ai 很厉害，但是本质是大牛增幅器。

结果就是 openai 暴力平推了过去一周一个核弹。

甚至于之前很多人还折腾什么提示词工程，skills ，结果就是短则半年长则一年这些技能又没了意义，我是彻底服了。

一些人说什么学术界公论更是毫无意义的，很多搞大模型的是的很明白了，只要你想干相关工作基本只有一条路就是去这些一线大公司而且还得是头部干，在场远比自己瞎折腾更重要。

[nagisavpn]

遥远是有多远呢，

[LeticiaFENG]

+1 我即使用 Astra / Fable 5.1 还是觉得差得远

[levelworm]

LLM 本质上来说，就是按照概率打字的吧？只不过训练材料好的话，打出来的就比较准确。我这样理解对吗？感觉和人类本身还是有本质上的差别的。虽然人类很多知识，其实也就是概率论。比如说人际交往这块，我其实就是观察其他人怎么做的，然后去模仿的。

[lujiaosama]

AI 不能完成全流程闭环，物理世界感知就没法做到 AGI 。

[archxm]

就像 2015 16 年的滴滴打车一样，各种补贴优惠。滴滴司机偶尔还能到月薪两万

[peng7534211]

师傅你是做什么工作的？

[realJamespond]

你说的 agi 是上帝吧，自动把所有科技医学都给你点亮，那是没有
正常的人工智能已经到来了

[nkisdream1]

你变成迪迦的概率都比 agi 出现的概率大

[woodfizky]

还是科幻作品品鉴太少了。真搞出厉害的 AGI ，到时候整铁人叛乱就好玩了。虽然现阶段可能还没到那个程度，但是思路就是错的。
无数科幻作品都已经替人类思考过了，问题是现在想把[科幻]中的[幻]敲掉。
到时候，失控机仆、铁心灭绝者、同化斗士等群星格式塔政体自己挑一个呗？不对，到时候人类没得选的。

人还是太懒了，懒到 AI 已经把苦活累活都干了还不满足，到时候 AGI 完全能在智力和管理岗位上替代自己的时候，那最后人类变成落后智慧生命体了，还有什么存在的必要吗？
AGI 如果全方面比人类优秀，那还需要人类干嘛？ AGI 的 G 让本就擅长的人来做还不满足？

普通人的视角：生我养我教我，十几二十年，到头来不如硅基智慧体有生产力，那还不快速速陷入虚无主义？
最后人类会变成历史的包袱。

正常的路子应该是，AI 和人类互相融合强化，而不是人类傻乎乎的制造出真的人造智慧生命体，革自己的命。

[catazshadow]

https://v2ex.com/t/1131868

不是暴论，一年前我就说过了

[haha1903]

@413420 #17 你成功了，还骗到了点赞。

[izzzz]

就现在用个 GPT6 还动不动降智的，AGI 远的难以想象

[zealotxxxx]

AGI ，通用人工智能。是一个理想国一样的东西。

但是，目前 AI 公司所说的 "AGI" 更多是为了给自己贴金用的。

人类影视作品里面的 AGI 比较典型代表中，我比较喜欢的有 HAL9000 、Skynet 、Javis 、550W （ Moss ）、Samantha （电影《 Her 》）

[gloeaerris]

AGI 在电子计算机上几乎无法实现，只能实现类似 AGI 的产物
AI 现在所处的阶段就是工业革命早期的珍妮纺织机代替手工纺织，只是替代了部分人工，珍妮纺织机可以代替手工纺织，让产量提高，但是它解决不了纺织品行业的原料、采购、销售、分发、迭代等整个行业供应链的各种问题，更不要说后面一连串的机械革命和信息革命，还差的远呢
AI 配套这方面可以说是发展十分缓慢。但是资本家已经开始行动，嚷嚷着要让 AI 发展慢下来。。。
这个行为跟当年明明可以长期使用的灯泡被强行限制为 6000 小时必须报废没有区别，纯粹是为了逐利

[hellopz]

@chenluo0429 原教旨主义的 AGI 是什么？