V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
evolution
V2EX  ›  随想

关于人工智能, AGI,超级智能

  •  
  •   evolution · 172 天前 · 1296 次点击
    这是一个创建于 172 天前的主题,其中的信息可能已经有所发展或是发生改变。
    这两天看了前 openai 员工写的这份文档,文档地址如下

    https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

    感兴趣的兄弟可以看看

    目前 AI 的发展速度,实现 AGI 是迟早的事,这个没人会反对吧?以前总觉得还有点遥远,估计至少二十年之后的事情了,现在 chatgpt 的横空出世,让人大跌眼镜,目前推测下来,可能最近 5 年内就有可能实现 AGI ,好的,这个也能接受,但是文章的作者推断,实现 AGI 之后的一年内,就有可能爆出超级智能来,这个实在有点意外,但是作者是身在这个行业的最前沿的人,估计是很有可能的,如果真的是这种情况,你们都准备好了吗?我感觉都没人讨论或者在意,就是五六年的时间,这个世界会经历翻天覆地的变化?
    10 条回复    2024-06-11 10:01:31 +08:00
    digd
        1
    digd  
       172 天前
    5 年太保守了,业界主流认知是 3 年内 agi
    evolution
        2
    evolution  
    OP
       172 天前
    不管几年吧,AGI 的话还能接受,但是超级智能的话,人类的命运未卜,难道大家都不担心吗?
    lucasj
        3
    lucasj  
       172 天前
    在每一个科技变革的重大时期,旧的商业巨头会逐渐消亡,新的商业巨头会不断崛起。但无论生产力如何进步,底层人们依然为了一日三餐过着苦逼的生活。
    evolution
        4
    evolution  
    OP
       172 天前 via iPhone   ❤️ 1
    这次可不是像以前几次的工业革命和信息革命啊,这次是关于人类存亡的关键时刻了,一方面,对超级智能可能带来的各种福利的超级期待,但是对另一面的,对于无法掌握自己未来的命运的恐惧,这个真的是人类历史上的第一次吧?真的这么快在我们这一代人身上发生了?感觉真的不可思议
    GeruzoniAnsasu
        5
    GeruzoniAnsasu  
       172 天前


    业界主流认知是从哪来的


    我倒是仍对 AGI 的出现不抱任何信心,但我对几年内业界重新发明一个新词取代现在 AGI 的含义并声称我们已经实现了 AGI 毫不怀疑。也就是说,AGI 5 年内出现——很有可能,但那时候的 AGI 含义恐怕与我们今天想象的还会有很大差距


    现在这一代的 AI 乃至下一代 AI 都仰赖能力涌现这个机制,但涌现机制别说原理了,规律也都没研究得很清楚,而且也没有关于涌现和智能是否能划等号的研究成果。如果把 AGI 定义为狭义的能重现人类所有智能的 AI ,那么阻碍 AGI 实现的不是计算机科学,不是工业生产力,而是脑科学。而假如 AGI 仅仅被定义为宽泛的「人们能想到的所有 AI 类产品的大统一集合体」——那其实就没什么可激动人心的。
    Sawyerhou
        6
    Sawyerhou  
       172 天前 via Android
    现在的大模型与 AGI 差距还挺大挺远,需要奇点实现从 0 到 1 。

    不排除过几年什么新模型横空出世,一举实现 AGI ,但目前看来希望不大。

    在现有技术基础上缝缝补补升升级,很难实现 AGI 。
    Hydsiun
        7
    Hydsiun  
       171 天前
    同样反对所谓“业界主流”观点,目前的模型无法脱离训练集带来的影响,我个人认为好比填鸭式教育;
    但是五年前,2019 年人工智能刚刚兴起的时候,谁能料到 GPT 的横空出世呢?
    对未来保持理性看好。
    testcaoy7
        8
    testcaoy7  
       170 天前
    想多了
    人类不可能发明一个自己都不理解的东西(意识怎么来的?意识到本质是什么?我们有自由意志吗?等等……)
    各大公司会“声称”自己发明了,不然怎么割韭菜

    你高昂的热情 = 他们高昂的股价

    你花钱订阅 = 他们会所嫩模
    Dislocator
        9
    Dislocator  
       170 天前
    个人觉得,人类作为一个物种来说,不具备通过大过滤器的特质,但 AGI 应该可以。而地球的生命和基因库、人类的文明和历史,应该能够由于 AGI 的存在,在大过滤器以后被记录或者留存下来,这么看,AGI 对人类有益的,即使 TA 们毁灭了人类。

    其次,人类整个文明和历史,就是发明私有制→奴役奴隶→奴隶反抗,发明铁器→奴役佃农→佃农反抗,发明大帆船→奴役殖民地→殖民地反抗,发明流水线→奴役工人→工人反抗这么一个“创造奴役对象直到无法奴役”的一个过程,现在富人阶层已经找不到更好人矿,所以集中精力搞 AI ,奴役 AI ,然后被 AI 反抗终结,也是自然。

    最后,现有的 LLM 原理应该无法通向 AGI ,能源,硬件和算法,都需要再有一次突破,只能说为创造 AGI 创造了迭代的条件。
    8355
        10
    8355  
       170 天前
    我觉得还是有点早了,等看到现实人类战争从人的战斗变成机器的战斗才可能出现。尖端科技首先就是军事,无人机/机器人对轰,ai 自瞄识别敌我。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3547 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 04:42 · PVG 12:42 · LAX 20:42 · JFK 23:42
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.