会出现思考自己存在意义的机器人吗？

[Pimino]

自从人类在围棋上被打败之后，人们产生了恐慌，人类要被机器取代了。人类会思考自己存在的意义，是不是这一点可以让人类不被取代？或者说，思考所谓的意义只是自欺欺人。

[Tardis0127]

会，学会推理和理解，自然就有这方面追求

[Tardis0127]

当前深度学习还只是“弱人工智能”，一旦接近“强人工智能”，一切就停不下来了
所谓，弱人工智能，是指机器可以做特定事情。
强人工智能是可以做所有事情，人就是强人工智能。

[moqimoqide]

日暮途远 :)

[lneoi]

这不就是人工智能要实现的东西吗

[Pimino]

@Tardis0127 我觉得还是会很复杂，人类会通过反思自己，从而产生剧烈的行为变化，比如哲学性自杀。机器人会不会。。的确感觉想得太超前了，哈哈

[levn]

如果这样的机器真的出现了，因为完全不同的生理 /身体基础，它所思考的应该和人类完全是两回事。

[Cbdy]

人的存在是没有所谓的意义的（目前看来），但机器有，人工智能有，这就是人和人工智能最大的差别

[Kalv8n]

看样子赛博朋克要成为现实了

[Pimino]

@Cbdy 也就是说机器人永远只会是工具？

[laobubu]

塔奇克玛

http://bangumi.bilibili.com/anime/1564/
攻壳机动队第一季《 SAC 》第 15 集

[caixiexin]

@laobubu 攻壳电影版 第一部的傀儡师也是，身为人造 AI 认为自己是生命，迫切想要繁衍与死亡。

[Baymaxbowen]

参考《 H U M A N S 》

[nomorelie]

机器思考人类存在的意义更吓人

[ivmm]

虽然不知道，大家对这个态度如何，

但是我还是喜欢，国家层面或者联合国层面，推行机器人立法，不然真得给自己玩脱了

[FunctionOne]

会的，设计这个功能就会有这个功能呢。

[ivmm]

@ivmm 喜欢==希望

[sunsol]

除非是人类不给机器设定目标才可能让机器思考这种无用的东西。
人之所以为人就是因为胡思乱想，不像动物只考虑利益得失。

[Pimino]

突然发现，我这思考自己存在的意义，也就是产生了自我意识，也就等同于是不是能通过图灵测试了。哈哈。感觉提了很多年前别人就想过的问题😂

[bonfy]

@laobubu #10 塔奇克马 +1

攻壳机动队 动画版还是不错的

[Shura]

@Pimino 然而图灵测试并不是你想象中的那样，它不能判断机器人是否有意识。

[Shura]

@Shura 机器人 –> 人工智能

[Cbdy]

@Pimino 这个结论怎么推导出来的？

[xiaop]

“存在”的问题并不是是非逻辑，是超越逻辑的。所以机器人不可能思考。

“存在”背后是“永恒”，而永恒人才会有。

[传 3:11] 他使万事各按其时，成为美好；他又把永恒的意识放在人的心里；虽然这样，人还是不能察觉　神自始至终的作为。

所以请放心，机器人不会有这方面的苦恼，如果有，那一定是装出来的。

[TangMonk]

机器人如果有了自我意识，到了那天，人和机器人就没有本质的区别了。

[Pimino]

@Cbdy 可能误解了你的意思，人类的存在的确是没有意义的，也因此会有各种可能，机器人的存在是有意义的，我的理解就是一种工具性，不知道你所说的机器人的意义指什么呢？

[qhxin]

思想由传感器决定。 AI 的世界和人肯定不同。你把它类比成猫或者狗都是一样的道理。

[vh2h]

会。你不就是吗？

[hzwei]

@Shura #20 图灵测试的初衷不就是判断机器人是否具有意识吗？为什么又不能判断出了？可以解释下图灵测试吗，谢谢了。

[minamike]

电影 HER

[Shura]

@hzwei 图灵只能测试某机器是否能表现出与人等价或无法区分的智能。不代表它会漫无目的思考，比如思考自己存在的意义。。。
https://zh.wikipedia.org/zh/%E5%9B%BE%E7%81%B5%E6%B5%8B%E8%AF%95

[hzwei]

@Shura #30 谢谢解答。那也就是说现在人们做的:期望人工智能能够自我思考，已经是超越了图灵测试的范围了？

[lty494685444]

让我想起了妇联 2 里面的奥创...计算出对地球危害最大的是人类才开始消灭人类的...

所以从上帝视角来看，奥创其实是正派？妇联才是反派？

[Shura]

@hzwei 楼主想到是强人工智能(强人工智能是人工智能研究的主要目标之一，同时也是科幻小说和未来学家所讨论的主要议题)，而现在热炒的人工智能只是弱人工智能(弱人工智能只处理特定的问题，不需要具有人类完整的认知能力，甚至是完全不具有人类所拥有的感官认知能力，只要设计得看起来像有智慧就可以了)。
个人感觉强人工智能感觉还有很长很长很长很长很长很长的路要走。
https://zh.wikipedia.org/zh-cn/%E5%BC%B7%E4%BA%BA%E5%B7%A5%E6%99%BA%E6%85%A7

[hzwei]

@Shura #33 谢谢回复。好害怕技术爆炸缩短这份时间啊。

[gy0624ww]

大家好，我是未来穿越过来的，看你们现在想的思路很偏，只要是代码写出来的，都不会有意义上的智慧产生，要产生会思考的机器人，得靠另一个叫神经金属的东西，这金属是液态的，里面有类似细胞的物质组成。可以根据外部环境产生不同的强度的电流。靠这个特性可以模拟人的神经系统，由此来发展智慧。在我的世界里满大街都有自己思考意识的机器人了。加油

[dong3580]

@laobubu
这个视频怎么才能看到完整版呢，
已经不知道哪个是第一集，哪个是第二集，

[agtc]

这个问题可能要 500 年后才能得到答案。

[em70]

意识是灵魂产生的，不是物质的，否则你我都只是一台有限状态机

[xyjtou]

这个世界是某位“大神”编写的深度学习系统，人作为这个世界中的实例，很难理解这个“大神”全部的思路

[Quaintjade]

using System.Reflection;

[linhua]

存在意义 是有 主语和宾语的， 比如， 你对我有意义。

所以 自己存在意义 应该是指 自己的存在 对 自己 /他人 有意义吗？

怎么确定 有无意义呢？ 这是通过 反馈 的 形式

而 反馈 来自于 自己主动观察 或 他人的刺激（表达感谢或敌意）

对 他人的意义 可以通过 自己主动观察或 他人的刺激 得到（但别人可能把你的好心当成驴肝肺，所以可能需要介入第三者的评判）， 但 对于自己的意义，只能通过自己 主动观察得到。

否定自己 存在意义的人（即在遭遇挫折时，把过错归咎于自己（通过主动观察得到的负反馈）） 有 自杀 倾向

存在即合理，看看 勾股定理 的证明：
勾股定理是用 图形化 方式进行证明的（通过辅助图形证明）， 即 如果可以在 平面上做出 这些辅助图形（即这些辅助图形在平面上是存在的），那么勾股定理就是 成立的。

即 如果 机器 可以 察觉到 存在 本身（接收到反馈，主动观察）， 能够从 存在 中提取出 特征、模式，那么 机器 也是 可以 证明 定理的。

存 在 +--------> 结 果 <---+
+ + |
| | |
| |反 馈 |人
| | |头
|提 取 v |脑
| <-------------+人 |中
| |的
| |意 识
v |
特 征 ， 模 式 +--------------+

[Heavytiger]

看看美剧西部世界

[linhua]

http://imgur.com/a/n2tKS

[linhua]

http://imgur.com/QxoegUR

[linhua]

[ZhaoHongXuan]

看《未来简史》上说，人类的意识本质上还是算法，机器智能可能会有更加高级的算法，不通过实现意识而达到更加高级的智能状态。

[shawnxwang]

凡是代码写出来的都不可能有自我意识

[KiriGiri]

存在并不能描述任何现实事实，纯粹的存在相当于什么也不存在。在人能够思考自己的存在之前，人是把自己当作自己的对象。就像你说出“我”这个字的时候，实际上就已经有两个“我”，一个是“我”，一个是被“我”所思考的那个“我”。但是不仅仅我才是“我”，所有其他人也都是一个“我”。因此人把自己当作自己的对象的这个对象，不是单个的某个人，而是一个类。只有当某种存在能够把自己的类当作自己的对象，才能称作是有意识的存在。
反而观察动物，它们不能把自己当作自己的对象，从而也不能把自己的类当作自己的对象，比如大多数动物无法在镜子里认出自己。动物直接的只是某种他物的对象，而不是自己是自己的对象。

[blakejia]

@em70 问题是怎么能确定自己不是有限状态机，而是有意识的？

[antonlee]

《西部世界》意识的建立

[langjiyuan]

个人观点:
人类 也只不过是广义进化树上过渡的一环,纯粹生物意义上的人类被取代,只是一个可能经过的环节而已.
如果强人工智能出现,人类不可能阻止,也阻止不了.
从某种意义上来说,目前发展中的 人工智能可以算是 碳基进化树上的 多细胞生物,自主学习,在重复中积累经验.
与碳基生物不同,借由人类之手诞生的人工智能,可以避免许多碳基生物进化过程中的弯路.
在意识来看,人类和强人工智能定义上没有太大区别,最大的区别是 思考的量级与经验的积累速度上,差了一个次元.也不排除未来人类借由电子化 进入下一个世代.

[em70]

@blakejia 这个问题哲学界争论了几百年了,别人我不知道,反正我认为我个人是有自我意识的,而不是有限状态机.

对于灵魂存在的证明,一般采用濒死体验来研究,各国已经积累大量案例

我个人觉得有两种案例不用灵魂概念很难解释
1. 跨性别同性恋
2. 多重人格

[stargazer242]

不觉得现在所谓的 AI 还是穷举法的一种吗 只不过速度加快了

[Cbdy]

@shawnxwang 我认为深度学习，神经网络又产生意识的潜质

[grayon]

其实人是否拥有自由意志也不能证明，自由意志,很可能只是错觉
意思就是不能证明你是主动进行了思考的动作，还是你只是感受到了大脑思考的过程而认为这是你主动进行的思考
人的大脑就是一个电路，根据各种感受器接受信号处理计算结果
而你只是感受到了这个过程。

可以看看这两篇文章《有一种错觉叫自由意志》《自由意志，很可能只是错觉》

[Felldeadbird]

楼主应该去看看终结者。

[Jackeriss]

你可以先去想一想猫狗会不会思考自己存在的意义，以及他们为什么那么会卖萌，再结合进化论和量子力学，最终你会发现这背后的奥秘以现在人类所掌握的信息和知识只能将之称为神学。

[nomemo]

@stargazer242 你不会觉得你脑中的想法和意识生成就不穷举了吗？

[ericls]

我就可以

[SeanGeek]

《西部世界》、、、、、

[stargazer242]

@nomemo 没觉得脑洞是穷举

[seeker]

@grayon 我同样觉得不存在自由意志。决定人的行为有两种，一个是过去，一个是随机。

[grayon]

现在的 AI 其实就是在模拟大脑，通过研究神经元模拟出神经元组合电路，学习训练都是模拟大脑学习的过程，而产生意识也不是不可能

[shawnxwang]

@Cbdy 充其量都是代码罢了，而代码是逻辑的产物，但是人的大脑不是

[Cbdy]

@shawnxwang 你说的有问题，它的本质是计算，算法，代码（图灵机）只是表象，是一个计算的模型。计算有很多方法，电子计算，生物计算，量子计算，而人脑只不过是生物计算的一个实现罢了，人并不比动物高贵，人没有灵魂

现在很多领域做东西已经不单单是写代码了，而是新建一个实例，使用数据进行训练。训练这个词语多形象，像是训练导盲犬，训马。人竟在训练机器！

还是我之前说的那句话，人的存在是没有所谓的意义的，但机器有，人工智能有，我们有目的的创造它们，这就是人和人工智能最大的差别，除此之外的差别可能都会消弭。甚至当未来，智人开始利用机器改造自己（现在在医疗上已经数见不鲜了），我们和机器又有什么区别呢？

[xvx]

会。能够自我学习的智能机器人，学习到一定程度应该会想这样的问题。

[misaka20038numbe]

机器人或许不需要思考这个，就已经知道了自己存在的意义，可能会去思考其他的比如人存在的意义。

[cYcoco]

楼主知道机器学习的原理不。。

[enenaaa]

人是什么呢， 人除了机械思维，还有很多非理性的东西，情绪，欲望，价值观。人类连自己都还弄不清楚， 更逞论复制人了。

[herozzm]

看西部世界 一切皆源于算法

[peinhu]

别说机器人了，人都不思考自己存在意义。。你想过自己为什么会存在么

[des]

说不定你自己就是机器人，笑

[cenxun]

几乎大部分人都思考过吧，机器思考我们应该是能看到的吧

[tshwangq]

意识源起于量子纠缠，这个破了就破了

[gunshot]

那是 cognitive science 的内容

[inpro]

不会

[jianleer]

《 Westworld 》

[shawnxwang]

@Cbdy 我曾经在 computer vision 的课上亲自用 matlab 实现过部分神经网络训练算法，均不可能导致机器有思维。你说的太哲学，不是 computer science 的内容，在 computer science 的领域暂时没办法实现让机器拥有自由意识。

[shawnxwang]

@cYcoco 从讨论可以看出大部分人都不懂机器学习的原理。

[smdx]

@shawnxwang 人工智能得意义在于，他打败了马克思，成就了，马斯克

[zoffy]

如果机器人不能学会思考，请把我改造成机器人。

[smdx]

@zoffy 这样得女友比较不错，机器人得智商，人得生理

[ltux]

在研究清楚人类意识的本质之前，不可能出现具有自我意识的人工智能。

[HLT]

应该还是结合大数据+机器学习
即便思考 也是做运算

所以 物理角度来评判 是根本不可能像人类一样的意识和思考

我瞎 BB 的

[x7395759]

机器人不需要意识，人才需要

[sammo]

与其问 “ 会出现思考自己存在意义的机器人吗？”
不如问 “ 思考自己意义的机器人会让人类知道它的存在吗？ ”

[yidinghe]

塔奇可马

[jackisnotspirate]

机器不一定要成为人这种高级生物，目前机器的水平肯定超过草履虫的，比如蝴蝶，鸟类，成为瓦力那种应该不远了

[weizai33]

如果神经生物学技术突破的话，人能够连接体验机器人的模拟感官能让我们更好的摸索那个世界