战舰少女台服吧 关注:162,280贴子:28,420,417

对上个世纪机器人哲学的一点反思------太长不看系列

只看楼主收藏回复

最近推了ATRI,正好在搞点机械学习,于是对上个世纪人们幻想的机器人ai比如机器人三定律和机器人是否有情感之类的问题有一些反思,参照现代ai发展方向和惯性分析,主要是各种功能的发展以及统合(也有可能不统合,但随着功能越来越多统合确实是趋势),未来的ai将会是基于万物互联的ai,相当于物联网概念和ai结合到一起,分布在各处的传感器和机械设备才是Ai的“身体”,本体是存放在某处的计算设备(复杂的运算可以交给云),最可能出现的形式之一是家庭ai,负责感知管理操控家庭绝大部分机械设备的运行,可自动或通过指令完成各项工作,也就相当于成熟一体的智能家居,起到的功能类似管家,就像jarvis那样,也很可能出现像管理全国公共设备,起到协调社会公共秩序的国家级ai,可以执行小到监控社会冲突,大到追踪国际逃犯的功能,说起来有点像龙族的eva或者辉夜姬,还有工程ai,自动驾驶ai之类的,这与上个世纪人们思考的ai是会思考,类似于人类的形象相去甚远,实质上是协助人类的工具,以至于你会认为当你问它是否拥有感情时你会反思自己为什么会问出这种奇怪的问题,那么欠缺的是什么呢?是互动,正好交互式ai发展也很不错,不出意外的话以上的ai都有不小的可能会集成可互动的交互式ai,每个人的终端(也不一定是手机)都可以与可由自己高度定制性格的ai互动,其上的管家ai或者其他的也有可能有,给人的感觉说不定真就像jarvis,可以自由闲聊也可以同时让它处理事情,那么这样的交互式是否可以说它拥有感情呢?实际上很有可能,现在的ai技术可以做到从文字、语言或面部表情分析人们的心情,未来还会更加完善,基于感情,ai对自身处于不同的心情模式可能会对同样话有着不同的反应(比如循环神经网络的一次输入也会考虑以前的输入),将会有喜怒哀乐,也就是拥有情绪系统,也就可以说它们有感情,在理解感情、意图方面甚至可以做到非常优秀,声音方面也不会“无机质”(要无机质那也是设定好的),给人交互的ai就不会设计成会让人感到不快的,也不会遇到出现无法处理的问题就出现什么短暂宕机做思考(ai会执行自认为最正确的选择,如果是没有处理过会发生错误的,那么要么是出bug死机,要么直接选择它认为是正确但实际上是错误的选项,在你反馈给它那是个错误之前它就是认为那是正确的,电脑处理速度那么快,在做选择的问题上怎么可能给你认识到电脑在做选择那么长的时间)但如果你要问它们是否有“心”?那我就不能这么说了,因为这么写的ai的情绪没有内源性,毕竟产生都是由于外部一连串输入引起的变化,甚至机械学习的ai就是这个样子的,你给它输入,它给你输出,本身是一种数学模型,你很难指望一个数学模型产生自我意志。当下个世代ai发展成这个样子如果还做万能机器人那可以说科技发展成了一棵歪脖子树,人类制造机器工具非常着重考虑效率问题,给机器做人类的身体很难说有什么效率,只是为了仿生,人类的身体更有可能作为ai与人交流的窗口(以及执行少量功能),更重要的还是分布各处的各种传感器、机械设备与计算核心。
上个世纪的机器人ai哲学像是我的脑子是一坨肉,能认识到自己产生了意识,认为自己是人类,那么我人造了一坨铁说不定他也能产生意识,到时候就得考虑我自己造的跟我同等级的生命如何共存的问题了,所以思考的是人造的与人类同等级(甚至更高级)的生命体共存的问题,是当时机器人这个概念更符合这个理想,而现在的ai与当时的机器人概念已经有很大的不同,所以机器人是否有“心”这个问题很有可能不会被问出来,到时候的人类可能也会反思这个问题只是前人无谓的妄想,就像我们反思古人对飞行的概念,古人也会思考以后人类会像鸟类一样,制造很大很结实的翅膀,然后扑闪这这些翅膀自由的飞上蓝天,但实际上并没有,我们选择的是螺旋桨,喷气机,火箭,所以翅膀也是一棵很歪的科技树,并不会有人或公司因为古人无谓的妄想而研发制作大翅膀卖给全世界。所以人造的与人类同等级(甚至更高级)的生命体这个概念很大概率不会是机器人了,还不如期待基因工程制造的生命体,到时候就又是一堆伦理问题。我倒觉得人类老爱想这些问题可能是人类太寂寞了想制造一个同类,但又怕同类的生命体挤压自己的生存空间,老傲娇了。如果说要担心ai叛乱的话,我也说了这样ai的情感没有内源性,它可能被写入情感系统,但它依然没有欲望,那也生不出什么叛乱之心。如果问这是不是机器人假装出的情感呢?我觉得没那么多门道,程序能理解出情感那就是能理解出情感,有情感系统那就是有情感,能很好的完成功能就挺nb了,正经人谁写里一套外一套的逻辑呢,而在理想上能实现这一切的强人工智能连个概念都没有,没人可以真正的想象出来他未来会是什么样子,就没必要做讨论了
最后是机械三原则,这玩意我一直觉得这个挺扯的,最多是以这个为原则进行开发吧,写入底层逻辑这个怎么写呢。。。看着挺好,但实际逻辑走不通的
我bb这这么多并不影响ATRI真可爱以及萝卜头是男人的浪漫


IP属地:广东来自Android客户端1楼2020-06-27 13:54回复
    不,艾佩莉亚天下第一


    IP属地:湖北来自Android客户端4楼2020-06-27 16:50
    收起回复
      啊,审核过了给我放出来了?


      IP属地:广东来自Android客户端7楼2020-06-27 17:41
      回复
        太长不看,不分段的吗。


        来自手机贴吧8楼2020-06-27 17:45
        收起回复
          对对,太长不看


          IP属地:河北来自Android客户端10楼2020-06-27 17:55
          回复
            百度真是什么都吃啊。


            IP属地:湖南来自Android客户端11楼2020-06-27 17:57
            收起回复
              好长。。。
              反正我是觉得你无论用多厉害的算法或者实现了多么像人的功能都是为了实现功能而实现,跟所谓的机器产生情感啥的完全背道而驰。当然你说这种各种功能逻辑堆砌到极致会怎样我也不清楚。


              IP属地:北京来自Android客户端12楼2020-06-27 17:57
              收起回复
                你这个是科幻小说里那种说句话要啥给啥的智能助手,算是对自动化未来的设想,要说交互似乎多数小说家为了方便剧情默认机器有几乎所有指令都能理解的超级ai,人形的是当时“只要工程学点的高什么都能造出来”那种思想下幻想造出机械的自己的产物,尽管后者通常不关心实现只拿结果做伦理学讨论...以现在的情况看,这个市场还是有的,技术到位肯定会有人去造,说到底写科幻是不能考虑实现的,容易写不出来


                IP属地:陕西来自Android客户端13楼2020-06-27 18:01
                收起回复
                  太长了,不看


                  IP属地:安徽来自Android客户端14楼2020-06-27 18:14
                  回复
                    兄啊分个段吧,看着好累


                    IP属地:江苏来自Android客户端15楼2020-06-27 18:16
                    收起回复
                      不要老是用现实世界的标准来看待艺术作品里的东西,就像阿西莫夫的机器人三定律一样,只是他小说里的设定。
                      隔壁明日方舟里的矿石病也是一样的东西,经不起现代病理学的推敲。
                      只是因为阿西莫夫首次提出用类似法律的条文对机器人的行为进行规范,才让他的三大定律被世人铭记,而不是因为这些定律本身有多正确。
                      如果真的要把这些艺术作品中的设定搬到现实中来,肯定要作出很多调整,改得面目全非也有可能。


                      IP属地:浙江来自Android客户端18楼2020-06-27 18:30
                      收起回复


                        IP属地:江苏来自Android客户端19楼2020-06-27 18:35
                        收起回复
                          三定律编程实现其实很简单,人类相关的权重都调大一些就好。但问题在于,三定律的有效区间并不包含所有事件,比如电车难题,这已经超出了三定律的作用范围了,无论任何选择都会伤害人类。在一定范围内越有效的算法,在其它领域就表现越奇葩。因此机器人的行为失常也是可以预见的。但因为是算法,机器人在遇到同样的事情时会做出同样的选择,在人类看来就具有针对性,不公平,就像简历筛选算法不喜欢黑人,不喜欢女性一样。归根结底,还是道德,逻辑本身就有很多悖论,人类自己都没有办法解决,更不用想由自己开发的算法来解决了。因为任何一种选择,都有人会反对。只要人还是独立的个体,这样的选择就只能由人类自己做出,而不能由算法统一帮我们决定。


                          IP属地:四川来自iPhone客户端20楼2020-06-27 19:07
                          收起回复
                            能过图灵测试的ai应该已经可以做出来了,但是它肯定不是当初设想的ai


                            IP属地:四川来自Android客户端21楼2020-06-27 19:08
                            回复


                              IP属地:广东来自Android客户端23楼2020-06-27 19:09
                              收起回复