手机浏览器扫描二维码访问
要在给人工智能的目标里制定一个能让人类继续进化的能力。
这个目标叫作连贯的外推意志,这个目标是这样的:
我们的连贯外推意志是我们想要知道更多,思考得更快,变成比我们希望的更好的人,能一起更远得长大。
外推是汇集的而不是发散的,我们的愿望是连贯的而不是被干扰的;我们想要外推的被外推,我们想要解读的被解读。
对于人类的命运取决于电脑没有意外的解读和执行这个声明是件值得兴奋的事情吗?当然不是。
但是当足够的聪明人放入足够的思考和前瞻后,我们有可能发现怎样制造一个友善的超人工智能。
但是现在有各种政府、公司、军方、科学实验室、黑市组织在研究各种人工智能。
他们很多在试图制造能自我改进的人工智能,总有一天,一个人的创新将导致超人工智能的出现。
可能在未来的10年到21世纪结束这段时间发生,他还认为当这发生时,智能的起飞会快得让我们惊讶,他是这么描述的:
在智能爆炸之前,人类就像把炸蛋当玩具的小孩一样,我们的玩物和我们的不成熟之间有着极大的落差。
超级智能是一个我们还很长一段时间内都无法面对的挑战。
我们不知道炸蛋什么时候会爆炸,哪怕我们能听到炸蛋的滴答声。
我们当然没有办法把所有小孩都从炸蛋旁边赶跑——参于人工智能研究的大小组织太多了,而且因为建造创新的人工智能花不了太多钱,研发可能发生在社会的任何一个角落,不受监管。
而且我们没办法知道准确的进度,因为很多组织是在偷偷摸摸的搞,不想让竞争对手知道,比如隔壁老王机器人公司这种公司。
对于这些组织来说,尤其让我们困扰的是他们很多都是在拼速度——他们创造一个一个更加聪明的弱人工智能系统,因为他们想要比竞争对手更快的到达目标。
有些更有野心的组织,为了追逐创造出第一个强人工智能所能带来的金钱、奖励、荣誉、权力会把步子迈得更大。
当你全力冲刺时,你是不会有太多时间静下来思考这些危险的。
恰恰相反,他们很可能在早期系统中写尽量简单的代码,比如把目标设定成用笔写一句话,先让系统跑起来再说,反正以后还可以回过头来改的。
对吧?
第一个超人工智能出现后,最可能的情况是这个系统会立刻意识到作为这个世界上唯一一个超人工智能是最有利的,而在快速起飞的情况下,哪怕它只比第二名快了几天,它也完全有时间碾压所有对手。
这叫作决定性的战略优势,这种优势会让第一个超人工智能永远统治这个世界,不管在它的统治下我们是走向永生还是灭亡。
这种现象可能对我们有利,也可能导致我们的毁灭。
如果那些最用心思考人工智能理论和人类安全的人能够最先造出一个友善的超人工智能的话,那对我们是很好的。
但是如果事情走向了另一面——如果超人工智能在我们搞明白怎样保证人工智能的安全性之前被达成,那么像隔壁老王这样不友善的超人工智能就会统治世界并把我们毁灭了。
至于现在的风口是哪里呢?简单来说,投资创新人工智能技术的钱,比投资人工智能安全研究的钱多很多。
不乐观。
人工智能创新和人工智能安全的赛跑,可能是人类历史上最重要的一次竞争。
我们真的可能结束我们对地球的统治,而那之后我们是永生还是灭绝,现在还不知道。
一边是对于我们这个物种的思考,看来我们在这个重大的历史节点上只有一次机会,我们创造的第一个超人工智能也很可能是最后一个。
但是我们都知道大部分产品的1.0版本都是充满bug的,所以这个事情还是很吓人的。
另一边,我们有很大的优势——我们是先手。
我们有能力给这个事情提供足够的预警和前瞻,使我们成功的机会更高。
遵从你的召唤而来,从此我的剑与您同在,您的命运与我共存。满天飞舞的白鸽,优美婉转的圣歌,严肃庄严的宣告,还有那沉重的十字架。终将会结束的。我会用生命去救赎的。百合哦,不喜勿进...
快穿之反派别撩我由作者妖九创作全本作品该小说情节跌宕起伏扣人心弦是一本难得的情节与文笔俱佳的好书919言情小说免费提供快穿之反派别撩我全文无弹窗的纯文字在线阅读。...
一朝穿越,她竟变成了她。前世的她,是慕云烟,举城皆知的废物,因从小定下一门娃娃亲,受尽欺凌。母亲死的早,父亲不疼,姐姐不爱,只为见一面自己的未婚夫,却被踢入池塘,不会水的她命丧黄泉前世的她,同样名唤慕云烟,却是个医药天才。原本和男友相亲相爱,可是却在海角之地,男子怀中抱着妖娆的女子,却将她生生推入海底,胸口还插着一把她送给他的军刀匕首,结果了她的性命再次睁眼,她变成了她,她誓死发誓,这辈子不信任何人,欺她之人她必百倍欺之,侮她之人她必千倍侮之。当举城皆知的废材,变成耀眼天下的天才,龙辰大陆又将掀起一场什么样的风暴?六品丹药?你把它当成宝?我随便炼制就是一大把好吗?那可是我家嘟嘟都嫌弃的零食好吗?低阶功法?你竟然视如瑰宝?我随手就是一堆天阶功法任我挑选,看中你的功法?是你疯了还是我傻呢?却不料,人生世事难测,该来的总也逃不掉,就比如他他,君莫宁,龙城的宁王,与世无争,待人温和,静养于宁王府,无心政事,却偏偏被人所觊觎忌惮,可是他们不知道的是,他却是连当今圣上都不敢招惹的存在。他,帝锦,龙辰大陆最为神秘组织的首领,他是让人闻风丧胆的帝君,却也是整片大陆最为神秘之人,无人知晓他的真面目。小剧场初次见面,没想到他们的对白却是这样。慕云烟靠!你有病啊!帝锦挑眉你有药?慕云烟你不知道人吓人吓死人么?帝锦你这是怪我喽?可是到了最后他却说如果可以,我不需要什么未来,你,就是我的未来,有你足矣。他说你可以坚强,你可以独自撑起一切,全天下都可以是你的,但是,你只能是我的。他说你可以向前走九十九步,却从不回头,但是只要你回头,我便在你身后,你不愿意后退,那么我便前进跟上你的步伐,牵起你的手,走完剩下的路。关于本文,男强女强,强强联手,双处双洁,无误会,无小三,一宠到底升级文。此文不光有爱情,还会有不离不弃的友情。喜欢的读者们,欢迎跳坑哦!!!...
小妞你的妇科疾病很严重哦,在不诊治就嫁不出去了!嗨,卖红薯的大娘,给你治病,红薯就别收我钱了吧,退伍军医,玩转都市,美女校花,睡警察,战模特,掀起新的都市传说。。。。。。...
父亲是我们镇上唯一的主事,也就是丧事的话事人,他最大的心愿就是我子承父业,从我记事起,每年七月十五的晚上,他都会打着一把纸伞,带上我走街串巷。镇上来了一个老道士,说我活不过十二岁,父亲为此差点把人家揍了,而在我十二岁那年,镇上接二连三的死人,巧合的是,他们都是三十三岁的男人...
夜华家族的废物二小姐最近变得很嚣张!众人奔走相告。她前天打了刘世子,就因为人家说她丑。她昨天抢了丞相之女看上的东西。那她今天那人话音未落,就听见身后一个阴森森的声音传来,那今天,我就教训教训你们这帮背后喜欢乱嚼舌人根的家伙可好?废材逆袭,惊艳重生,翻手为云,覆手为雨。看她如何倾倒众生,傲世天下!...