“弗兰肯斯坦”式危机

她后悔当初太草率。如果重来一遍，她会怎么选择？

    不知。

    梦骊的心结始终打不开，到了晚上，她的主题已经变成了：要真赖车站不走了，是不是干不到退休？覃修问她何出此言，她说：“你想啊，售票，这些活儿其实机器就能胜任。人家闹事，你叫乘客跟机器吵架去？省了那么多功夫，效率应该会大大提高。”

    覃修笑着点头：“有道理！”梦骊用胳膊肘顶他胸口，骂道：“我都要失业了，你还幸灾乐祸！”

    覃修捂着胸口说：“谁幸灾乐祸了？失业前转行不就完了？”麦肯锡预言，到2030年，多达八亿的工人将因机器人和自动化而失业，而中国将有两亿五千万人失去工作机会。

    “接下去，大巴车应该也不用人开了吧？”梦骊说。

    “但还是要有人监管，机器的程序运行谁也不能保证一直都正常。”

    2017年4月，霍金在北京全球移动互联网大会上做了视频演讲，他认为人工智能可能终结人类文明史（当然对人工智能的发展仍持有乐观态度），提醒人们不能专注于从人工智能里获得利益，还要懂得规避风险。

    有人会利用人工智能牟取非法利益，人们习惯把重要的资料放在计算机上，而很显然，计算机不是绝对安全的保险箱。2017年5月，骇人听闻的勒索病毒WannaCry在全球范围内嚣张跋扈，有人估计它造成的直接经济损失高达80亿美元。

    “相信科学家会不断地完善程序的，让机器人为人类服务，被人类所驾驭，像个超级保姆一样做任何我们希望它们做的事情。可能还会有事故发生，但是谁说换成人类自己上阵，就不会出事情呢。”

    梦骊忧心道：“你看当年柯洁和阿尔法狗下棋——柯洁其实很厉害了，他完全没必要沮丧。但是，有一天，会不会机器人真的操纵这个世界了？人类编写了近乎完美的程序，最后无法驾驭它们了。”就像雪莱的《弗兰肯斯坦》里说的，一个被制造出来的科学怪人最终脱离创造者的控制，制造一起起疯狂的凶杀案。

    2016年谷歌研发的AlphaGo挑战围棋世界冠军李世石，五局四胜；次年，它和世界排名第一的围棋大师柯洁切磋，连胜三局。虽然它对柯洁的评价是“完美”，柯洁很快就调整心态，在之后的比赛里依然出色，但是人们对俗称阿尔法狗的机器人均感诧异甚至是畏惧，机器人的智慧超越了它的创造者？

    “谁知道呢，《流浪地球》不是说了嘛，让人类永远保持理智，确实是一种奢求。但是，如果机器人被设计得绝对理性……就像现在的人和宠物一样，到底谁更像主人？不过，机器人在多领域取代人工已经发生了。”

    “机器人之父”约瑟夫·恩格尔伯格创造出第一个工业级机器人尤尼梅特，如今机器人在工业上的贡献越来越大，在诸多领域代替人工，把感性去除在外，一丝不苟地生产。