狼来了吗

　　不久前，脸书人工智能实验室里的两个谈判机器人出了名。它俩竟然开始用自己的语言交流了，研究人员不得不拔了它们的电源。

　　根据美国《新闻周刊》的报道，这种机器人是专门为人类谈判服务的。它们被预设用英语模仿人类对话，目标只有一个——利益最大化。然而上个月，这两个机器人的对话已超越了人类理解范围，这也许意味着它们已有自己的意识。

　　没过几天，反转来了。有科技媒体辟谣，那串所谓“自我语言”不过是几个英语单词，比如说“我可以我我所有别的”“球对于我对于我对于我是零”。在研究者眼中，这只是一场编程事故。

　　我承认，第一眼看到脸书这则新闻时，也毫不犹豫地相信了，内心既有些惊恐又有些兴奋。我知道，“人工智能恐惧症”发作了。

　　它也许将成为继“密集恐惧症”“深海恐惧症”之后，又一种新型心理疾病。在维基百科“极客版”里，这是一个专有名词，高发人群为媒体人士，症状表现为“对人工智能的恐惧和惊讶，像深埋在土中的昆虫、逆流而上的鲑鱼或者扑向火焰的飞蛾”，这种“病症”还极易传播。在英国《镜报》官网做的一个“你是否担忧人工智能”调查中，有66％的网民投了赞成票。

　　两年前，我也是“人工智能恐惧症”重度患者。偶然读到知乎上的一篇文章，心灵受到一次巨大冲击。

　　作者讲述了人类发展速度越来越快，“奇点时刻”即将到达，一个超人工智能杀死全人类……这一切很可能在我们的有生之年发生。

　　没过多久，一只与众不同的“狗”横空出世，让这种虚幻的恐惧有了寄托的实体。去年春天一个午后，当时的世界冠军李世石连续两局输给“阿法狗”。作为一个围棋盲，我目不转睛地看完剩下的比赛。

　　比赛结束后，“人工智能将取代人类文明”的悲歌已经奏响。就连研究出阿法狗的谷歌团队，也表示“不会庆祝这一胜利”。那一刻我仿佛《三体》中初次接触三体星人的汪教授，开始思考人类的未来，生命的毁灭。

　　工业革命到来，恐惧的工人捣毁了机器。20世纪90年代，人们害怕电脑，新闻报道称，那台有一个房间大小，浑身上下都是电子管的庞然大物，将让人类退化成奴隶。20世纪，国际象棋大师卡斯帕罗夫向超级国际象棋计算机“深蓝”俯首称臣时，引发的恐慌不比今天弱。

　　当年“计算机科学之父”图灵还会为自己的作品辟谣，安慰大家机器受制于人，实在不行就拔插头。如今，连比尔·盖茨、埃隆·马斯克、斯蒂芬·霍金等科学界名人也站出来，表达了对人工智能的担忧。

　　恐惧来源于未知。在去年热播的美剧《西部世界》中，机器人寻找到“迷宫”——意识的开始，对世界有了新的认知，意识到自己是被操纵的木偶，开始反抗，脱离控制。惊慌的人类才发现，自己根本没有能力对抗觉醒的机器人。

　　只不过，这种故事讲多了，就像是“狼来了”喊了太多遍。看多了“震惊！计算机首次通过图灵测试！”“某某人工智能相当于一个3岁儿童”……恐慌感也渐渐消散了。毕竟，我一直坚信人工智能要想达到人类智慧，还有很长的路要走。能下赢所有的围棋手、画出天才梵高画作的机器人，连蹒跚学步的人类儿童也比不上。

　　脸书机器人引起恐慌，是因为它不再像是一个只会计算的计算机，而是进化出了更高级的智慧——语言。尽管辟谣新闻已出，仍有人阴沉地认为，“它们也许已经进化，只是没有暴露。”

　　研究者表示不服，每当人工智能出问题，人们就要“大惊失色”“拔掉电源”，而研究者要做的只是分析、修改试验参数罢了。

　　有科学家嘲讽地说，担心人工智能而不担心全球变暖，就像站在一条即将有火车经过的铁轨上，却担心自己被雷劈死一样。

　　在“狼来了”故事里，小男孩喊了3次“狼来了”，直到再也没有人相信时，狼真的来了。

　　有人认为，能和人类谈判的人工智能机器人发明成功，比想象中可怕。它会判断你的情绪、可以撒谎。更可怕的是，有一颗只求胜利的冰冷“钢铁之心”，它甚至可能统治地球。但恐惧不会消散，对人工智能的研究也不会停止。

　　人类吸取了教训，竖起耳朵，恨不得把任何风吹草动都视为确凿证据。但我们依然会一边前进，一边打口水仗，直到狼真的来了。