来自古希腊的人工智能警钟

  “雌性人工智能体”潘多拉的故事教导我们,最好听取关心人类未来的“普罗米修斯”的建议,而不是轻易被短期利益蒙蔽双眼的“厄庇墨透斯”的意见。

作者: 艾德里安·梅耶 (Adrienne Mayor 来源:南风窗 日期:2019-01-26
  作为最古老的希腊神话之一,潘多拉故事的最早记录出现在距今2500多年的荷马时代。在最原始的叙事中,潘多拉并不是受到诱惑打开封禁之罐的纯真少女。相反,诗人赫西奥德告诉我们,潘多拉是“被造物,而非生命”。
  承接全能神宙斯所指派任务的潘多拉,实际上是一个人形机器人,有一副迷人少女的外表。她的使命是诱骗凡人,以显示“红颜祸水”。
  潘多拉的名字意为“所有礼物”,表明她是众神共同的产物。她产生于赫菲斯托斯的炼炉,赫尔墨斯护送这位令人神魂颠倒的“女人”来到地球,把她包装成厄庇墨透斯的新娘。她的嫁妆,就是那个包含了更多“礼物”的封禁的命运之罐。
  厄庇墨透斯是普罗米修斯的兄弟。“反抗巨人”普罗米修斯领导着—也有故事说是他创造了—人类。普罗米修斯担心人类显而易见的缺陷,因此教会男人和女人如何负责地使用火和其他工具。但这触怒了暴君宙斯,了不起的技术是他眼中的禁脔。作为惩罚,宙斯将普罗米修斯绑在一块岩石上,派出他的无人机一样的老鹰—也产生自赫菲斯托斯的熔炉—啄食普罗米修斯的肝脏。
  至于潘多拉,她被刻意设计出来惩罚人类接受普罗米修斯的礼物。本质上,她是一个迷人的雌性人工智能体,没有父母,没有童年记忆,也没有任何情感,不会老也不会死。她的设定是要完成一个狠毒的任务:潜伏在人间,解除罐子的封印。
  但这尚不是故事的全部。帕累托告诉我们,普罗米修斯的名字意为“远见”,因为和他无忧无虑的兄弟厄庇墨透斯(名字意为“向后看”)不同,他永远向前看。兄弟两人中,普罗米修斯更加理性,也显得更加偏执,他试图警告厄庇墨透斯不要接受宙斯的危险礼物。但厄庇墨透斯被潘多拉迷得神魂颠倒,毫无防备地让她走进了他的生活。随后,他才认识到自己犯了一个可怕的错误。
  因此,潘多拉的流行形象—惊恐地后退,看着各种妖魔鬼怪逃出罐子—是现代的发明。在古典希腊戏曲中,潘多拉的形象是一台狡猾的机器:最著名的潘多拉瓶绘把她画成一位年轻女性,站姿僵硬,带着神秘莫测的微笑。
  随着AI/“机器学习”迅速演变为技术“黑箱”,潘多拉的封禁之罐的象征也有了新的含义。要不了多久,AI决策系统的操作逻辑不但用户无法理解,就连创造者也无法理解。与其他威胁一样,AI系统被邪恶之徒入侵或被恐怖分子和暴君利用的可能性很大。
  Facebook创始人马克·扎克伯格、麻省理工学院的安德鲁·迈克菲、微软的程丽丽和其他AI乐观派,向我们保证AI会带来巨大的益处,但我们仍然会不经意地想起厄庇墨透斯。我们真的应该信任人类能调整和解决AI所造成的问题吗?
  似乎更明智的做法是聆听当代普罗米修斯,如已故的史蒂芬·霍金、微软创始人比尔·盖茨,以及2017年发声讨论武器化AI和机器人的威胁的其他115位科技领袖。
  “留给我们行动的时间已经不多了,”他们警告,“一旦潘多拉的盒子被打开,就再也难以关上。”此外,这些“普罗米修斯”的担心,受到了谷歌联合创始人谢尔盖·布林,以及乔安娜·布莱森和帕特里克·林等人工智能伦理学家的遥相呼应。他们警告不可贸然接受AI的礼物,必须先想好如何控制它们。
  最新民调表明,真正在开发AI系统的人,对AI的潜在益处的乐观态度大幅下降。对AI工作原理的理解,将带来更加现实的预期。不是盲目的希望,而是基于知识和经验的远见,应该决定我们如何管理这项技术的发展及其与我们的关系。
 
  本文由Project Syndicate授权《南风窗》独家刊发中文版。艾德里安·梅耶是斯坦福大学历史学和科学哲学研究学者,新著《众神与机器人:神话、机器和古代科技梦》。
版权声明

本刊及官网(南风窗在线)刊登的所有作品(包括但不限于文字、图片、声音、录像、图表、标志、标识、广告、商标、商号、域名、程序、版面设计、专栏目录与名称、内容分类标准及多媒体形式的新闻、信息等)未经南风窗杂志社书面许可,不得转载、摘编或以其他形式使用,违者必究。

合作垂询电话(020)61036188-8038研究部陈小姐或(8088)南风窗办公室

文章得分:
评分: