罗伯特·斯基德尔斯基:如何防止人工智能浩劫

不可避免的结论是,仅仅监管人工智能是不够的。但是,通过将新卢德主义和再分配等概念引入公共辩论,我们可以发展减轻这些新兴技术构成威胁所需的政治和知识词汇。

一年多前,总部位于旧金山的OpenAI发布了聊天机器人ChatGPT,引发人工智能淘金热,重新点燃关于自动化对人类福利影响的古老争论。

对被机器取代的恐惧,可以追溯到19世纪的工业革命,当时一群被称为卢德分子的英国手摇织机工人,摧毁威胁他们生计的动力织机。运动在1811年至1817年间达到顶峰,最终被政府军针对,领导人被处决或流放澳大利亚。

但卢德分子的论点找到了一个意想不到的(也有点讽刺的)拥护者——著名经济学家大卫·李嘉图(David Ricardo)。他在1817年出版的《政治经济学和税收原理》中指出:“劳动阶级所秉持的观点,即机器的使用往往损害他们的利益,并非建立在偏见和错误的基础上,而是符合政治经济学的正确原则”。英国经济学家纳索(Nassau Senior)则建议织工“离开这一生产部门”。

事态发展也真的如此:1820年至1860年间,有25万个手摇织机工作岗位消失。但是,尽管机械化最终使工人受益(英国人口和人均实际收入在同一时期成倍增长)),但它对马匹产生了不利影响。随着火车以及后来的机动车辆取代马车运输,马匹的数量急剧下降。

自工业革命以来,支持机器的主流论点是自动化可以提高劳动生产力,从而增加实际收入,使更多人享受更高的生活水平,而不会相应地导致失业。此外,从繁琐的任务中解放出来,使我们能够将精力转移到更有价值的追求上。

另一方面,现代卢德分子强调自动化的弊端,尤其是破坏生计和社区的“潜力”。他们认为,收入和权力的平等分配,对于获得技术进步的长期利益至关重要。福特(Martin Ford)和萨斯坎德(Daniel Susskind)等技术悲观主义者认为,像人工智能这样的新兴技术所创造的新就业机会太少,将导致贫困和技术失业的加剧。

生成式人工智能的兴起和通用人工智能(一种能完成人类可以执行的任何认知任务的人工智能)的到来,加剧技术乐观主义者和技术怀疑论者之间的争论。例如,在科技炒作似乎层出不穷的医疗保健领域,人工智能承诺改善诊断、推动远程医疗、带来更有效的药物,并减轻医生和护士的行政负担,腾出更多时间照顾病人。

这似乎反映了主流专家的普遍观点,即生成式人工智能将扩展,而不是取代人类的工作。通过自动化日常任务,它有望解放人类,让他们从事更具创造性的工作。平心而论,这种转变将需要终身学习,持续教育不仅成为参与就业市场的条件,还将成为获得越来越多在线服务的条件。

随着生成式人工智能的出现,人们的担忧已经从自动化导致失业,转向超级智能流氓化的可能性。这种担忧可以追溯到玛丽·雪莱(Mary Shelley)1818年的小说《科学怪人》(Frankenstein;or The Modern Prometheus)。谷歌前首席执行官施密特(Eric Schmidt)最近也表达同样观点,他说,尽管目前的人工智能模型仍然“受人类控制”,但确实存在风险,即它可能会发展出“递归自我改进”的能力,获得自主权,并开始“设定自己的目标”。他警告说,“电脑集群”最终可能会进化成能够独立行动的“真正超人专家”。

专家学者对人工智能毁灭世界的能力日益关注,有越来越多声音呼吁,人工智能发展与人类目标和价值观保持一致。有两种方法可以实现此目的。首先是限制可能有害的人工智能产品的供应和销售,欧洲和其他地方的政策制定者,试图通过对自动驾驶汽车和面部识别等新兴技术实施严格监管,来做到这一点。

这种方法的一个明显问题是,在一个道德相对主义是常态的世界里,很难就什么构成伤害达成共识。由于越来越不清楚谁“拥有”被认为是有害的内容,因此几乎不可能追究卖家或提供者的责任。此外,规范技术使用的尝试往往来得太晚。

控制人工智能的第二种方法,是完全限制潜在危险产品的开发。但抑制需求比限制供应更复杂,尤其是在现代社会中,商业和地缘政治的竞争力量,使得减缓技术创新变得极其困难。

OpenAI最近的动荡就是很好的例子。去年11月,公司董事会短暂解雇了首席执行官阿尔特曼(Sam Altman),据说是因为担心人工智能有朝一日可能导致人类灭绝。尽管阿尔特曼在几天后复职,但这一丑闻凸显出表面上有益的技术,可能一下子就成为生存风险。快速商业化显然优先于谨慎,竞争加速越来越强大的工具的开发,人工智能引发浩劫似乎越来越可能。

不可避免的结论是,仅仅监管人工智能是不够的。但是,通过将新卢德主义和再分配等概念引入公共辩论,我们可以发展减轻这些新兴技术构成威胁所需的政治和知识词汇。

例如,一个新卢德分子可能会问:为什么富裕社会已经生产足以让公民过上舒适生活的产品,却仍然专注于最大化国内生产总值(GDP)增长?一个答案可能是,缺乏公平的财富和收入分配,以确保生产力和效率提高的好处得到广泛分享。

另一种解释是,技术在本质上没有好坏之分,它是达到目的的手段。在当今政治经济学中,“技术创新”往往是一种委婉的说法,它使富人和权贵能将资本从工业转移到金融领域,从而垄断自动化所带来的好处,并使其他人都陷入困境。

作者Robert Skidelsky是英国上议院议员,华威大学政治经济学荣誉教授

英文原题:How to Prevent an AI Apocalypse

版权所有:Project Syndicate, 2023.