郑国津:AI会带人类走向渐进式愚蠢化

拜读林任君《临老入AI,拥抱这个精灵》一文(《联合早报》12月16日)颇有感触。人工智能(AI)会否加速人类走向自我消灭之路?本文以人性为出发点,来探讨AI所能带来的冲击。

人是有智慧的,我也相信古人所说的“聪明总被聪明误”。最致命的莫过于人性中的“贪”字,它是导致国家、社会、个人败坏的主要原因。说人类有朝一日会被AI所控制而走向消灭之路,也不为过。林文中提及AI大反派角色HAL 9000,在现实中有存在的可能性,而且概率相当高。

首先,AI的开发是希望改善人类生活素质,但这并不是开发者本意,而是偶然的发现。几乎所有人类须要用脑思考和学习的学问,有了AI这么方便的工具,就不用思考和分析了。年轻人不用脑袋去记、去思考,几代人之后,脑袋不用就开始退化,速度之快也许会出乎意料之外。AI的应用不管是正面或负面,都会对人类造成“制度性的愚蠢化”,对AI产生极度依赖,失去自我主导求存的能力。

这种现象已经发生。小朋友有一天问我“鸡不是到超市买的吗,为什么要养还要杀呢?”虽然这和AI没有直接关联,却说明年轻一代对生活的认知缺乏和不完整。以为鸡来自超市而非农村,我给这现象取名为“超市效应”。未来AI被广泛应用,超市效应就变成“AI效应”。大多数人在不经意中失去思考能力,这就是对人类求存能力起着毁灭性效应的过程,是退化论的另类说法。

和女儿闲聊,她说公司要交报告,以往一份类似报告,从收集资料、初稿到修改等步骤,至少得用上一两天,尤其是资料收集最费时。她试用ChatGPT,把报告主题输入,不到几分钟,初稿就呈现在眼前,稍加修改后就可以交货。好高兴!

无可否认,AI是了不起的应用工具,速度快,效率高,特别是在资料收集和应用上,包罗万象,可谓集智者于一体,让使用者大大提高效率。使用者唯一的价值也许只剩下输入正确的主题资料,核对与确保报告内容符合要求。长久下去,如果内容都能保证准确,核对步骤也给省了。身为一名员工、主管,少了思考,少了注入你职位上存在的价值,那不就成为机器人了吗!我所谓的“超市效应”就会延伸到各个层面,影响到广大民众。

国家在走向工业化的过程中,初创期从事制衣、做鞋、做玩具等行业,给国民提供成千上万的工作机会。但现实里这种工作岗位很快就被自动化机器所取代。这也是科技发展对人类生活带来初步威胁的开始。机器人不埋怨、不讨加薪、不闹工潮,是老板所期盼的。过了一段日子,人民又面对失业之苦,国家再次面临挑战。

我不是要贬低科技的正面贡献,但它对就业带来的负面影响却是事实。AI的研发会加速这一类效应,而冲击的是各行各业甚至专业人士。

为什么我认为AI这门科技是对人类作渐进式愚蠢化的开始呢?无可否认,AI对现在和未来世界有多方面贡献,但也隐藏着长远的副作用。

几乎每个行业都可能由AI取而代之。也许不是在短期的十几年内发生,但它最终控制人们生活的局面肯定会到来。现在经常发生银行系统中断,服务受影响的事件。我们生活受到系统控制,系统失控的现象正加速发生,这已不是银行道歉和罚款可以解决的。

导致人类渐进式的愚蠢化,也许不是AI开创者的本意,但从广义和现实应用的角度来思考,不难理解它确实会给人类的生存带来冲击。

首先,它会使人对学习基本求存之道感到冷漠。与其自己寻找答案,不如问AI,人类在各个学习层面都会失去兴趣,只要学会如何作云搜索就行。这也是人脑走向退化的开始。比如有了智能手机储存所有联络号码,除了几个常用号码之外,其他号码都靠查手机,不必记住。上世纪六七十年代,背乘数表是学生的基本功,今日小朋友会说,等一下,我去拿计算机。

在这种环境下成长的人,将失去思考和求存的基本常识,失去学习动力,脑袋开始退化,慢慢就愚蠢化,什么事都要靠AI。这是AI统领人类,改变人的本质的开始,和历史上的愚民政策有相似之处。

以上所谈也只是AI对日常生活所带来的影响,对各个行业的冲击更是深远。试想AI操控了股票交易,也就是传统股票交易闭门之日。

最后,谈谈“贪”字。近日有报道,各国要为AI的发展制定行为准则,希望这不是空谈,但真正要落实却非常困难。因为人性的贪是祸源,一个人贪财贪色,弄到家庭破裂,丢官失职,国家贪图霸权,战争不断。当今国际局势,各怀鬼胎。要在AI管控方面达成良性成果,还真不容易。有些政客总是讲一套做一套,私底下可能已经和AI开发机构密谋要用AI来针对对手。在AI助威之下,手段应用之广,针对力道之狠,真会叫人心寒。

人类管控AI最大的挑战,莫过于AI被一些野心家所操控。他们可能是政客、企业家、争名夺利的科研人员,会利用AI来谋私利。不要忘记AI本身也在自我提升,终极点则是它本身摆脱了科硏人员的控制,成为驾驭者。好的情况姑且不谈,坏的则是局面失控,科研人员对不受控制的AI系统没有了对策。

再看人类发展史,找到了石油,污染了地球;发明了塑料,污染了水源;工业自动化,把工作机会给了机器;AI的研发,会把人类的智慧清洗掉吗?时间将是见证者。

人类是了不起的动物,到头来却因为自己发明的智慧产物,导致周遭的一切包括自己走向式微。

这里所谈未免有些悲观,但从行为科学来看,AI会带来革命性的改变,包括导致人类智慧走向渐进式愚蠢化,却是合乎逻辑的推理。

作者是新邮政前运作主管