陈可扬:谁的手指在扳机上?

许多经历过国民服役的新加坡男性,都有在极短时间内将来复枪拆卸,然后再组装起来的技能。枪支上手后,阿兵哥不用思考,甚至连看都用再看一眼,就能迅速地将它化整为零。这是十八九岁的我们在基本军事训练阶段,经过无数次的练习所形成的肌肉记忆。

枪支的拆卸,以及寻找掩护体躲避袭击等军事训练的目的,就是要通过无数次动作重复所形成的肌肉记忆,在战场上比敌人快上千分之一秒,以及在射击时增加百分之一的精确度,尽可能地让自己在军事冲突中活下来。

日常活动如骑脚车、打球、游泳、演奏乐器、跳舞,乃至操作电脑时的“盲打”——在无法背出各个按键排列顺序的情况下,于键盘上敲出所要的字母顺序——都得用上肌肉记忆。

有些时候,肌肉记忆也叫作基本功。练武和学乐器的人,对基本功是很熟悉的。台湾一位专攻小提琴教学的大学教授黄辅棠,就从金庸武侠小说《天龙八部》中,主人公段誉将用于保命的凌波微步练到“想都不想”熟练程度的追求,移植到小提琴的演奏上来,要求学音乐者也要下这样的苦功。

人类可以通过训练掌握肌肉记忆,让动作超越大脑思考的速度,但遇到一定要经过思考才能决定的状况,则难免会被反应时间和决策过程拖慢。这时候来救场的是经验,更是科技。

经验能够优化决策过程,减少须要考虑的选项,加快人们决定的速度。但科技可以做到的是以远超人脑的运转速度,将所有选项“考虑”一遍,做出最优的决定。

人工智能科技被视为一代人最大的科技突破,它因为没有情感羁绊,“记忆力”也完全不会衰退,帮助人们做出的决定,往往更理智,也更加快。

以ChatGPT为代表的“生成式人工智能”早已被许多人所熟悉,就算是小学生都能够学会如何操作它来完成一些任务。它或许会像人们历史上的机械化一样,淘汰一部分工种,迫使一些人改变生活与工作的方式。但真正可能威胁到我们存亡的,是这个科技的下一阶段发展。

日前在美国访问的外交部长维文医生,参加全球新兴科技峰会一场有关人工智能的对话时,表达了对“具交易能力人工智能体”的担忧。在他看来,具有谈判、交易、买卖、说服和动员能力的“具交易能力人工智能体”,会在就业、政治和外交这三个层面上给人类带来冲击,尤其是从根本上颠覆人们对军事学说和战略威慑假设的人工智能。他举例,人类世界已经处于运用无人机、自动武器、集群智能等科技作战的阶段。人工智能武器系统也几乎可以立即部署和触发,大大缩短领导人的决策时间,不可避免地增加意外冲突或冲突升级的风险。

而且,同时出现的“敌人”会有很多个,不可能由人手来扣动每一个扳机。这时候只能把武器交给机器系统控制,人类甚至不参与决策过程,但一切攻防的结果都会以人类的生命为代价。

冷战时期拥有核武器的美苏两大超级强国,因为深刻理解核威慑的意义,以及核战争对人类的毁灭效果,最终没有按下那个终极的核按钮。人工智能能否实现同样的克制,则没有定论。

毕竟,人类自我毁灭路上的那一脚刹车,我们或许都懂,也应该会踩下去,但是人工智能懂吗?

(作者是《联合早报》资深高级记者)