在外界看来,近几年的人工智能正在如火如荼地发展壮大,而在香港浸会大学副校长、欧洲科学院院士郭毅可看来,人工智能还有很多问题需要研究。在 2020 上海静安国际大数据论坛上,郭毅可院士从机器伦理出发,提出了一些对人工智能的冷思考,并展望了一个人机共生的未来世界。

对人工智能的冷思考

郭毅可教授认为,现阶段我们对于机器的理解是非常浅薄的。现阶段的技术是用效用函数向机器表达行为,但是无法告诉机器什么是对的行为。我们把机器行为转化为对效用函数的优化问题,在这过程中失去了许多对行为的正确性和目的性的阐述。其中的原因是,效用函数不能够保证与提出的目标相一致,因为将目标转为效用函数不一定是准确的。同时它的结果并不一定保证跟我们的目的相吻合。

另外,人们还无法理解机器行为的缘由。当机器做出一个行为之后,我们不能知道是通过哪些优化工作做到的。现在理解机器人的困难在于今天的机器不理解人教育它的目的,它理解的是一个优化函数,这是一个根本的缺陷。

对人工智能的重新思考

面对目前人工智能的缺陷,郭毅可院士提出我们必须要重新思考未来的人工智能。

目前,在机器伦理的研究领域,其中比较有影响力的是 Stuart Russell 教授,他有本著作叫《人类的可兼容》(Human Compatible)。在这本关于未来人工智能发展的书中,他提出下一代人工智能的三大原则:第一是对人有利(A law of Altruism),机器的目标是学习人的需求和喜好,以最大化人类价值;第二是谦逊法则 (A law of humility);第三个原则是机器的工作是要了解更多人们的需求 (A law of learning),通过对人行为的观察和与人的交流来理解人类价值。

具体来讲,就是机器必须是利人主义,而不是为自己的目标最大化。另外,机器无法一下子理解人类价值,而是需要通过观察人类的行为、与人进行交流来获得。这一过程很像训练一个小孩,教他做人的基本道理,需要通过观察和学习来获得。训练机器也是这样,开始的时候告诉它常识、基本的规则和一些公允的价值,之后具体的工作、行为是怎么样的,都需要机器通过观察,通过积累数据不断学习并获得知识。

未来人机共生的世界

在这一过程中还有重要的一点是:机器的目标是不确定的,它是在学习过程中间不断强化的。这也就是为什么强调机器与人的交互。未来,机器与人类的共生社会中,机器学习是互相与人交流的过程。

另一方面,人要理解机器的行为,要理解它做事情的目的是什么,为什么这么做,要能解释机器的行为。而机器要理解人的意图,这个目标不是人给的,而是它自己学习出来的。

下一阶段人工智能的研究将以人和机器的有效交互为出发点。未来,不是人给机器一个任务,机器执行任务就完事,而是要有一个不断与人交互学习的过程,来逐步完成一个有利于人的任务。

最后,郭毅可教授总结道,未来机器学习和人工智能的进程,不求让机器做得多,但求要机器做得对。我们不是在制造一个仆人,而是一个伙伴。仆人不需要交流,人让它做什么它就做什么,人也不需要知道它为什么这么做。而未来人和机器要互相理解,保证之间互相的学习过程,这才是一个正常的人工智能机器的生存方法。

人类和机器的相互理解,是人机共生世界的基础。人要理解机器的行为,机器要理解人的意图,才能呈现出互相交融的人工智能前景。