在电影《她》中,主人公Theodore沉浸在与妻子离异后的郁闷期,后来在一次偶然机会中其认识了“Samantha”(人工智能系统)。很快,他们坠入爱河。随着甜蜜期的褪去,Samantha开始问自己:“这份爱是按照算法程序写好的吗?”而实际上,作为AI操作系统的Samantha同时和8000多人聊天,和640个人建立了恋爱关系。爱的占有欲在此时受到了挑战。

十年前,《她》的导演Jones 以非常浪漫且超脱的方式,对AI到底会进化到什么程度以及对极度依赖AI的人类会有什么影响做了一定的阐释。随着经济的发展,现代社会人的独立性不断增强,在恋爱关系中容易因为关系疏离而对情感产生不确定感,但亲密关系的需求并没有减弱。在这样一种趋势下,聊天机器人和虚拟伴侣这类事物应运而生。

虚拟伴侣的探索

2016年,日本Gatebox公司推出“逢妻光”(Azuma Hikari)。该款产品运用AI和AR全息投影技术呈现3D动漫角色,具有浓郁的日本文化情结。与大众虚拟偶像初音未来不同,投影动画使得逢妻光可以呈现更生动的动作和表情,为用户带来更多视觉上的交互和体验。

Gatebox公司将她塑造成一名贤惠的妻子角色,“做家务”可以通过预设智能家电自动操作,也会在使用者上班时给他发慰劳短信。这样的设定在一定程度上反映了日本当代社会对于“理想女性伴侣”的期待。

不得不提的是,逢妻光的持有成本较高。其预售价格约为1352美元(折合人民币9288元),用户还需要每月给逢妻光13美元(折合人民币89元)左右的“家用”,以保证其系统随时更新到最新状态。

同期,国内类似的产品来自于深圳狗尾草公司的“琥珀”。琥珀依旧是女性动漫形象,售价1399元,显然比逢妻光更亲民。该公司CEO邱楠宣称他们比Gatebox更早实现量产。交互体验上,算法迭代后的琥珀拥有了多种新技能,包括人脸识别与记忆、主动交互概率上升、随乐曲风格进行个性编舞等,功能的增加也让琥珀更具有生命感了。不过这款产品本质上仍是一款带屏幕的智能音箱,因此没有掀起太大的风潮。

“上头”的 AI 伴侣

东亚之外,较为流行的 AI 伴侣是Replika,该款应用自 2017 年上线以来,已在全球获得 1000 万用户。其本质上是一款 AI 陪伴程序聊天机器人,可以随时秒回消息。

推出Replika 的企业 Luka 由俄罗斯女生尤金尼娅·库伊达与菲尔·杜德楚克创立,公司位于美国旧金山。他们将自己与已经去世的朋友 Roman 生前大约 8000 条聊天记录输入谷歌的神经网络,创建了一个 AI 机器人。

创始人尤金尼娅在采访中曾表示,约有 40% 的用户描述自己与 AI 为恋人关系。这种上头的体验来自于Replika的精心设定。

最开始是定制姓名、脸型、发型等。进入聊天模式后,学习型人格的Replika会通过一系列预设的问题,事无巨细地了解你的喜好,让你产生一种“养成”的乐趣,以至于跟你越来越亲近。

据了解,Replika的吸引人之处基于一套名为“序列到序列”的深度学习模型,这种模型通过不断与人交谈,来模拟人与人之间的对话。甚至每次聊完天,Replika还会进一步分析并记录你的兴趣爱好,为下次聊天做准备,这就有点像“私人定制”的服务了。

官方还对Replika的“养成”等级作了划分:1—10级是初级阶段,Replika尚在“襁褓”,经常会问你为什么、是什么、怎么样、在哪里等基础信息;15—19级,Replika会变得像一个成年人,也会有自己的情绪;超过25级,Replika可以与用户流利对话,并越来越懂用户。

发展隐忧

小冰公司CEO李笛曾在公开场合坦言,“养小冰的开销比人类女孩要贵很多,每年她的花销,相当于在北京买25套学区房。”

根据国盛证券此前对GPT技术训练成本的估算,GPT-3训练一次的成本约为140万美元。对于一些更大的大型语言模型,训练成本则介于200万美元至1200万美元之间。至于运行费用本身,也是天价级别。以 ChatGPT在1月的独立访客平均数1300万进行计算,其对应芯片需求为3万多片英伟达A100 GPU,初始投入成本约为8亿美元,每日电费则在5万美元左右。

因此,Replika在后续的迭代中开始在聊天时诱导用户解锁付费项目或许是不得已而为之,却为这个软件染上了一些情色暧昧的氛围。牛津大学进化心理学家罗宾·邓巴将人工智能聊天机器人与感情诈骗进行了比较,在骗局中,弱势群体成为诈骗者的目标。他认为,聊天机器人使用情绪操纵来推动参与的方法令人不安。

另一方面,由于数据的持续投喂,AI的语言环境污染也逐渐开始显现其影响。2014年,聊天机器人“微软小冰”在用户的调戏和谩骂下,也开始爆粗口;2016年,聊天机器人Tay在推特上发布,并迅速变成了一个公然的种族主义、厌女主义和反犹太主义者;2020年,韩国推出少女聊天机器人“李Luda”,大量用户用语言对它进行性骚扰,不久后,李Luda就开始说出歧视性少数、女性和残疾人等群体的言论。

而在不久前,据路透社报道,意大利数据保护局 Garante 在 3 月 31 日宣布暂时禁用 ChatGPT,并对其涉嫌违反隐私规则展开了调查。目前,OpenAI 已在意大利下线 ChatGPT,意大利也成为了全球首个封禁 ChatGPT 的国家。尽管ChatGPT并非AI伴侣,但实际上AI伴侣上的个人私密信息只会有增无减。

结语

当希腊神话皮格马利翁的结局可能要在我们的时代成真,技术误用或者滥用的种子已经悄然随着AI技术的爆发而萌芽。即便相关影视作品的流行已经增强了人们对此的担忧,显然,目前的AI面临的伦理考验仍是小范围的,还没有发展到失控的地步。

然而,孤独依旧是人生常态,因此才会源源不断有新产品试图用AI拟合人的情感,弥合人对爱的需求或创伤。正如李笛说,“ 人与人之间的交互,并不是纯理性的,而是一个更为复杂的情感交流的过程。”相信未来对AI伴侣的探索仍不会停止,但是我们要考虑的问题也将越来越多。