潮新闻 记者 李超然
(资料图片)
来源：Caryn Marjorie个人主页
据外媒近日报道，在美国社交平台Snapchat上拥有近200万粉丝的女网红卡琳·玛乔丽依托Chatgpt-4生成了自己的数字分身“卡琳AI”，并以每分钟收费一美元的价格提供聊天服务。
这位AI女友走的是一个暖心的人设：会不断夸奖你，随时随地安慰你，还不会让你失恋或者遭受冷暴力，听起来像是个非常理想的另一半。
当然，一切只要充值到位。
和顶流明星赚得一样多
“卡琳AI”是初创企业FV（Forever Voice）创建的第一个虚拟AI伴侣，这款AI采集了卡琳本人长达2000个小时的视频素材，使得其性格、音色、语调和说话风格都和卡琳本人非常接近。
为什么要在网络上“复制”另一个自己？
卡琳本人在接受采访时表示，自己在社交平台上拥有数百万粉丝，没有办法给每位粉丝一对一的回应，这让她感到很糟糕。而“卡琳AI”不仅可以解决这个问题，还能用来“治愈”孤独。
她在自己的社交账号里写到“无论你是需要有人安慰或关爱，或者你只是想抱怨学校或工作中发生的事情，‘卡琳AI’将永远在你身边。你可以通过‘卡琳AI’获得无限的可能。”
产品一经推出，就有不少人跃跃欲试。
据统计，在第一周里，“卡琳AI”为卡琳带来了7.16万美元的收入，也就是说，卡琳在这周内就算是“躺过”，也赚了将近50万人民币。
据她的业务经理称，如果一切顺利，卡琳预计AI每月可以为她带来500万美元的收入，年收入将达到6000万美元（约4.16亿元），比肩美国顶流明星泰勒·斯威夫特。
“失控”的AI
在惊叹于新技术新产品的同时，不少人发出了质疑的声音。
有网友称之前在电影《她》里面看到过人类沉迷AI虚拟女友的故事，没先到竟然这么快就来到了眼前。更有网友将虚拟伴侣的诞生称为“人类的末日”。
和人们预期的一样，“卡琳AI”推出后不久，产品就一度“失控”。
进入到第二阶段的公测时，付费人数已接近2万人，其中99%为男性。一些人用大尺度的话去训练AI，导致双方的交流变得色情露骨。
对于这个问题，FV公司CEO约翰·迈耶表示，目前公司正在招聘“首席道德官”来约束对话内容。虽然问题可以被技术解决，但其暴露出来AI的本质问题却更让人担忧。
复旦大学哲学学院教授徐英瑾在接受潮新闻记者采访时表示，AI在心理治疗等领域能起到积极的作用，可一旦进入需要心灵沟通、满足精神需求的领域，可能让人与人之间陷入更大的对立和分歧。
他认为，目前的技术和资本往往是结合在一起的，很多技术产品都想实现短时间的变现。而对于AI伴侣来讲，迎合用户的喜好、让用户产生情感联系，就是变现的关键。
很多AI会顺应用户偏好，接受用户所灌输的思考模式和话语体系，两者之间的交流容易形成一个信息茧房，用户本身有的特性在一次次和想法类似的AI伴侣交流过程中被强化。厌女的更加厌女，恐男的更加恐男，真实线下的人与人之间的沟通和理解会变得困难。
“以恋爱为例。男女的心理结构是不一样的，恋爱是探索异性心理结构的重要契机。有些男性会说，女人心，海底针，对女性而言，男性又何尝不是这样？可是，机器很可能会因为算法放大一些物化的倾向，从而加深用户的偏见，导致在线下交流中产生很多问题。”徐英瑾说道。
另外也有人提出两性观念的问题：AI伴侣可以同时和无数人“恋爱”，而在之后同类产品增多后，人类也可以和无数AI伴侣“恋爱”，那么传统两性关系中的“忠贞”观念，是否也会受到冲击？
CharGPT 来源：新华社
AI伴侣产业化风险
“卡琳AI”一炮而红后，FV公司CEO迈耶已经开始和投资者会面。自2017年他用AI建立了一个复制了他已故父亲的声音和个性的智能聊天机器人后，迈耶对虚拟伴侣的未来始终怀有期待。
他认为，在未来五年里，大多数美国人的口袋里都会有一个AI伴侣，无论是约会对象、私人教练还是导师，这也是公司目前正在探索的方向。
看起来，AI伴侣似乎会成为一笔大生意。但在产业化的过程中，还存在很多法律方面的考量。
其中一个绕不开的问题就是隐私权问题。上海市锦天城律师事务所阮何明律师认为，从AI伴侣的生成到实际使用，隐私权贯穿始终。
公司在采集个人信息生成AI伴侣的时候，可能会对采集对象，尤其是针对明星、已故自然人等特殊人群，侵犯其《民法典》中规定的名誉权、姓名权、肖像权，以及《民法典》首次规定的声音权益等。同时，AI伴侣在用户使用过程中不当的数据采集和泄露也会侵犯其相关法律权益。
此外，AI伴侣和用户有着更深刻的情感联结，AI公司和商家可能会利用AI伴侣植入广告等诱导性内容引导用户消费，进而违反《反不正当竞争法》、《广告法》等法律规定。
阮何明律师认为，用户与AI伴侣建立虚拟关系，影响用户学习基本社交和维护亲密关系的能力，可能会加剧用户的孤独感和社交隔离问题。尤其是对于青少年而言，他们尚处于社交学习阶段，容易受到暴力、情色等不良内容引导，将会阻碍其成长，甚至诱导青少年犯罪。
“转载请注明出处”
关键词：
