在AI浪潮汹涌来临的当下,人们和AI聊天甚至谈恋爱也不是新鲜事。但美国网红卡妍·马杰里(Caryn Marjorie)看准趋势,推出了一个更宏大的商业计划:AI公司利用她在网上发布过的视频素材,训练出一个虚拟版本的她,粉丝可以付费与这个虚拟版本24小时聊天、谈恋爱。
不过有用户在使用中发现,这款Caryn AI有时会和人“调情”,甚至发送较有挑逗意味的“赤裸信息”,引发人们对伦理道德的担忧。此外,卡妍本人目前已经需要雇佣24小时安保来防止跟踪狂擅自闯入自己家中。
近2万网友付费与其“谈恋爱”
今年23岁的卡妍从15岁起就进入直播行业,从YouTube美妆博主成功转型成为Snapchat平台的头部网红,并在该平台拥有184万粉丝。近日,她在推特上宣布,与初创企业FV(Forever Voice)合作推出Caryn AI,为粉丝打造一个“虚拟女友”。这款AI采集了卡妍本人长达2000个小时的视频素材,能够较好地模仿其音色、语调和说话风格。
由于“分身”理论上无上限,AI版本的Caryn可同时交往1000个男友,目前内测收费每分钟一美元。
更为夸张的是,据《财富》杂志报道,在过去一周的公测阶段,Caryn AI创收7.16万美元(折合人民币近50万元),99%的用户是男性。
假设Caryn的180万粉丝中,有2万人愿意为之付费,成为固定用户,那么Caryn AI每月将能创造500万美元的收入,一年就是6000万美元(约4.16亿元)。这个数字将超过国内许多上市公司的收入。
真人版AI引发安全、伦理担忧
但是,也有很多业内人士担心起了Caryn的人身安全。因为直播行业的头部主播常常会吸引很多精神变态的跟踪狂人,卡妍的家中数次被尾随的陌生人闯入,因此她雇用了24小时轮岗的保镖力量保护自己家里的安全。由于AI产品很容易让那些精神空虚的用户深度成瘾,专家担心未来卡妍可能会遭遇更多不理智的粉丝行为,需要更加注重自己的人身安全。
当AI Caryn同时与1000个现实世界的男友交往时,一系列伦理问题随之出现。比如,AI版本的Caryn会在聊天中与男友们进行各种不同尺度的暧昧。
此外,当使用AI变得十分容易,且它能够充分模拟人的声音,并掌握私人用户的大部分数据,用AI进行诈骗也会变得异常有“效率”。试想一下,当犯罪集团利用AI合成你父亲/母亲的声音,直接打电话给你,并将号码伪装成你父母的真实号码,你有多少的理性会去质疑这个你听了几十年、平日里最为熟悉的声音?
根据McAfee公布的最新报告,基于AI的语音诈骗日益猖獗,在接到诈骗电话的群体中,77%的人会导致经济损失。报告中提及了两个真实案例,其中一个通过AI模拟受害者亲人,表示因某些事情急需要钱;另一个通过AI模拟女儿,向其母亲勒索赎金,但事实上她的女儿并未被绑架。
(都市快报)