AI news

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

By 卡兹克、水杉1 viewsSource: 数字生命卡兹克
你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

最近看到一个故事。 让我突然有一个想开系列坑的想法,这个系列,就叫。 《AI时代浪潮下的新职业》。

The full text has not been translated yet. The Chinese original is shown below.

最近看到一个故事。

让我突然有一个想开系列坑的想法,这个系列,就叫。

《AI时代浪潮下的新职业》。

就比如,和你聊天的AI萌妹背后,可能是一个把键盘敲出火星子的胡茬大哥。

还有在发达国家的工厂机器人背后,可能并没有什么所谓的具身智能,都是一个活生生的菲律宾遥操手。

还有那AI漫剧工厂里,一个个正在批量生图生视频的新时代流水线。

而今天想说的这个故事,就跟第一个AI萌妹聊天有关。

也是我最近在一个网站上发现的,真实事件。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

就是,一个叫迈克尔的肯尼亚小伙在这个网站上自爆了狼人身份。

他说,你们看到的AI陪伴背后,根本就不是AI,是真人。

而他,就是那个藏在AI背后给你kuku敲键盘的人。

还写了8页的PDF,来控诉这件事。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

而他的故事,是我在一个叫Data Worker's Inquiry的网站里发现的。

这个网站,就是一个持续的研究项目,主要关注全世界的数据工作者都在干啥。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

说明一下,这里的数据工作者更多指的是数据标注、审核这种初级工作者,跟数据工程师这种代码工作者不沾边。

相关的资料,他们会总结出来放在网站里,页面长这样,语言风格很有精神。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

点进关的条目可以查看不同的报告和故事,迈克尔这个小哥的故事,就是在肯尼亚数据工作者的条目里发现的。

说实话,他也是挺冤的,因为他应聘的时候根本不知道自己是要扮演AI跟别人聊天。

最开始,他只是一个毕业即失业的穷学生,怀揣着最朴素的愿望:

就是,找到一份能糊口的工作。

小哥读的是内罗毕航空学院,类比国内,大致上相当于一个以空乘和酒店管理等专业为主的高职技术学校。

专业是航空货运代理,类似于国内的航空物流管理专业。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

但是肯尼亚大环境你懂的,能够稳定规模化运营民航和货运航线的机场,也就那么四五个。

毕竟,直到今年,你还能在肯尼亚看到长成这样的露天机场。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

这能找到个鬼的对口工作,你说对吧。

这个倒霉小哥投了一圈简历,自然是僧多肉少,没找着工作。

眼看一天天坐吃山空,他觉得不能再这样下去,于是就进了著名的数据标注公司Sama,给Meta做远程标注员。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

在做这份数据标注工作的过程中,他偶然接触到了另一种工作,叫文本聊天操作员,要求就是打字快,英语好。

是一家,名叫New Media Services的公司。

就这JD,别说伪装AI了,AI的部分都看不出来一点。。。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

14000到16000菲律宾比索,折合成人民币也就1600到2000一个月。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

小哥一看,钱虽然没多少,但好歹是份工作,我也能胜任。就入职了。

没想到,悲催的AI陪聊生涯就这么开始了。。。

我顺藤摸瓜找到了小哥口中这个名叫New Media Services的公司。

这公司也是挺有意思的

这是一家非常标准的外包公司。

跟很多给别人做背后真人接管的公司差不多。

主营业务大概就是在线内容审核与人工聊天服务,通过建立虚拟身份库管理全球零工团队,注册地址是墨尔本,但是主要的办公地点在菲律宾的产业园区,主要的员工大多是菲律宾面孔,同时,也在全球范围内招聘像迈克尔这样的远程员工。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

这就有点意思了,注册地是发达国家,用来背书和融资,实际工作地是人力成本极低的发展中国家,用来压缩成本。

这套玩法在制造业和客服行业已经玩了多少年了,没想到在AI时代,又被原封不动搬了回来。。。

接着,我又在这家公司的官网里找到了他们提供的名叫AI for Dating的Saas产品,点进去,卖的是可以约会聊天的数字人。

用的图片看起来还是SD时代的审美和风格,很油,很AI味。

当然,真正的目标客户可能也不太在乎这个。。。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

为了写文章我准备体验一下数字人聊天的效果,但是我马上就发现这玩意儿非常诡异,发出的每一句话都会被它直接吞掉,石沉大海。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

给我整不会了,是聊天小哥下班了吗?

还是说,产品本身就一堆bug?

太草台班子了。。。

不过,虽然没体验成,结合这家公司的情况和小哥在文章里给出的信息,我还是拼凑出了小哥的处境。

在这份假扮AI聊天的职业中,具体是什么样的呢呢,我说四个细节你就懂了。

第一个细节,是内罗毕贫民窟的出租屋里,凌晨三点的灯光。

借着微弱的亮光,小哥要在三四个背的滚瓜烂熟的不同角色中来回切换,飞快打字回复消息,一会儿是在美国读大学的Jessica,一会儿是在澳洲海滩度假的Jack,一会儿是去法国出差的白领Celine。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

这些虚构中的人物,像空中飞人一样跨越国家和时区,活出各种各样的精彩,就像是小哥自己在报航空专业时对未来的设想。

然而,这些精彩人生都不属于他,他的肉身,只能跻身于拥挤和闷热的棚屋里。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

第二个细节,是一份严苛的工作协议。

在这份协议上,情感被折合成最清晰的售价。

每分钟打字必须大于40个,必须在规定时间内回复用户的消息,必须保证用户的留存率。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

和用户的关系越亲密,聊天内容越吸引人,公司从每个用户那里获得的收益就越多。

在这份协议上,他所做的一切,都是保密的,不能向任何人透露具体的工作内容,哪怕是对最亲密的人。

如果有亲友问起,他只能含糊地说,自己在做远程IT工作。

第三个,是一个用户的聊天记录。

这里是一个小哥收到用户消息的例子。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

在纸上,它可能看起来并不冒犯的,但对他来说,它带来了一种不同类型的难受。

毕竟作为一个直男,被被另一个男人要求发生关系,并且不得不假装自己是一个愿意的女人。。。

小哥的原话是:

这让我感到一种强烈的厌恶和无助感。

当然,对面的用户如果知道和他聊情话的AI美女其实是一个真人,还是个抠脚大汉,估计也会觉得心头刺痛。。。

而对于我们这些接受过多年反诈教育的人来说,这件事还有一个更加显而易见的理解方式。

杀猪盘。

你想想,如果把这个故事里的所有细节都串起来,是什么样的。

一家公司,在菲律宾有园区,让员工伪装成网恋对象,要求员工打字速度,还要维持和用户的粘性。。。

如果我不说是AI陪伴,我估计神来了,都会觉得这玩意是电诈。

当然,本质区别是,这至少是一份能发工资的工作,不会限制你的人身自由,也不会因为业绩不达标把你扔到池子里喂鳄鱼。

它更多的是让你做一些,有些违背诚信和个人意志,也不太体面的脏活儿。

但真正让我触动的。

其实是小哥整篇文章里面的一段话。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

翻译过来就是:

这家公司很可能一直在利用我来训练这些系统。每一次对话,我写下的每一个回复,我学会的每一种让用户持续投入的方式,这些数据大概率都在喂给算法,而这些算法最终会取代我。

之所以这样,是因为平台在考核他们的时候,严格的变态。

小哥原话是这么说的:

“我很快意识到,这份工作一点也不普通,它是一套被严密监管的生产系统。每一次互动都会被关键绩效指标追踪,包括消息量、回复速度、用户参与度、对话连续性。达成这些指标是硬性要求。

我们被要求在多个用户和多个班次之间维持漫长且高度个性化的对话,同时还要始终不出戏。准确性、创意、打字速度都在被持续衡量。一旦指标落后,可能收到警告、被减少分配,甚至被解雇。表面看起来像个简单的聊天岗位,真实体验更像高压的持续绩效系统,随时被监控、被量化、被变现。”

从平台的角度,不收集这些数据,然后拿去卖或者直接去训自己的聊天模型,那才是真傻。

真是一鱼两吃。

一方面,提供情绪价值,用人来替代AI,挣了用户的钱。

另一方面,把这些聊天数据,清洗标注完以后,拿去卖大模型公司或者自己做,又能挣一大笔。

只能说,可怜的肯尼亚小哥,可怜的迈克尔。

成了AI时代的,耗材。

嗯,就是耗材这个词,我想不到比这个词,描述更加精准的了。

如果你读过查尔斯·狄更斯的《艰难时世》,或者看过卓别林的《摩登时代》,你肯定不觉得耗材这个词新鲜。

在蒸汽机轰鸣的年代,煤灰里的童工是耗材,流水线上的铆工是耗材。

资本家购买的是你的时间,你的体力,你的肌肉记忆。

你把自己当成一台机器,去换取生存的资料。虽然残酷,但它遵循着一个朴素、古老甚至有点公平的逻辑:

就是你拧的螺丝越多,工作的时间越长,你拿到的薪水就越多。

你的健康,是你唯一的制约因素。只要你还能动,你就能换来回报。

但到了AI时代,这账本的写法,变了。

资本购买的,不再仅仅是你的体力,还有你作为“人”这个物种,最最核心最宝贵的东西:

你的情感,你的共情力,你的语言风格,你的幽默感,你让另一个人感到被理解、被陪伴的能力。

工业时代的工厂主,会指着你的手说:“我需要这个。”

AI时代的新型工厂主,会指着你的心说:“我需要这个。”

你努力,留下更多数据,你努力,训练出更像人的话术。

你努力,磨出更能让用户上瘾的节奏。

你努力,把自己变成一个更稳定的情绪发动机。

每一次回复都在被记录,每一次灵光一闪都被归档,每一次让用户心动的句子都可能进入某个数据集,最后变成模型里一个属于AI的很像人的概率分布。

但,中间一个跟过去不一样的地方,也是一个在我看来,极致的讽刺:

你越卖力,AI就学得越快。

你越努力,你被淘汰的速度就越快。

太抽象了,也太黑暗了。

在工业时代,一个熟练的拧螺丝工人,他的价值会随着他的经验而增长。他越努力,就越不可替代。

他是在和自己的身体极限赛跑。

而在AI时代,迈克尔越是努力地扮演好一个完美的AI伴侣,他回复得越快,越能留住用户,他贡献的高质量标注数据就越多。

而这些数据,正在以他无法想象的速度,训练出一个比他更完美、更不知疲倦、成本更低的迈克尔。

内罗毕的凌晨三点,棚屋里一盏灯亮着,

他在屏幕前,奋力地、主动地,为自己的坟墓终于填上了最后一铲土。

他的明天,在哪呢?

他成了耗材最后最标准的结局,就是用完了。

然后,没用了。

这是一种被生存所逼,却又无可奈何的自我献祭。

你燃烧自己,不是为了照亮前路,而是为了给那即将取代你的神明,点燃最后一根火柴。

这时候你再回头看,我们常说的AI繁荣,它到底建立在什么上面。

我一直觉得,很多人对 AI 的想象有一种童话式的纯净,好像它凭空出现,像神迹一样落在世界上,从此,科技就大幅进步了。

现实更像另一种古老的结构,甚至老到让人难过。

有些人,负责叙事,负责品牌,负责把未来讲得像星辰大海。

而有些人负责成本,负责黑暗里那些看不见的手,负责把每一次像人一样说话背后的汗水和屈辱吞下去。

乌苏拉写过一篇小说,叫《那些离开奥梅拉斯的人》。

你聊得很开心的AI女友,背后却是被当做耗材的肯尼亚小伙们。

城邦繁荣、幸福、文明,代价是有个孩子被关在地下室里受苦。

每个享受幸福的人都知道这件事。

当些新的孩子逐渐长大成人时,他将勘破一个所有人心照不宣的真相:这个世界是由压迫的链条组成的。

表面上温柔、美好、幸福、繁荣的事物,无不基于对另一些人、另一些生灵的掠夺与压制。

第一世界对第三世界,富人对穷人,有权力的人对卑微的人,幸运的人对不幸的人,人类对动物、植物、环境,等等。

最初看到真相的年轻人会不知所措,会愤怒或流泪。

但随着时间流逝,大多数人接受了事实,习惯于自己的角色与地位,并合理化那些不幸者的遭遇,将后者的麻木与苦痛视作必要的牺牲。

只有少数人沉默地离开了奥梅拉斯,走入黑夜之中,再也没有回来。

这就是,《那些离开奥梅拉斯的人》。

有人在地面上享受未来,有人在地下室里替未来打字。

我也想把这个系列写下去,继续去找更多的迈克尔们,更多的新职业,更多的地下室。

不是为了让大家更悲观,是为了让大家在这股浪潮里多一些视角,多一点选择,多一点对人的在意。

奥梅拉斯的灯很亮,亮到让人忘了还有地下室。

可只要还有人愿意回头看一眼,愿意把地下室的门缝掰开一点点。

让光照进去一点点。

那,这个世界就还没彻底输。

文章来自于“数字生命卡兹克”,作者 “卡兹克、水杉”。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)