AI news

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

By 新智元1 viewsSource: 新智元
一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

论直播,AI版黄仁勋,竟碾压了本尊?周三的GTC 2025大会上,黄仁勋在华盛顿登台激情演讲。但怪事发生了。另一个打着「NVIDIA LIVE」旗号的直播,却悄悄聚集了近10万观众。

The full text has not been translated yet. The Chinese original is shown below.

论直播,AI版黄仁勋,竟碾压了本尊?

周三的GTC 2025大会上,黄仁勋在华盛顿登台激情演讲。

英伟达官方账号,全球同步直播。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

刚开播时,在线人数还只有1.2万。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

但怪事发生了。

另一个打着「NVIDIA LIVE」旗号的直播,却悄悄聚集了近10万观众。

人数是官方的8倍之多!

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

然而,这个直播间里,一切都是假的。

不仅直播内容是伪造的,就连台上的「黄仁勋」也是AI生成的。

更离谱的是,这个AI老黄不讲GPU,而是大肆搞起了诈骗。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

AI黄仁勋,竟比真身还火

网友Dylan Martin,是第一批察觉到异常的人之一。

他第一时间就在X上发了一篇推文,提醒大家不要上当。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

在官方主题演讲20分钟后,已有9万+观众,进入了这场虚假直播间。

因为,不知何故,当你在YouTube搜索「NVIDIA GTC DC」关键词后,其推荐位排在了官方主题账号之上。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

右图中另一位网友搜索后,官方直播推荐第一,假直播间排到第二

很多人在不知情的情况下,意外点进了这场由AI生成黄仁勋伪造视频。瞬间,被割韭菜的观众,冲到了9万。

Dylan Martin就是其中的受害者之一,当他进入冒牌直播间后,瞬间傻眼——老黄怎么转行了?

他用Otter AI转录了老黄的讲话,堪称AI界的一大奇观,以下是(部分)演讲稿:

大家好,欢迎来到位于华盛顿特区的NVIDIA GTC大会。

我是黄仁勋,非常高兴今天能与大家一起深入探索AI图形和计算的未来。

不过,在正式开始主题演讲之前,我有一个令人兴奋的惊喜要宣布——一个我们迫不及待想分享的消息。

我们暂时推迟主题演讲几分钟,只为公布一件真正特别的事。

这不仅仅是一场随机的活动,而是一场庆典,庆祝我们的技术如何推动去中心化的未来,并邀请你参与其中。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

这场闹剧的背后,操纵者是一个名为「Offxbeatz」的频道,利用AI换脸和合成语音技术,精准地抓住了观众对GTC大会和黄仁勋本人的高度关注。

他们巧妙地将流量引导至一个精心设计的骗局中,直到最终被平台封禁。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

更疯狂的是,演讲中AI老黄太过逼真,声音、动作、容貌几乎和真人一模一样,一些人根本没有看出不对劲。

甚至,还有数千人被骗,11.5万美元(约82万)全被骗走了。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

别说普通人了,就连美国电台CNBC也上当了。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

只有那些鉴别出AI生成的网友,幸运地躲过了一劫。

还记得四年前,英伟达GTC上秀过的那个「数字版」老黄吗?这一次,也算是给它找到了应用场景。

14秒假老黄,骗过全世界

2021年4月GTC大会,一个假老黄现身自家厨房,一句「欢迎来到GTC」开场,却骗过了全世界。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

直到5个月后,英伟达官方才亲自揭秘了镜头中的端倪。

当时,恰是「元宇宙」元年,那一届GTC大会上,老黄放出了首个元宇宙生成平台Omniverse。

谁也没有想到,一开场的老黄,就是Omniverse实现的效果。

全场1小时48分钟的演讲,只有在1:02:41-1:02:55这14秒钟,是数字版老黄。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

当时,为了打造这个替身,真人老黄完成了全身3D扫描,甚至连标志性的皮衣也被360°完成捕捉。

面部的动作,则通过Audio2Face工具导入纯音频后即可实现。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

针对面部太假的问题,团队又借用Face-Vid2Vid,将老黄本人照片,对应覆盖在CG模型上。

然后,就可以得到一张令人难以辨别,还原真身的面孔了。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

最后,舞台上动作的实现,背后还需要一个动捕演员去代劳。

为此,英伟达共录制了长达8小时视频,在此期间,演员一边阅读以前演讲,一边去模仿老黄的动作的表情。

由此,得到最终版老黄替身,在出场后几乎毫无破绽。甚至,连头发丝都是合成的。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

要知道,这还是四年前,ChatGPT等大模型还未诞生前的技术,足以以假乱真。

而如今,打造一个逼真的伪造视频,更是信手拈来。

AI视频、AI图像生成大模型、工具爆发,完全可以轻轻松松编造一个任何人的替身。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

在这个真假交织,虚实难辨的当下,人们又该如何成为清醒的辨别者?

彩蛋

GTC大会之后,英伟达市值首破5亿美元,再一次破世界纪录。

登上老黄巅峰第二天,老黄便前往韩国APEC首席执行官峰会,与三星CEO李在镕、现代CEO郑义宣约饭。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

韩国一家社区炸鸡店,瞬间堵满了各路记者。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

老黄、李在镕和郑义宣三人围坐一桌,互相敬酒。祝酒后老黄高喊,要为全场买单。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

更有趣的一幕是,在英伟达NVIDIA GeForce 25周年庆典上,老黄搭着郑义宣肩,称两人为「炸鸡啤酒兄弟」。

他还调侃李在镕,「我当年用三星GDDR的时候,你还年轻气盛呢」。

一场直播,10万人被骗!「AI黄仁勋」比真人火8倍

参考资料:

https://www.tomshardware.com/tech-industry/fake-nvidia-gtc-stream-hosting-jensen-huang-deepfake-crypto-scam-garners-100-000-youtube-viewers-video-was-even-promoted-above-nvidias-real-event

https://x.com/DylanOnChips/status/1983204668567134376

https://x.com/readyforweird/status/1983214660225487296

文章来自于微信公众号 “新智元”,作者 “新智元”

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)