8月17日消息,随着人工智能技术的迅速发展,网络上出现了各式各样逼真的篡改视频,这一技术也被不法分子利用来实施诈骗。近期,《纽约时报》报道称,AI生成的埃隆·马斯克形象已经出现在数千条虚假广告中,导致数十亿美元的诈骗事件发生,许多人因此上当受骗。
评论指出,去年底,82岁的退休老人蒂夫·博尚普在网络上看到了一段有关马斯克的“真实采访”视频。视频中,马斯克似乎在支持一项承诺快速回报的激进投资机会。由于这段视频极为逼真,甚至连口型都完全对上,博尚普信以为真,于是联系了广告背后的公司。按照公司的指引,他开立了投资账户。接下来的数周内,博尚普进行了系列交易,最终耗尽了自己的退休资金,共投资了超过69万美元(约合495万元人民币)。自然,这笔钱全被诈骗分子卷走。
除了蒂夫·博尚普之外,类似的诈骗情况层出不穷。诈骗者通常找一个真实的视频素材,再使用人工智能工具将其中的声音替换为伪造的声音,同时利用口型同步技术,使马斯克的口型与伪造声音完全一致,这样视频看起来就极其逼真。这种欺骗手段极具迷惑性,导致很多人纷纷上当受骗。
监测深度伪造视频的机构Sensity近日做了一项调查,通过分析2000多段深度伪造视频发现,马斯克已经成为这类视频中最常见的“发言人”。自去年底以来,马斯克出现在近四分之一的深度伪造诈骗视频中,特别是涉及加密货币投资的诈骗视频中,马斯克的出现率达到了90%。这表明,不法分子利用马斯克的高知名度,通过伪造他的形象来欺骗公众,特别是那些对加密货币感兴趣或缺乏相关知识的人。
不仅仅是马斯克,其他知名人士也未能幸免于难。骗子同样利用沃伦·巴菲特、杰夫·贝索斯等名人的形象进行虚假宣传,骗取受害者的钱财。这些伪造的视频不仅让人真假莫辨,还利用了公众对这些名人的信任感,大大增加了诈骗的成功率。
目前,尽管相关部门已经开始对这些篡改视频进行监控和打击,但诈骗事件仍然屡见不鲜。专家提醒公众,在网络上要保持警惕,遇到涉及投资的诱惑性广告应提高警惕,尽量通过官方渠道核实信息。如果怀疑被骗,应及时报警并保留相关证据,以便警方追查。
这种技术虽然在娱乐、影视等领域有广泛的应用前景,但其带来的负面影响不容小觑。未来如何平衡技术应用和防范骚扰、诈骗,将成为社会各界面临的重大挑战。这也提醒我们每个人在享受科技带来的便利时,也要擦亮双眼,避免落入诈骗的陷阱。