前几天被赵本山忽悠了。准确的说是被一段和赵本山的视频忽悠了。
本山大叔一改往日荧屏上的模样，穿着一件裘皮大衣出现在视频中，神情严肃地坐着谈论自己过去参加春晚的经历，说着极其流利的英语。我觉得很惭愧，想到在学校学了这么多年英语，现在连一句话都说不清楚。
赵本山很少用流利的英语示人，除了在电影《笑傲江湖》中说了一句蹩脚的英语“愿原力与你同在”，被翻译成“别逗了，没用的”，被当成笑话传了出去。他更出名的是他的铁岭口音和幽默形象。
我对网上的信息一直很谨慎。短视频汪洋大海里的很多东西，早已难辨真假。长期以来，与虚假视频的斗争也教会了我一双火眼金睛，相信自己几乎一眼就能看出哪些是真的哪些是假的。
我看过艾画的《川普被捕图》，他的监狱神情历历在目；我见过AI虚拟主播在直播间带货，接近真人出现的效果；我听过艾斯蒂芬妮唱刀郎的《罗刹海城》，连音调和呼吸声都一模一样。
只有当我听到那段视频，说英语的声音和赵本山一模一样，看到视频右下角“杨澜访谈录”的字样，甚至当他说的一切都和他的嘴相吻合的时候，我才相信，这一口流利的英语真的出自本山大叔之口，毫无疑问。
刷了几十秒的短视频，还在回味本山大叔地道的英语发音。我立刻看到郭德纲用英语说相声，魏凡用英语表演小品，罗永浩用英语现场送货。这些视频看起来没有违和感，但似乎有什么奇怪的地方。
直到看到角落里“AI生成”的字样，才如梦初醒，大吃一惊。如果不是图上方的小字，恐怕赵本山本人会有一百个说法，他的老搭档魏凡又被忽悠了。我的“金眼睛”甚至有一天被欺骗了。不得不感觉AI又进化了，我落伍了。
年初的时候，我很不屑艾画的作品有瑕疵。现在，AI技术生成的视频无处不在，直接让这个社会进入了“眼见为实”时代。
在那些借助软件可以快速生成的视频中，李云龙、马保国和刀郎都熟练地说着英语，于谦用日语扮演主角，而马斯克、川普和迈克尔·杰克逊则说着带有外国口音的普通话。
我被这些视频惊呆了。看了很多遍，还是盯着那些名人的嘴看。真不敢相信造假可以做到如此逼真，连赵本山说英语的时候嘴角都能做出来。
在很多人看来，伪造这样的视频纯粹是为了娱乐，甚至有人兴奋地拿起自己的视频和语音喂给AI，以此来锻造精通各种语言的自己。
AI正在朝着完美创造者的方向进化，这很神奇，也很恐怖。这种伪造被称为“深度伪造”，不同于过去简单的伪造，而是基于深度学习。甚至连脸、声音、眼睛、口型、动作甚至指纹都可以“假”成真人。
图像造假的历史可以追溯到100多年前。欺诈的技术和工具在过去的100年里一直在发展，但从来没有像今天这样，几乎在视觉和听觉上，虚假和真实之间的界限已经完全模糊。人们原本信奉的“有图有真相”“这个视频就是证据”的道理，瞬间就不香了。更多的人会在假视频面前失去辨别真伪的能力。
我们生活在这样一个互联网时代，完全没有隐私可言。想象一下，如果有人偷了你的一张照片，或者从你的短视频账号下载了一段视频，然后利用AI技术伪造了一段视频，在这段视频中，你说了一些你从未说过的话，做了一些你从未做过的事，然后发送给你的家人、朋友和同事。应该如何应对？
有媒体报道，今年，在美国亚利桑那州，一位母亲接到了一个奇怪的电话。电话里，她听到了女儿的声音，女儿在哭，喊着“妈妈”。这位母亲知道她15岁的女儿在外地滑雪，她很担心会发生什么事。后来她听到一个男人的声音，声称女儿在自己手里，需要100万美元，否则就强迫女儿吸毒，送她去墨西哥。
母亲吓坏了。她还听到电话里女儿的声音:“救救我，妈妈！”“但很快，丈夫确认了女儿的安全，意识到这是骗子打来的电话。但这位母亲还是很疑惑，因为她很确定，她在电话里听到的真的是女儿的声音，她的语气，甚至她哭的方式，都和真人没什么区别。
手机上的声音只是通过AI克隆的声音。据说还有一个AI软件，只需要3秒的语音样本，就可以完美的伪造我的声音和语气。如果诈骗分子掌握了这个技巧，我还敢随便和陌生人说话吗？
然而，这是半年前的新闻。六个月后，AI技术已经可以克隆完整的人了。如果绑匪发来假的绑架视频，而恰好此时此刻你联系不上孩子，后果将不堪设想。
虽然现在这种骗局并不流行，但一些犯罪分子已经开始滥用最新的AI技术来实施犯罪。在各地警方公布的案例中，犯罪分子通过AI拟声词、AI变脸等手段，成功骗取数千元至百万元不等的钱财。明星、专家、官员等人的音视频也可能被伪造，用于行骗。一个“反诈骗中心”公开表示，AI技术作弊的成功率接近100%。
虽然很多国家都要求添加水印来明确标记AI生成的内容，但那些试图从中获利的人肯定不会这么做，面对伪造的视频我们只能“睁一只眼闭一只眼”。
在很多方面，这种技术也可能被滥用，带来不良后果，如制造虚假新闻、制作或篡改法庭证据、伪造色情视频、恶意攻击、抹黑诽谤他人等。
一些工程师试图开发AI内容检测器，以魔法战胜魔法。这些检测器可以检测相关内容是否有AI生成的痕迹，就像一面魔镜，但目前部分检测器的检出率并不高。作为普通人，我们在读文章、听音频、看图片或者视频的时候，很难把“镜子”握在手中，一直举在面前。
很多时候，当我们发现那些视频是伪造的时候，假象可能已经作为真相传遍了各个角落，可能已经无可挽回地产生了一些不好的后果。
我不想反对或阻碍AI技术的进步。其实我很欢迎这种技术，来到AI世界制造“假货”。甚至当AI进化出新的功能时，我也很兴奋——有人用这种技术创造出前所未见的东西。
比如在一个视频平台上，一个博主扮演着导演和编剧的角色，用AI技术再现名人，把不同时代、不同领域、不同国家的不同人安排成一个又一个的视频脱口秀。
为了满足乔布斯想和苏格拉底喝下午茶的愿望，他创造了AI乔布斯和AI苏格拉底，并邀请AI约翰列侬主持对话。在那个小小的屏幕上，他们三个自由自在地聊着“嬉皮士精神如何影响硅谷”和“技术与艺术的关系”。而且据说几乎85%的对话内容都是ChatGPT-4生成的。
这些视频受到了许多观众的好评，尽管许多人都明白，那些视频中最经典的仍然是这些名人的思想创造，而不是AI产生的声音和微笑。但导演给了苏格拉底、尼采、李白等人一种新的存在方式——数字生活，也创造了一种新的对话方式，让圣贤们思想碰撞。
正如艾·苏格拉底在视频中所说，“技术就像命运本身一样，既无善意也无恶意，而是人类手中挥舞的力量”。艾·乔布斯说，“这就像两只狼，一只贪婪、嫉妒、急躁，另一只充满了爱、同情和耐心。哪一个长大，取决于我们选择喂养哪一个。”
来源:中国青年报”