AI正在各个领域影响着、改变着我们的世界:小米智能家居,比亚迪车载语音,自动驾驶汽车,智能终端,AI医疗都有AI的声影,在金融、教育、医疗、文化旅游、智能制造、城市治理等六个重点行业,AI正以前所未有的方式改变着世界,但是,随着AI技术不断深入人类的各个行业和领域,它的弊端由此显现出来,比如会带来隐私数据的泄露和数据安全等问题,AI的发展会导致很多传统岗位的技术人员面临失业,汽车自动驾驶也引发了安全问题,当然,其中最值得令人深思的是深度伪造技术给人类带来了经济乃至法律隐患。
所谓真真假假,假假真真,深度伪造技术正是运用互联网平台,通过AI人工算法生成高度逼真的视频或图片技术,这种技术是通过学习名人的声音和动作,形成此名人的视频虚假内容,这个由AI形成的视频让经常在网上冲浪的网友们难以辨别真假,从而造成了很多经济损失。
“张文宏”深夜带货?本人回应
最近,在一个名为“般画234”的账号视频中,“张文宏”反复介绍了一种蛋白棒,乍一听口音像张文宏,面孔也是张文宏,其视频中挂载着几千单的蛋白棒,其橱窗内的蛋白棒的销量显示已出售了1200多件,当然,此账号肯定也逃不过被网友征伐的风险,这段伪造的视频也被平台删除。
张文宏主任说,他已经向平台投诉多次此类冒仿他的账号,但是他个人的力量不足以将平台上所有的账号都查出并一一举报。张文宏主任说,这些仿冒我容貌,侵犯消费者的权益的行为应当严令禁止,很多喜欢刷抖音的人很容易被这些虚假的视频欺骗,所以他觉得应该要有相关部门来处理这种问题。
上海市消保委首次对该事件发声,未经当事人授权的AI合成并带货卖货的行为实质上已经构成了对消费者的欺骗和隐瞒,呼吁相关的监管部门严厉处罚。
上海市消保委副秘书长唐健盛表示,对于已经上当的消费者而言,可以按照消费者权益保护法的规定,要求此类违法的商家按照退一赔三的方法,对金额不足500元的按照500元来赔,先将消费者们的经济损失补偿好了,再由监管部门牵头,对这种恶劣行径进行严厉处罚,还消费者一个公道。
假靳东们在短视频里批量贩卖“爱情”
当初,那个被假靳东骗走了19万元的刘佩玲,又跟另外一个假靳东谈起了恋爱,为了和这个假靳东私奔,61岁的刘佩玲和丈夫离婚,独自居住在上海,每天除了上班,就是和这个假靳东聊天。
2024年1月,这场骗局也有了结果,上海静安区人民法院认为,被告人假冒靳东身份,骗取他人财物,几人的行为已构成诈骗罪。
本案的法官对公众说明,这些犯罪团伙运用网友崇拜名人的心理,打着名人的旗号去欺骗这些孤寡老人,再伺机实施犯罪欺骗钱财,这些人犯罪一般都是团伙犯罪。
今年的11月,假靳东再次出现,起因是一位江西老太欲给网络上的一位靳东投资200万拍戏,被贷款的银行识别出来,随即向派出所报案,当警察赶到的时候,这位老太还在激动的说到:“我是在短视频平台上认识的靳东,靳东还向我表白了,我们两人的合照还发布了短视频,现在他很困难,我要去贷款200万给他拍戏。”
警察查看老人的手机消息,发现这位靳东是用AI合成的大骗子,但因为老人对AI所知甚少,反而对骗子所说的话深信不疑,警察多次向老人解释AI合成的技术证明这位靳东是骗子,老人才相信,并对警察表示深刻感谢。
不止张文宏、靳东被AI化,还有他们都曾被AI仿冒
近日,短视频平台上出现了雷军恶搞配音的视频,这些短视频在网络上广泛流传,甚至浏览量过亿,引起了小米雷军的重视,雷军苦口婆心的表示,希望大家今后不要再玩了,这个事情不太好。胖东来创始人于东来被人用AI技术生成声音去卖药,事后胖东来表示将会用法律的手段去维权。
上海市消费者权益保护委员会 也注意到了最近增加的仿冒名人去卖货的视频。
上海市消费者权益保护委员会 副秘书长 唐健盛说:现在我们关注到这些用虚拟人去带货的情况越来越多,有很多商家通过AI的手段去冒用名人的声音和外貌,这些行为侵犯了消费者的权益,这些行为就是一个赤裸裸的欺诈行为。
中国政法大学副教授 朱巍建议说:如果遇到了AI合成的视频传播虚假消息,并不仅仅是将视频删除就行了,更要对删除这个账号所有的盈利权益,对这个账号所有的权限进行强制措施。
AI模仿度高 但并非毫无破绽
要想判断是否是AI合成,其实也有方法,这种又要换脸又要换声的技术,只能制作视频,不能进行视频直播,如果仔细用肉眼辨认,还是能看出AI合成的痕迹的。
专家提醒,可以重点关注视频中人脸的变换,包括人脸和环境的融合度,也可同时关注说话时的语音和语速。
AI 盛行,有朝一日AI是否会掌控世界?
AI,这颗科技星辰,会否会成为地球的至高统治者?《人类简史》的智者尤瓦尔·赫拉,以其独到的视角,引领我们深入这一命题的幽邃迷宫。
首要之处在于,AI已不再囿于“工具”的狭隘范畴。古登堡的印刷机,虽传播了思想的火花,却也未能阻遏仇恨的烈焰;无线电广播,在卢旺达种族屠杀的阴霾中,同样只是信息的载体,未担罪责。然而,AI,这位科技领域的后起之秀,却如晨曦中的异星,闪烁着前所未有的光芒。它不仅是信息的传递者,更是思想的孕育者,决策的制定者,仿佛信息传播乐章中的全能指挥家,而印刷机、收音机,不过是其麾下默默铺陈旋律的乐手。
当下,AI正以一种无形之力,悄然引领我们穿越回古老的预言之门,只不过,昔日的城墙已幻化为屏幕,甚至即将蜕变为无形,无孔不入地渗透进人类生活的每一个角落,如同空气般不可或缺,又难以捉摸。
从某种哲学维度审视,未来的图景或许将是人类集体步入AI的羁绊之中,成为其无形的仆从。不妨遐想这样一个寓言:若外星文明降临,宣布实施“人类颐养计划”——在你年富力强之时,承诺你物质丰盈,精神愉悦,万事如意;然而,一旦步入花甲之年,你便将面临命运的转折点,被送往未知的“宰杀场”,化作宇宙宴席上的珍馐佳肴。面对这样的“恩赐”,大家觉得可以接受吗,欢迎在下方留言评论。
如何有效防范AI技术的滥用?
发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。