近期,人工智能(AI)技术的迅猛发展在极大程度上便捷了社会生活,但与此同时,一系列安全隐患也随之浮现。其中,深度伪造技术的滥用尤为引人关注,它能够创造出高度仿真的视频与图像,却并非基于真实,已对社会秩序造成了不小的冲击。
据相关报道,今年以来,利用AI深度伪造技术假冒名人的现象屡见不鲜。一个令人震惊的案例是,不法分子通过AI技术,伪造了知名医生张文宏的面部形象与声音,以此进行直播带货,竟然成功销售了1200多件蛋白棒产品。这一事件不仅侵犯了张文宏医生的肖像权和名誉权,也严重误导了消费者。
不仅如此,刘德华和雷军等知名人士也成为了AI伪造技术的受害者。刘德华的声音被不法分子恶意用于短视频制作,以吸引流量,其电影公司也不得不多次发布声明,提醒公众注意防范。这些事件无疑给公众人物带来了极大的困扰和损失。
专家指出,当前的AI技术已经能够通过深度学习轻松克隆他人的面部和声音,甚至仅需一张照片和一段语音样本即可完成。然而,这种技术并非完美无缺。伪造的视频在实时直播方面存在困难,同时在脸部轮廓、背景融合度等细节上也会露出破绽。只要观众仔细观察,便能在口型与语音匹配度等方面发现异常。
对于这类侵权行为,法律已经有了明确的规定。根据《民法典》和《网络安全法》,未经授权使用他人形象或声音进行商业活动,发布者将可能面临损害赔偿和刑事责任的双重处罚。同时,如果消费者因AI假冒名人带货而上当受骗,也可以依据消费者权益保护法要求“退一赔三”,维护自己的合法权益。
专家还呼吁短视频平台承担起主体责任,加强对内容的审核与管理,及时下架违规内容,并对发布者采取信用管理和处罚措施。只有各方共同努力,才能有效遏制AI深度伪造技术的滥用,维护社会的正常秩序和公众的合法权益。