卢璐刚离世，网络上出现了一段她的悼念视频，视频中她声泪俱下，表现得异常哀伤，声称自己和已故的老刘有着深厚的感情，并展示了一罐保养品，声称这是老刘生前常用的。然而，经过网友的仔细辨别，发现视频中的卢璐是通过AI技术合成，根本不是真实的她。央视随后对这一现象进行了报道，揭示了其背后的真相。真正的卢璐早在几天前就已通过社交媒体辟谣，表示自己根本没有参与任何此类活动，但不久后，仍有人假冒她的身份继续销售同款产品。
不仅仅是卢璐，许多娱乐圈的名人也成为了AI换脸和声音盗用的受害者。演员温峥嵘发现，多个直播账号假借她的名义进行销售，但她只有一个正式的社交平台。在多次举报无果后，温峥嵘的团队最终决定报案，警方已对此展开调查。另外，央视主持人李梓萌也遇到了类似问题，她的形象被恶意使用于广告中，涉及的产品后来被查明并无疗效，相关公司的虚假宣传受到处罚。
甚至在体育界，国家级运动员的声音也遭到了AI克隆，用于售卖农产品。这些假冒的内容迅速传播，损害了运动员的声誉，并且他们的家人早已澄清未曾授权与任何产品合作。随着技术的普及，这种现象愈发严重，普通人也不得不警惕AI技术带来的骗局，尤其是用来冒充熟人借钱的各种诈骗手法。
国家已经出台了相关法规，要求标识所有AI生成的内容，但光有规定远远不够。各大平台需要主动采取措施，防止这类事件的发生，避免让受害人再遭受损失。公众应保持谨慎，在涉及金钱交易时，不随便轻信视频中的内容，务必确认身份后再做决定。
发表评论