首页 > 人工智能 > 人工智能
发布日期:2024-12-23 10:21:32

AI仿冒名人带货风险大?退一赔三制度首次启用张宏文、雷军被冒用

AI仿冒名人带货惊现新招!首次启用退一赔三制度应对张宏文、雷军被冒用

智慧科技

   12月23日消息,随着科技的快速发展,人工智能(AI)已经渗透到我们日常生活的方方面面,从智能家居到自动驾驶,从医疗辅助到教育创新,AI技术正逐步改变着我们的生活方式。

AI仿冒名人带货风险大?退一赔三制度首次启用张宏文、雷军被冒用

   然而,AI双刃剑的特性日益凸显,特别是在深度伪造技术方面,这无疑带来了一系列新的挑战。例如,利用这项技术来假冒名人进行直播带货,不仅可能误导消费者,还可能对名人的声誉造成损害。这种技术的应用范围越来越广,其潜在风险也随之增加。因此,我们迫切需要建立更严格的监管机制和技术手段,以防止此类事件的发生,并确保技术的发展能够更好地服务于社会。 这种趋势提醒我们,虽然AI技术为各行各业带来了巨大的便利和发展机遇,但同时也必须警惕其可能带来的负面影响。只有通过法律规范与技术创新相结合,才能充分发挥AI的积极作用,同时减少其潜在的风险。

AI仿冒名人带货风险大?退一赔三制度首次启用张宏文、雷军被冒用

   今年以来,AI深度伪造事件频发,尤其令人担忧的是,前不久有人利用AI技术,对张文宏医生的脸部和声音进行了深度伪造,并进行了直播带货。 这种现象不仅侵犯了个人隐私权,也对公众造成了误导。尤其是在医疗领域,公众往往依赖专家的意见来获取准确的信息。当这些信息被篡改或误传时,可能会引发不必要的恐慌或错误的行为。因此,亟需加强对AI技术的监管,确保其合理合法地应用于社会各领域,同时也要提高公众的辨别能力,防止被虚假信息所蒙蔽。

   在视频中,被合成的人像多次推荐一款产品,其声音与张文宏极为相似,该款蛋白棒产品已售出1200多件。

   张文宏表示,这个问题已经持续了几周时间,起初他也提出了投诉,尤其是对于不太熟悉AI技术的年长市民来说,他们更容易产生误解和担忧。

   上海市消保委表示,有不法商家利用人工智能技术假冒张文宏的形象和声音进行虚假直播带货,这种行为严重侵犯了消费者的合法权益,是一种赤裸裸的欺诈行为。

   专家称,AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。

   需要指出的是,利用AI伪造内容,冒充名人欺骗公众的情况,并非仅在张文宏事件中出现过。

   今年国庆期间,网络上出现了许多使用小米CEO雷军的声音和头像制作的恶搞视频。这些视频不仅在社交媒体上迅速传播,也引发了公众对数字技术滥用和个人隐私保护的关注。随着人工智能技术的进步,合成音视频变得越来越逼真,这既为娱乐和创意提供了新的可能性,同时也带来了伦理和法律上的挑战。如何在享受技术带来的乐趣的同时,保障个人形象不被滥用,成为了当前亟需解决的问题。社会各界需要共同努力,制定相应的规范和法律,以防止技术被不当利用。

   对于自己的声音被恶搞的视频,雷军表示,最近两年AI特别火,技术进步特别快,前段时间在刷视频的时候经常看到很多人在玩“雷军AI”,就是“雷军语音包”,有网友跟他投诉,说国庆期间被自己“骂”了整整7天。

   确实让我感到困扰和不自在,在此希望各位不要再继续这个游戏了,因为这件事并不好。不过我还是认为人工智能是一项很好的技术,并且非常实用。雷军表示。

人工智能最新资讯
友情链接 百度权重≥3友情链接交换
数界探索  |  科技快讯中文网  |  经济脉动  |  科技先锋  |  财智慧  |  慧算财经  |  财经探秘  |  财经日报  |  今日财经  |  财经风向标
Copyright © 2025 智慧科技官网 网暻网络
备案号:陇ICP备16003923号-4 版权所有