45
编辑：肖航
发布于：2025-03-17 18:07
PConline原创
|
又是一年3月15日，在这一天，聚光灯又一次点亮消费领域，从柴米油盐到车房家电，从线下购物到线上消费，“3·15”国际消费者权益保护日在这一天成为消费者既爱又恨的日子。“爱”的是“欺骗被揭穿，往后一段日子可以规避本不该承受的伤害”，“恨”的是“欺骗仍在当下，瞬间迸发的光亮，终会被不可知的黑暗湮灭”。
图源：央视新闻 对于“稳定的消费市场”而言，欺骗一定是不允许的。众人同煮的汤，一旦出现大量不可控的“恶性汤料”，终成一锅“无从入口的下水”。但“消费”自然地发生在阳光底下，表面“理当公平等价且钱货两清”，背则“阴暗滋生、欺骗横行”。 “AI欺骗仍在发生” 而在不段扩张的“泛消费市场”，新的欺骗也被孕育而生。3月4日，全国人大代表雷军公布了其2025年两会建议，其中一条建议为加强“AI换脸拟声”违法侵权重灾区治理。时间来到2024年国庆假期，7天小长假让“AI雷军”在互联网骂了8天。不论是“被骂人群”还是“骂人者”它们的“互联网消费者权益”都被深深的损害，被人为的“人工智能生成合成内容”所侵害。
图源：网络 这并不是“人工智能生成合成内容”侵害欺骗的个例，在这之前，类似的相关事件早已肆虐于世界各地。23年五月底，一个名叫“Bloomberg Feed”的推特账号发布了一条令人震惊的消息：五角大楼附近发生了大爆炸，现场烟雾滚滚，一片混乱。随着这条推文的传播，全世界都为美国的安全担忧，甚至有人担心第三次世界大战即将爆发，导致美国股市下跌。
多个经过验证的推特账户分享了一张声称显示五角大楼附近发生爆炸的假图片 图源：美媒 把视野看回国内，同样在2023年五月，一篇关于中国人工智能研发公司科大讯飞的文章——“科大讯飞出现重大风险的警示文”在网络上流传，导致其股价大幅下跌，引起了业界的广泛关注。科大讯飞及时作出了回应，表示传闻为不实消息，系有人利用文心一言写了这篇文章。
图源：网络 与“知名企业家雷军”一样被“人工智能生成合成”侵扰受害的还有多位著名歌手，以相关视频网站的“AI 孙燕姿”检索视频为例，“人工智能生成合成”的“声线组合”视乎满足了一般用户对“跨界唱见”的需要，收获了大量围观和“思辨讨论”，甚至用户反馈，该类型事件已经登上了“步步高政治题”，已经被相关题库收纳为“与时俱进的侵权题型”。
图源：网络 此外，一组伪造的AI 生成的飓风伊达利亚的天气照片亦被发布与社交媒体上，吸引了数百万次的浏览和分享，造成了人们对天气的恐慌。当然，早先还有，大家早已“喜闻乐见”的“美总统特朗普被花式逮捕”的滑稽假照片。
AI 生成的飓风伊达利亚
此前网上流传特朗普被捕的假照片。网源网络。 2023年4月11日，中国国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》，该办法是国内生成式人工智能（AI）领域的首份监管文件。时至2025年3月14日，该办法终于由国家网信办、工业和信息化部、公安部、国家广播电视总局共同确定（人工智能生成合成内容标识办法），共计14条，将于2025年9月1日施行。 完整的《人工智能生成合成内容标识办法》需要大家自行前往相关部门官方发布渠道查看。 “办法”规定了“人工智能生成合成内容”的具体定义，并要求所有“人工智能生成合成内容”的“网络信息服务提供者”在其制作的“人工智能生成合成内容”中增加“显式标识”和“隐式标识”。用以识别、区别“人工智能生成合成的内容”。
图源网络 其实在“办法”没有正式确立落地之前，多家“网络信息服务提供平台”已经开启了“上传内容自动检测识别”和“对未标识内容添加显著提示”，并且对“未申请无显示标识的用户，进行「身份案底信息保存记录」”，以监管可能发生的侵权欺骗行为。
图源：网络 对于“一般网络信息提供者”，也就是海量的“网络用户（创作者）”进行的“人工智能生成合成内容”，“办法”也制定了红线范围，要求，使用了AI进行生成合成的内容必须主动标识，有了标识不能删除、伪造和隐匿，违规将以相关法规进行追责。 “第一次「众目睽睽」AI欺骗”
而在更早，“人工智能生成合成内容“刚刚起步的数码DIY圈。在2021年，英伟达用40000帧渲染了”黄仁勋厨房“，并在三个月后，才向大众揭示了“CUDA核心图形计算能力”。谁也没想到，仅过去一年，立足于算法演化、基于“CUDA计算”的“人工智能生成合成内容（AIGC）”开启新的“内容制作革命”。 “获奖的AI欺骗”
佩皮尼昂国际新闻摄影节上，《韦莱斯之书》正在展映 2022年，世界新闻摄影奖（荷赛奖）欧洲大区的“开放形式奖项”冠军颁给了“人工智能生成合成(AIGC)”的摄影集——“《韦莱斯之书》（The Book of Veles）”。根据作者Jonas Bendiksen（乔纳斯本迪克森）事后描述，这本“摄影集”是一场精心策划的造假行为！摄影集出版于2021年，表面上看是一个关于美国小镇“韦莱斯”的纪实摄影作品，聚焦于“2016年美国总统大选当中，这个小镇被作为假新闻生产中心的一个故事”，实际上书名已经揭示了“Veles的背后真相，它同样是古斯拉夫神话中的「混乱和欺骗之神」”。
图源：网络
在正式参赛前，该摄影集甚至欺骗了他的“马格南图片社同事”，没有被任何人发现摄影集的所有内容来自“AIGC”。但荷赛奖的评审团依然给予《韦莱斯之书》高度评价，认为它是一个与主题高度相关的新鲜概念性项目，摄影师在整个项目中始终保持一种强烈的叙事，并巧妙地描绘了生活在虚假信息的时代意味着什么。评审团还称赞了Bendiksen运用创新手法结合象征和讽刺，为整个作品增加了意义，并做出了大胆的政治评论。 写在最后 在光明与阴影的永恒博弈中，欺骗始终是技术演进与人性弱点的共生体。从虚假新闻撼动资本市场到AI歌喉颠覆艺术创作，这些被算法解构的真实性危机，恰恰印证了人类社会的复杂本质——技术的双刃性永远超前于规则的设计。但正如荷赛奖将桂冠授予《韦莱斯之书》所揭示的深刻隐喻：当欺骗本身成为揭露真相的镜子时，我们便获得了超越表象的智慧。 |
原创栏目
影像热点
影像视频
IT百科
影像热词
网友评论
聚超值•精选
45
硬件编年史
![Z CINEMA系列的首批机型，尼康和RED的精诚合作的结晶
RED公司推出兼容尼康Z卡口的V-RAPTOR [X] Z卡口和KOMODO-X Z 卡口电影摄影机](https://img4.pconline.com.cn/pconline/images/pconline_cms/20250213/24553394.jpg)
