
YouTube 最近搞了个大动作,要把 AI 换脸检测工具的使用范围再扩大一波。之前这个功能主要针对一些公众人物,现在直接覆盖到政治家和记者群体了。
说实话,这步棋走得挺及时。这两年 AI 生成视频的技术进步太快了,普通人用个手机 App 就能做出以假乱深的换脸视频。要是有人拿这个搞事情,伪造个政客发表不当言论的视频,或者捏造记者说了什么不该说的话,那后果真不敢想。
YouTube 这次的做法是在检测到疑似 AI 生成的政治相关内容时,直接在视频下方加个提示标签。用户点开视频就能看到”此内容可能经过 AI 处理”的提醒。不是什么复杂的操作,但胜在简单直接。
有人可能会问,这样会不会误伤?毕竟现在的检测技术也不是百分百准确。YouTube 方面也承认了这个问题,所以说的是”疑似”而不是”确定”。标签用的是比较温和的措辞,不会直接给内容判死刑。
其实吧,这事儿背后反映的是整个行业对 AI 生成内容的焦虑。不光 YouTube,Meta、TikTok 这些平台都在搞类似的东西。但话说回来,光靠平台自觉够吗?恐怕还得有更明确的行业规范才行。
对普通用户来说,看到这种标签多留个心眼总没错。毕竟现在网上真真假假的东西太多了,保持点质疑精神不是什么坏事。
YouTube 这个功能会在未来几周内逐步上线,先在美国测试,然后再推广到其他国家。具体效果怎么样,还得看实际运行情况。
信息来源:The Verge
总的来说,YouTube 这次出手算是给行业打了个样。AI 技术发展太快,监管和规范确实得跟上。不然等出大事了再管,就晚了。
