这是为了实施防护措施。社交媒体和TikTok等平台上已经分享了大量的错误信息。它们基于算法优先考虑观看时间和参与度,而不考虑伦理道德。现在,主页上的帖子中经常出现AI生成的内容,并明确表示所有生成的深度伪造或经过处理的内容,如果显示出逼真的场景,应该标明是否是假的或经过修改的。
它旨在帮助观众更加明智地选择他们的TikTok内容。有了这个标签,观众可以对是否相信它做出明智的决定。TikTok在3月份更新了其内容政策,创作者必须披露帖子是否包含AI生成或深度伪造内容。这个功能并不适用于所有人,目前正在分阶段推出,所以可能需要一些时间才能为您提供。
TikTok的AI生成内容标签
这个短视频平台正在测试其新的AI生成内容标签以进行披露。TikTok现在还向创作者显示一个弹出式提醒,提醒他们标记AI生成的内容。这包括逼真的场景,并警告如果没有正确标记可能会删除内容。TikTok尚未公开宣布此功能,并且目前尚不清楚何时将向所有人提供。
随着人工智能的发展速度不断加快,识别AI生成的内容变得越来越具有挑战性,尤其是在许多情况下涉及逼真感的AI生成图像。几乎不可能区分真实和虚假。这可能导致错误信息的传播,社交媒体公司正在努力解决这个问题。
TikTok现在允许您在视频中添加AI生成的内容标签
并警告您必须披露AI生成的内容
否则可能会被删除
— Matt Navarra (@MattNavarra)
TikTok的母公司字节跳动今年早些时候已经在中国添加了AI生成的内容标签。现在,该公司可以借鉴这一经验,并确保满足此类发布的完整要求。重要的是要理解,使用视频滤镜和生成的字幕与使用AI生成的内容是不同的。
这些标签使平台能够确定其内容是否使用了AI,从而更容易识别出AI生成的内容。有很多页面不仅发布误导性内容,还故意分享不准确的信息。通过标记它,TikTok可以了解AI生成的内容是什么样子。
如何使用TikTok的AI生成内容标签?
该公司希望用户披露AI生成的内容,为此他们在发布此类内容时引入了一个供创作者选择的标签。该标签显示为“AI生成的内容”,您可以在平台上发布短视频时使用它。要访问该标签,请转到“更多”选项。
AI生成的标签是“遵循我们的指南并帮助防止内容删除的AI生成内容标签”。这个切换是创作者披露AI生成内容的一种新方式。在上传视频之前,它会出现在“更多”选项部分作为描述的一部分。另外,用户还可以在视频的字幕中披露,或者在视频中使用识别贴纸,如“合成”,“假的”,“不真实”或“修改过的”。
由于AI生成的内容在TikTok上并不被禁止,根据TikTok社区准则中的合成媒体政策,公众人物的深度伪造视频在特定情境下是允许的,例如艺术或教育内容,但不适用于政治或商业背书。
自DALL-E推出以来,像Midjounry这样的工具变得越来越常见。TikTok将不可避免地面临更多的AI生成内容,其中并非所有内容都容易识别。然而,TikTok并没有解释“真实场景”是什么意思,最新要求包括任何类型的AI生成音频或视频内容都应标记为AI生成内容。
这不是TikTok第一次采取此类行动。早在2020年,TikTok就禁止了深度伪造视频,因为它们违反了TikTok社区准则。深度伪造视频可能会误导用户,扭曲事件的真相,对视频的主题、个人或社会造成伤害。关于TikTok继续提升其短视频分享平台并更新其内容以应对人工智能的快速增长,美国也有相关讨论。
其他社交媒体平台,如Meta的Instagram,也正在为AI生成的内容制作类似的标签。尽管Instagram尚未上线,但随着人工智能在社交媒体上的应用增长,它最终将可用。Instagram上的AI生成内容标签将类似于TikTok的标签。此外,像谷歌、亚马逊、微软等科技巨头也在努力披露AI生成的内容。