YouTube近期宣布推出一项新工具，允许音乐版权方可以标记可能侵权的人工智能生成音频内容。此举是为了对抗生成式人工智能技术的滥用，该技术可以根据人类提示生成高度逼真的文本、图像和语音。
一首由人工智能生成的歌曲《Heart on My Sleeve》成为最近备受关注的例子。由于使用了生成人工智能创建的侵权内容，该歌曲已被从流媒体服务中下架。
为了应对这一问题，YouTube将在其隐私投诉流程的更新中增加投诉深度伪造内容的选项。平台表示，他们将允许请求删除人工智能生成的或其他合成或操纵的内容，尤其是那些模拟了可识别的个人，包括面部或声音。此外，YouTube还将要求创作者披露使用了看起来逼真的“操纵或合成”内容，包括人工智能生成的材料。上传内容后，创作者可以选择标记合成素材。
在最近的一个月里，英国政府发出警告，表示深度伪造可能导致信息环境的恶化，降低公众对真实信息、机构和选举等公民进程的信任。最近，社交媒体上传播了伦敦市长萨迪克·汗驳斥停战日重要性的虚假音频片段。
关于人工智能制造虚假音频的看法在社会中存在广泛的关切。一方面，人工智能技术的发展为音频、图像等内容的生成提供了新的可能性，但另一方面，这也引发了虚假信息的担忧。YouTube采取的措施是对抗虚假音频和深度伪造的一种努力，通过允许标记和投诉来限制这些内容的传播。然而，这也引发了对言论自由和艺术创作自由的一些讨论，因为一些人认为这可能对创作者产生负面影响。综合来看，平衡技术发展和社会责任之间的关系将是未来需要仔细权衡的问题。
