
2月10日消息,影视飓风创始人Tim(潘天鸿)在测试字节跳动Seedance 2.0视频生成大模型时发现,仅上传个人照片后,模型便生成了与其高度相似的声音。Tim表示未授权且未收费,此事引发广泛隐私担忧。
Tim在公开评测中指出:“在没有给任何提示的情况下,只是把我的脸传上去,这个AI居然知道这张脸的声音。”他判断“法理上可能是合规的,但多少有点恐怖”。
字节跳动随后紧急暂停Seedance 2.0的真人素材参考能力。官方运营人员发布通知称:“为了保障创作环境的健康可持续,我们正在针对反馈进行紧急优化,目前暂不支持输入真人素材作为主体参考。”

Seedance 2.0于近期发布,《黑神话:悟空》制作人冯骥评价其为“当前地表最强的视频生成模型,没有之一”。他同时表示:“AIGC的童年时代,结束了。”除暂停真人素材参考外,字节还收紧了其他限制:真人生成需要更严格活体校验,涉及名人或知名IP的生成均受严格限制。
此次事件引发对AI视频模型训练数据来源的拷问。当模型能够生成超出当前输入所能合理推断的信息时,用户有权知道其被如何吸收进入训练体系。
长富资本-长富资本官网-股票配资网站行情-可靠配资网提示:文章来自网络,不代表本站观点。