oschina.net 前天 10:54
StepFun AI 发布开源音频编辑模型 Step-Audio-EditX
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

StepFun AI 近日推出了其创新的3B参数开源音频编辑模型 Step-Audio-EditX,旨在使音频编辑操作如同文本编辑般直接可控。该模型通过将音频信号编辑任务转化为逐字令牌操作,显著简化了表达性语音的编辑过程。与现有零样本文本到语音(TTS)系统在情感、风格、口音和音色控制上的局限性不同,Step-Audio-EditX 通过调整数据和训练目标实现精细控制。其核心技术包括采用双代码本的标记器,将语音映射为语言流和语义流,并在混合语料库上进行训练。通过大边距学习和利用约60000名说话者的高质量数据,模型在情感和风格编辑方面表现优异,并通过人类评分数据进行强化学习以提升语音生成的自然性和准确性。新引入的 Step-Audio-Edit-Test 基准和Gemini2.5Pro的评估显示,该模型能有效提升语音编辑的准确性,并改善闭源TTS系统的音频质量。

🎙️ **Step-Audio-EditX 开源模型革新音频编辑:** StepFun AI 推出的 Step-Audio-EditX 是一个3B参数的开源模型,它将复杂的音频编辑任务转化为类似文本编辑的逐字令牌操作,极大地提高了音频编辑的直观性和可控性,为表达性语音编辑带来了便利。

💡 **突破现有TTS系统局限:** 传统零样本文本到语音(TTS)系统在情感、风格、口音和音色控制上存在不足。Step-Audio-EditX 通过优化数据和训练目标,而非复杂的额外架构,实现了对这些语音特性的精细化控制,满足用户更个性化的需求。

🚀 **创新的双代码本标记器与训练策略:** 该模型采用双代码本标记器,将语音分解为16.7Hz的语言流和25Hz的语义流。通过在大边距学习方法上进行后续训练,并利用约60000名说话者的高质量数据,模型在情感和风格编辑方面展现出卓越性能,并结合人类偏好数据进行强化学习,提升了语音生成的自然度和准确性。

📊 **引入新基准与显著成效:** 为科学评估模型效果,研究团队开发了Step-Audio-Edit-Test基准,并借助Gemini2.5Pro进行评判。测试结果表明,经过多轮编辑,Step-Audio-EditX在情感和说话风格的准确性上实现了显著提升,并且能够有效优化其他闭源TTS系统的音频质量。

StepFun AI 近日发布了其开源的音频编辑模型 Step-Audio-EditX,这一创新的3B 参数模型将音频编辑的操作变得像文本编辑一样直接和可控。通过将音频信号的编辑任务转换为逐字的令牌操作,Step-Audio-EditX 使得表达性的语音编辑变得更加简单。

目前,大多数零样本文本到语音(TTS)系统在情感、风格、口音和音色的控制上都显得有限。尽管它们可以生成自然的语音,但往往无法精确地符合用户的需求。过去的研究尝试通过额外的编码器和复杂的架构来拆分这些因素,而 Step-Audio-EditX 则通过调整数据和训练目标来实现控制。

Step-Audio-EditX 采用了双代码本的标记器,将语音映射为两个令牌流,一个是以16.7Hz 的速率记录的语言流,另一个是以25Hz 的速率记录的语义流。模型在一个包含文本和音频令牌的混合语料库上进行了训练,使其能够同时处理文本和音频令牌。

该模型的关键在于采用大边距学习的方法,后续训练阶段利用合成的大边距三元组和四元组来增强模型的表现。通过使用约60000名说话者的高质量数据,模型在情感和风格编辑方面表现出色。此外,模型还利用人类评分和偏好数据进行强化学习,以提高语音生成的自然性和准确性。

为了评估模型的效果,研究团队引入了 Step-Audio-Edit-Test 基准,使用 Gemini2.5Pro 作为评判工具。测试结果显示,经过多轮编辑,模型在情感和说话风格的准确性上都显著提升。此外,Step-Audio-EditX 还可以有效提升其他闭源 TTS 系统的音频质量,为音频编辑的研究带来了新的可能性。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

StepFun AI Step-Audio-EditX 音频编辑 AI 开源模型 Text-to-Speech TTS 语音合成 Audio Editing Open-Source Model Speech Synthesis
相关文章