跳到正文
Giordano Cabral

研究方向 · 1999–2015,2021 年重启

人工智能系统如何实时生成音乐和音频?

实时生成音乐内容的人工智能系统:给定和弦谱,生成吉他演奏;给定即兴旋律,找出和声;给定风格,生成伴奏。这是履历中最早的研究方向。它始于 1999 年的项目“Agentes Inteligentes para Ambientes Complexos: estudo do acompanhamento musical em tempo real”(复杂环境中的智能体:实时音乐伴奏研究),经过硕士论文(2002)和在 LIP6 多智能体系统团队完成的博士论文(2008),2015 年与 Sony CSL 再度开展,2021 年又以一项公开的和弦检测挑战赛延续。

从上方俯视的工作台:一个带有四个按钮和脚踏板的 MDF 盒子、线缆、焊锡卷、面包板、游标卡尺,以及一张画有波形的纸;一个红色按钮。

01 · 实时音乐与音频生成

贡献

D'Accord Guitar · 2001

问题在于如何从和弦谱得到演奏:选择吉他指板上的按弦位置,对吉他手的手部建模,并为学习者制作演奏动画。该系统源于项目“Agentes Inteligentes para Ambientes Complexos: estudo do acompanhamento musical em tempo real”(1999–2001),并成为 Giordano Cabral 在 CIn 的硕士论文 D'Accord Guitar: um Sistema de Execução Violonística(2002,导师 Geber Ramalho,CNPq 奖学金)的基础。四篇论文介绍了该系统,作者包括 Izabel Zanforlin、Hugo Santana、Rodrigo Lima 和 Geber Ramalho:Da Cifra para o Braço 和 Playing Along with D'Accord Guitar(VIII SBCM 2001,Fortaleza)、Modelagem da Execução Musical em Violão e Guitarra(ENIA 2001)以及 D'Accord Guitar: an Innovative Guitar Performance System(Journées d'Informatique Musicale,Bourges,2001;hal-02987455)。软件 D'Accord Violão Player(2001)和公司 D'Accord Music Software 均由此而来。SBCM 的 PDF 见会议论文集:研究论文和讨论论文。

D'Accord Violão Player 的界面,和弦谱与乐器指板同步显示
D'Accord Violão Player 的界面,和弦谱与乐器指板同步显示

基于模式的节奏伴奏 · 2004

Using Patterns to Generate Rhythmic Accompaniment for Guitar 根据从真实演奏中提取的模式生成伴奏。团队中有一位民族音乐学家 Carlos Sandroni,以及 Márcio Dahia、Hugo Santana、Ernesto Trajano 和 Geber Ramalho。Sound and Music Computing / JIM 2004,巴黎;hal-03354323,zenodo.849240。该工作早于博士论文,以 D'Accord Guitar 为基础。

增量解析 · 2005–2006

Cabral 与 Jean-Pierre Briot 和 François Pachet 合作,将用于实时延续乐句的 IP 算法应用于伴奏系统:Parsing incremental para acompanhamento em tempo real(第 10 届 SBCM,Belo Horizonte,2005;hal-01416429,会议论文集 PDF)和 Incremental Parsing for Real-Time Accompaniment Systems(FLAIRS 2006,音乐与艺术中的人工智能专题;hal-01338563,PDF)。

Harmonisation automatique en temps réel,博士论文 · 2008

生成式人工智能方向博士学位,导师为 Jean-Pierre Briot(LIP6)和 François Pachet(Sony Computer Science Laboratory,巴黎),2003年至2008年就读于 LIP6、Université Pierre et Marie Curie (Paris 6) 的 SMA (Systèmes Multi-Agents) 团队,获 CAPES 奖学金;2003年至2007年,研究工作与 Sony CSL 团队共同完成。论文定义了 système d'harmonisation automatique en temps réel(实时自动和声系统):该系统能够以音频形式、实时地为一段旋律(可能是即兴的)自动生成和声,节奏型固定,信息不完整,系统与用户之间相互影响。该方法扩展了音乐信息检索技术,使其直接作用于声学信号,并在每个开发周期中通过实验进行验证;成果是一个解决方案 framework,并与人类音乐家进行了对比评估,结果是一个简单的方案胜过了所有其他方案,包括更复杂的方案。答辩于2008年7月9日举行,获 très honorable 评语;答辩委员会成员为 Jean-Pierre Briot、François Pachet、Myriam Desainte-Catherine 和 Sergi Jordà(评审人)、Jean-François Perrot 以及 Geber Ramalho。NNT 登记号 2008PA066236,见 theses.fr;摘要和答辩委员会信息见 LIP6 档案页。

LIP6 的论文档案页,含法文摘要和2008年答辩委员会信息
LIP6 的论文档案页,含法文摘要和2008年答辩委员会信息

Ramin · 2008–2009

论文中的 framework 后来有了名称和软件:Ramin: A Framework for Real-Time Improvised Accompaniment and Harmonization(IEEE International Symposium on Multimedia,伯克利,2008年)以及程序“Ramin, um Sistema de Harmonização em Tempo Real”(2008年)。次年发表 Comparing Techniques for the Automatic Accompaniment of Audio Improvisation(IEEE ISM 2009,圣地亚哥),作者包括 Briot、Pachet 和 Ramalho,对各种伴奏技术进行了比较。

Ramin,实时自动音乐伴奏系统,取自 MusTIC 的资料
Ramin,实时自动音乐伴奏系统,取自 MusTIC 的资料

Capturing a Musician's Groove · 2015

论文完成七年后,与 Sony CSL 的合作在 IJCAI 2015(布宜诺斯艾利斯)的应用演示中得以延续:Capturing a Musician's Groove: Generation of Realistic Accompaniments from Single Song Recordings,合作者为 Mathieu Ramona。一个拼接式合成引擎接收演奏者演奏某首乐曲的录音,并据此为任何其他乐曲生成具有该演奏内容的伴奏。关键在于被截取片段边缘的时间偏差,它们构成了 groove:偶然产生的偏差会被修正,有意为之的偏差则予以保留。IJCAI 摘要 · PDF。

Brazyle · 2017

Sony CSL 的 Flow Machines 项目(音乐创作人工智能)的巴西部分:一个巴西风格的数据库。Flow Machines 产出了专辑 Hello World(2018年),这是世界上最早由人工智能创作的专辑之一(专辑制作名单);详情见新闻报道。

Chord Detection Challenge · 2021

与 Moises.ai 合作举办的和弦检测公开挑战赛,2021年3月16日启动,6月公布结果(CIn 门户网站,2021年6月9日)。评估和弦估计与对齐任务的论文发表于 SBCM 2021,合作者为 Valter Jorge da Silva(doi.org/10.5753/sbcm.2021.19425)。

02 · 实时音乐与音频生成

指导工作与产品

Cabral 协助指导了 Uraquitan Sidney Cunha 关于和弦自动转录的博士研究(Lattes 中有2010年和2015年的记录),并指导了 Arthur Lubambo Peixoto Accioly(混合音源的和弦转录,2017年)和 Bruno Tavares de Melo Gomes(基于 dynamic time warping 的 chord following,2018年)的毕业论文(TCC)。

相关的产品线是 iChords:旋律与和声识别引擎(RHAE/CNPq,2008–2010年)、iChords.Net(2008–2010年)、iChords Station(2011年)以及应用程序(2019年),其中包括2019年 Banco do Nordeste 和 FACEPE/Tecnova 的项目,由 Rodrigo Pereira 负责。这是在 Daccord 进行的技术开发,Cabral 是该公司的创始合伙人。

后续内容见:音乐信息检索以及课程 Computação Musical(计算音乐)。