基本信息

曹寅   研究员   博士生导师   中国科学院声学研究所

电子邮件:caoyin@mail.ioa.ac.cn

通信地址:北京市海淀区北四环西路21号,中国科学院声学研究所


曹寅,中国科学院声学研究所研究员。主要从事智能声学、空间声智能感知与生成、机器听觉、音频与语音人工智能、多模态机器学习等方向的研究。近期研究重点包括空间声理解与生成、声事件定位与检测、声-文基础模型、语音增强与声源分离、生成式音频建模以及声学内容安全等。

研究领域

本人主要从事智能声学、空间声智能感知与生成、音频与语音人工智能、多模态机器学习等方向的研究。研究内容涵盖复杂声学环境下声信号的感知、理解、推理、分离、增强、生成与安全,面向机器听觉、空间声场建模、声学场景理解以及声驱动多模态智能系统。


具体研究方向包括:


  • 智能声学与机器听觉

面向复杂真实环境中的声信号感知、分析与理解,研究声事件检测、声场感知、声目标识别、声学场景分析等关键问题。


  • 空间声感知、理解与生成

研究多通道/阵列声信号处理、声源定位与跟踪、声事件检测与定位、空间声表示学习、空间声场建模与重建,以及空间声内容的可控生成。


  • 音频与语音基础模型

研究面向音频、语音与空间声的基础模型,包括音频表征学习、声-文对齐、音频大模型、声问答、长时声理解与推理等。


  • 生成式音频与声学内容安全

研究音频/语音生成模型、空间声生成、声学场景生成,以及生成式音频的真实性判别、伪造检测和内容安全问题。


  • 声驱动多模态学习与智能系统应用

研究声与语言、视觉、空间信息等多模态数据的融合建模,面向机器人听觉、低空安全、水下探测、智能终端、工业故障诊断和人机交互等应用场景。


  • 语音降噪、声源分离与目标说话人提取

研究复杂噪声、混响和多说话人条件下的语音增强、语音分离、声源分离、目标说话人提取及相关感知建模方法。

招生信息

   
招生专业
081002-信号与信息处理
070206-声学
招生方向
声智能感知、理解与生成,智能声学与机器听觉,声事件检测与定位,生成式音频与内容安全,声基础模型,声源分离,智能故障诊断,声驱动多模态学习
有源噪声控制,声场重建

教育背景

2008-09--2013-07   中国科学院声学研究所   博士
2004-09--2008-07   南京大学   学士

工作经历

   
工作简历
2026-04~现在, 中国科学院声学研究所, 研究员
2022-05~2026-04,西交利物浦大学, 副教授
2020-12~2022-05,Qualcomm Inc., 主任研究员
2018-09~2020-12,University of Surrey, Research Fellow
2013-08~2015-12,Brigham Young University, 博士后
社会兼职
2020-01-06-今,Associate Editor for Noice Control Engineering Journal, Associate Editor

专利与奖励

   
奖励信息
(1) L3DAS22 挑战赛任务2 “3D 声音事件定位与检测" 第一名, 其他, 2022
(2) 2020 年声学场景、事件检测与分类专题讨论会“评审员奖”, 其他, 2020
(3) 2020 年声学场景、事件检测与分类专题讨论会“可复现系统奖”, 其他, 2020
(4) 2019 年声学场景、事件检测与分类专题讨论会“可复现系统奖”, 其他, 2019
专利成果
( 1 ) 一种惯性式执行器, 发明授权, 2015, 第 3 作者, 专利号: CN103157592B

出版信息

   
发表论文
(1) WavJourney: Compositional Audio Creation With Large Language Models, IEEE TRANSACTIONS ON AUDIO SPEECH AND LANGUAGE PROCESSING, 2025, 第 8 作者
(2) Face2VoiceSync: Lightweight Face-Voice Consistency for Text-Driven Talking Face Generation, Interspeech, 2025, 第 2 作者  通讯作者
(3) PSELDNets: Pre-Trained Neural Networks on a Large-Scale Synthetic Dataset for Sound Event Localization and Detection, IEEE TRANSACTIONS ON AUDIO SPEECH AND LANGUAGE PROCESSING, 2025, 第 2 作者  通讯作者
(4) DiffStereo: End-to-End Mono-to-Stereo Audio Generation with Diffusion Transformer, Interspeech, 2025, 第 4 作者
(5) EDTC: enhanced depth of text comprehension in automated audio captioning, The Computer Journal, 2025, 第 4 作者  通讯作者
(6) Selective-Memory Meta-Learning With Environment Representations for Sound Event Localization and Detection, IEEE/ACM TRANSACTIONS ON AUDIO, SPEECH, AND LANGUAGE PROCESSING, 2024, 第 2 作者  通讯作者
(7) WAVCRAFT: AUDIO EDITING AND GENERATION WITH LARGE LANGUAGE MODELS, ICLR 2024 Workshop on LLM Agents, 2024, 第 4 作者
(8) Detection and Classification of Acoustic Scenes and Events 2024 Challenge POWER CUE ENHANCED NETWORK AND AUDIO-VISUAL FUISON FOR SOUND EVENT LOCALIZATION AND DETECTION OF DCASE2024 CHALLENGE Technical Report, Detection and Classification of Acoustic Scenes and Events 2024, 2024, 第 4 作者
(9) Text-Queried Target Sound Event Localization, EUSIPCO 2024, 2024, 第 5 作者
(10) META-SELD: META-LEARNING FOR FAST ADAPTATION TO THE NEW ENVIRONMENT IN SOUND EVENT LOCALIZATION AND DETECTION, Detection and Classification of Acoustic Scenes and Events, 2023, 第 2 作者
(11) PLDISET: PROBABILISTIC LOCALIZATION AND DETECTION OF INDEPENDENT SOUND EVENTS WITH TRANSFORMERS, Detection and Classification of Acoustic Scenes and Events 2023, 2023, 第 6 作者
(12) A DATA GENERATION METHOD FOR SOUND EVENT LOCALIZATION AND DETECTION IN REAL SPATIAL SOUND SCENES Technical Report, Detection and Classification of Acoustic Scenes and Events 2023, 2023, 第 2 作者
(13) Statistical analysis of multichannel FxLMS algorithm for narrowband active noise control, SIGNAL PROCESSING, 2022, 第 6 作者
(14) SOUND EVENT LOCALIZATION AND DETECTION FOR REAL SPATIAL SOUND SCENES: EVENT-INDEPENDENT NETWORK AND DATA AUGMENTATION CHAINS, Detection and Classification of Acoustic Scenes and Events, 2022, 第 2 作者
(15) Robust parallel virtual sensing method for feedback active noise control in a headrest, MECHANICALSYSTEMSANDSIGNALPROCESSING, 2022, 第 6 作者
(16) Modified narrowband active noise control system with frequency mismatch tolerance, APPLIED ACOUSTICS, 2022, 第 4 作者
(17) Multichannel narrowband active noise control system with a frequency estimator based on DFT coefficients, JOURNAL OF SOUND AND VIBRATION, 2022, 第 5 作者
(18) ECHO CANCELATION AND NOISE SUPPRESSION BY TRAINING A DUAL-STREAM RECURRENT NETWORK WITH A MIXTURE OF TRAINING TARGETS, WASPPA 2021, 2022, 第 2 作者
(19) A TRACK-WISE ENSEMBLE EVENT INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION, ICASSP 2022 - 2022 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 2022, 第 2 作者
(20) Frequency-dependent auto-pooling function for weakly supervised sound event detection, EURASIP JOURNAL ON AUDIO SPEECH AND MUSIC PROCESSING, 2021, 第 3 作者
(21) ARCA23K: AN AUDIO DATASET FOR INVESTIGATING OPEN-SET LABEL NOISE, Detection and Classification of Acoustic Scenes and Events, 2021, 第 2 作者
(22) DECOUPLING MAGNITUDE AND PHASE ESTIMATION WITH DEEP ResUNet FOR MUSIC SOURCE SEPARATION, ISMIR 2021, 2021, 第 1 作者
(23) AN IMPROVED EVENT-INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION, ICASSP 2021 - 2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 2021, 第 1 作者
(24) Optimized decentralized filtered-x least mean square algorithm for over-determined systems with periodic disturbances, JOURNAL OF SOUND AND VIBRATION, 2021, 第 2 作者
(25) SOURCE SEPARATION WITH WEAKLY LABELLED DATA: AN APPROACH TO COMPUTATIONAL AUDITORY SCENE ANALYSIS, ICASSP 2020, 2020, 第 4 作者
(26) PANNs: Large-Scale Pretrained Audio Neural Networks for Audio Pattern Recognition, IEEE-ACM TRANSACTIONS ON AUDIO SPEECH AND LANGUAGE PROCESSING, 2020, 第 2 作者  通讯作者
(27) Detection and Classification of Acoustic Scenes and Events 2020 Challenge INCORPORATING AUXILIARY DATA FOR URBAN SOUND TAGGING Technical Report, Detection and Classification of Acoustic Scenes and Events 2020, 2020, 第 2 作者
(28) LEARNING WITH OUT-OF-DISTRIBUTION DATA FOR AUDIO CLASSIFICATION, ICASSP 2020, 2020, 第 2 作者
(29) EVENT-INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION, Detection and Classification of Acoustic Scenes and Events, 2020, 第 1 作者
(30) GENERALISATION IN ENVIRONMENTAL SOUND CLASSIFICATION: THE ‘MAKING SENSE OF SOUNDS’ DATA SET AND CHALLENGE, ICASSP 2019, 2019, 第 1 作者
(31) ACOUSTIC SCENE GENERATION WITH CONDITIONAL SAMPLERNN, ICASSP 2019, 2019, 第 1 作者
(32) POLYPHONIC SOUND EVENT DETECTION AND LOCALIZATION USING A TWO-STAGE STRATEGY, Detection and Classification of Acoustic Scenes and Events, 2019, 第 1 作者
(33) Experimental validation of virtual absorbed energy of piezoelectric patch actuators in decentralized velocity feedback control of a plate, JOURNAL OF SOUND AND VIBRATION, 2015, 第 3 作者
(34) An analysis of control using the weighted sum of spatial gradients in active structural acoustic control for flat panels, The Journal of the Acoustical Society of America, 2015, 第 1 作者
(35) Active structural acoustic control of plates with different boundary conditions using a weighted sum of spatial gradients, J. Acoust. Soc. Am., 2014, 第 1 作者
(36) Virtual absorbed energy in decentralized velocity feedback control of a plate with piezoelectric patch actuators, APPLIED ACOUSTICS, 2013, 第 1 作者
(37) Active control of low-frequency sound radiation by cylindrical shell with piezoelectric stack force actuators, JOURNAL OF SOUND AND VIBRATION, 2012, 第 1 作者
发表著作
(1) 音频音乐与计算机的交融——音频音乐技术2, 复旦大学出版社, 2022-01, 第 其他 作者

科研活动

   
科研项目
( 1 ) 空间声的理解、推理与生成, 负责人, 研究所自主部署, 2026-04--2029-04
( 2 ) 声音事件识别算法开发, 负责人, 其他, 2025-06--2028-06
( 3 ) 融合空间信息的说话人分离, 负责人, 其他, 2025-05--2028-05
( 4 ) 声源检测定位算法实现, 负责人, 其他, 2025-01--2027-12
( 5 ) 声探测仿真软件开发, 负责人, 其他, 2024-06--2026-12
( 6 ) 声泄露项目语音信号处理算法开发, 负责人, 其他, 2023-09--2026-12
( 7 ) 用于三维计算环境音频分析的多任务学习方法研究, 负责人, 其他, 2023-01--2026-12
参与会议
(1)A TRACK-WISE ENSEMBLE EVENT INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION   ICASSP 2022   2022-05-02
(2)AN IMPROVED EVENT-INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION   ICASSP 2021   2021-05-03
(3)EVENT-INDEPENDENT NETWORK FOR POLYPHONIC SOUND EVENT LOCALIZATION AND DETECTION   DCASE 2020   2020-09-07
(4)POLYPHONIC SOUND EVENT DETECTION AND LOCALIZATION USING A TWO-STAGE STRATEGY   DCASE 2019   2019-09-09
(5)Active structural acoustic control of plates with different boundary conditions using a weighted sum of spatial gradients   Internoise 2015   2015-08-09