目前，傳音已經(jīng)在語音識別、語義理解、語音合成、自然語言處理、知識圖譜等方面形成了的自身的AI語音底層技術(shù)能力，構(gòu)建起小語種語音數(shù)據(jù)優(yōu)勢，并在多語種語音助手、數(shù)字人、語音偽造檢測技術(shù)方面取得了重大突破。今年以來，傳音AI技術(shù)部成果不斷，接連在ICASSP 2023 SLU口語理解挑戰(zhàn)賽、IJCAI 2023 ADD 語音深度偽造檢測國際挑戰(zhàn)賽奪得佳績，并在國際多媒體旗艦學術(shù)會議ICME 2023上發(fā)表數(shù)字人多模態(tài)交互的相關(guān)學術(shù)論文。
多語種語音助手構(gòu)建本地語音交互內(nèi)容生態(tài)
語音助手是智能手機的標配應(yīng)用之一，其核心技術(shù)為語音交互和自然語言理解，旨在幫助用戶更快捷、高效地執(zhí)行目標任務(wù)。面對新興市場本地語音交互的需求，傳音長期深耕多語種語音助手技術(shù)，著力洞察本地用戶需求，形成技術(shù)解決方案，在探索和研發(fā)過程中沉淀了深厚的技術(shù)能力和實踐經(jīng)驗。
在語音技術(shù)領(lǐng)域國際頂級會議ICASSP（IEEE International Conference on Acoustics, Speech and Signal Processing）組織的2023口語理解挑戰(zhàn)賽SLU（Spoken Language Understanding）中，傳音AI技術(shù)部憑借在語音識別和語義理解方面的突出表現(xiàn)，以71.97%的準確率獲斬獲離線語音助手子賽道第一名。參賽論文“A Two-Stage System for Spoken Language Understanding”被IEEE電氣與電子工程師協(xié)會（Institute of Electrical and Electronics Engineers）收錄。
傳音AI技術(shù)部同事在ICASSP 2023分享研究成果
當前，語音助手主要面向主流語言，而對小眾語言、特定人群等細分領(lǐng)域覆蓋較少。傳音針對非洲、南亞等新興市場用戶的本地口音和小語種，依托海量手機用戶資源，建設(shè)了一套本地化低成本、高質(zhì)量的語料數(shù)據(jù)生產(chǎn)體系，解決小語種語料匱乏、數(shù)據(jù)稀缺的問題。在此基礎(chǔ)上，傳音開發(fā)能適應(yīng)新興市場本地用戶語言文化特點的多語種語音助手，幫助當?shù)赜脩舾颖憬莸厥褂帽镜卣Z言與手機進行語音交互。目前，傳音的多語種語音助手技術(shù)已支持英語、法語、豪薩語、阿拉伯語、斯瓦西里語等語言的語音交互和自然語言理解能力，覆蓋聯(lián)系人通話、APP快速啟動、音樂播放、WhatsApp消息、閑聊等100多種使用場景。
面向本地用戶生活服務(wù)的訴求，傳音的多語種AI語音助手技術(shù)將不斷接入更多生活、出行、學習、工作等場景的生態(tài)服務(wù)，構(gòu)建多領(lǐng)域跨語言的AI內(nèi)容服務(wù)生態(tài)，讓智能化語音服務(wù)滲透到本地生活的方方面面，讓更多小語種的使用人群受益。
AI+數(shù)字人技術(shù)賦能傳音多場景業(yè)務(wù)
隨著交互智能技術(shù)的加速發(fā)展，數(shù)字人正在從技術(shù)創(chuàng)新走向產(chǎn)業(yè)應(yīng)用，在娛樂、教育、醫(yī)療等多個領(lǐng)域發(fā)揮作用。傳音積極擁抱AI發(fā)展機遇，提前布局數(shù)字人技術(shù)，建立了完備的全鏈路技術(shù)和工程化的自研能力。傳音數(shù)字人系統(tǒng)，包含2D真人和3D寫實數(shù)字人，擁有基于多語種的語音識別、語音合成、語音喚醒、自然語言理解和數(shù)字人等能力的數(shù)據(jù)資源，在多語種語音對話、人設(shè)和外觀、智能化場景交互等領(lǐng)域形成了自身的本地化特色和行業(yè)領(lǐng)先性。今年1月，傳音數(shù)字人系統(tǒng)獲得由中國信通院所頒發(fā)的數(shù)字人領(lǐng)域權(quán)威標準認證。這也是當前唯一通過中國信通院評測，以“交互對話”為核心的中國手機廠商數(shù)字人系統(tǒng)。
為了提高虛擬形象的仿真效果、合成出逼真且富有表現(xiàn)力的數(shù)字人視頻，傳音AI技術(shù)部自研端到端技術(shù)，在優(yōu)化數(shù)字人視頻生成質(zhì)量的過程中，基于Unet網(wǎng)絡(luò)提出了一種新的技術(shù)框架densely-connected Unet結(jié)構(gòu)，同時引入了CLIP的encoder結(jié)構(gòu)，利用文本語義信息提升數(shù)字人嘴部動畫效果。同時該技術(shù)提出人臉關(guān)鍵點技術(shù)的概率密度圖，增加了模型網(wǎng)絡(luò)的模態(tài)信息，提升了模型生成的質(zhì)量。這一技術(shù)突破能夠讓數(shù)字人的面部形象更加真實、細膩，同時提升語音和唇形的一致性，其生成效果達到了學術(shù)上的領(lǐng)先水平。相關(guān)學術(shù)論文“CPNet: Exploiting CLIP-based Attention Condenser and Probability Map Guidance for High-fidelity Talking Face Generation”被國際多媒體旗艦學術(shù)會議ICME 2023（IEEE International Conference on Multimedia and Expo)成功錄用。
目前，傳音數(shù)字人系統(tǒng)已經(jīng)深度應(yīng)用于多業(yè)務(wù)場景，不僅落地海外手機門店，擔任智能導購員為用戶購買手機提供參考，還作為智能語音助手賦能多類智能終端產(chǎn)品，提升用戶體驗。下一步傳音將通過“AI+數(shù)字人”技術(shù)賦能多場景業(yè)務(wù)，積極探索數(shù)字人版語音助手和客服系統(tǒng)等新業(yè)務(wù)形態(tài)，為用戶帶來全新的智能交互體驗。
持續(xù)構(gòu)建AI語音底層技術(shù)能力
在AI技術(shù)快速發(fā)展的現(xiàn)今，算法生成音頻和音頻偽造已經(jīng)可以做到以假亂真，對于普通用戶來說辨別音頻真假非常困難。為了維護信息的可信性、保障社會安全，語音偽造檢測技術(shù)變得至關(guān)重要，已經(jīng)成為人工智能領(lǐng)域的一個較新的研究方向。傳音圍繞智能終端產(chǎn)品業(yè)務(wù)場景，以本地用戶需求為導向，不斷延伸AI語音底層技術(shù)能力，布局新技術(shù)領(lǐng)域，在語音偽造檢測技術(shù)上取得了重大突破。
傳音AI技術(shù)部在國際人工智能聯(lián)合會議IJCAI 2023（The 32nd International Joint Conference on Artificial Intelligence）組織的第二屆語音深度偽造檢測國際挑戰(zhàn)賽ADD（The Second Audio Deepfake Detection Challenge)“篡改區(qū)域定位”（Manipulation Region Location）分賽道上奪得第二名。在比賽中，傳音AI技術(shù)部自研創(chuàng)新的AI模型算法和技術(shù)，能夠準確識別并定位音頻中語音的篡改行為，從而有效保障數(shù)字音頻的原始性和真實性，為AI應(yīng)用及信息安全建設(shè)提供新思路。相關(guān)學術(shù)論文已成功發(fā)表在本屆IJCAI 2023 Workshop on Deepfake Audio Detection and Analysis (DADA 2023）會議上。
下一步，傳音AI技術(shù)部將繼續(xù)探索語音深度偽造檢測技術(shù)在傳音智能終端產(chǎn)品上的應(yīng)用，如通話詐騙檢查保護用戶隱私安全等，不斷提升用戶使用體驗。
未來，傳音將繼續(xù)在AI語音多模態(tài)技術(shù)領(lǐng)域發(fā)力，圍繞“手機+移動互聯(lián)網(wǎng)服務(wù)+家電、數(shù)碼配件”核心業(yè)務(wù)需求，結(jié)合對新興市場和本地消費者的深刻洞察，為用戶提供適切其需求的智能生活體驗，形成本地化的AI內(nèi)容服務(wù)生態(tài)，持續(xù)滿足多語種、多場景、個性化、智能化的應(yīng)用需求。
