阿里推出數(shù)字人視頻生成工具：單張圖片生成逼真數(shù)字人

(資料圖)

阿里云近日推出了一款名為Live Portait的數(shù)字人視頻生成工具。用戶只需上傳一張照片和一段文本或語音，就能生成一段能開口說話的數(shù)字人視頻。這項(xiàng)功能可應(yīng)用于視頻直播、聊天機(jī)器人、企業(yè)營銷等場景，目前已在魔搭社區(qū)創(chuàng)空間開放體驗(yàn)。隨著對(duì)話大模型和AI繪畫模型的熱度不減，業(yè)界對(duì)生成式AI的研究逐步朝更多模態(tài)的方向演進(jìn)，其中AI視頻生成技術(shù)備受關(guān)注。這項(xiàng)技術(shù)能將文本或音頻等信息轉(zhuǎn)換為面部運(yùn)動(dòng)信息，進(jìn)而驅(qū)動(dòng)生成照片人物形象的動(dòng)畫，有效降低了視頻拍攝和制作的門檻。Live Portait工具由運(yùn)動(dòng)模塊和生成模塊組成，采用阿里云自研的口型預(yù)測算法，使得生成的口型準(zhǔn)確度大幅提高。在訓(xùn)練階段，工具增加了姿態(tài)的顯式控制，無需底板視頻也可以生成任意動(dòng)作的視頻，大幅提升了數(shù)字人說話的真實(shí)感。此外，通過眼神主動(dòng)控制技術(shù)，Live Portait可以為眼球增加一些自然運(yùn)動(dòng)，使得生成結(jié)果在觀感上更接近真人效果。據(jù)了解，Live Portait相關(guān)技術(shù)已被CVPR、ICCV等國際AI頂會(huì)收錄。在魔搭社區(qū)上，用戶在上傳照片后，可選擇文本驅(qū)動(dòng)和音頻驅(qū)動(dòng)兩種方式，文本驅(qū)動(dòng)模式下，該工具提供了普通話、英語、粵語、童聲等28種聲音。此外，Live Portait還提供了輕量模型選擇，幫助用戶更快速生成視頻。阿里云的工具算法負(fù)責(zé)人張邦表示：“Live Portait集成了團(tuán)隊(duì)多項(xiàng)自研創(chuàng)新技術(shù)，例如僅需單張圖片就能生成逼真的面部動(dòng)畫，突破了傳統(tǒng)對(duì)抗生成網(wǎng)絡(luò)的局限。隨著技術(shù)的進(jìn)一步迭代，圖生視頻有巨大的應(yīng)用空間，有望成為企業(yè)降本增效的生產(chǎn)工具。”據(jù)悉，該團(tuán)隊(duì)研究方向涵蓋數(shù)字人、3D模型AI生成、高真實(shí)感渲染、自然人機(jī)交互等領(lǐng)域，目前已發(fā)表50多篇國際頂會(huì)論文。

關(guān)鍵詞：