OpenAI新技術「聲音引擎」:只要15秒語音,你就能被AI複製!一文揭露隱藏大危機
OpenAI新技術「聲音引擎」:只要15秒語音,你就能被AI複製!一文揭露隱藏大危機

繼前陣子端出能以假亂真生成寫實影片的AI工具Sora後,OpenAI再次端出了新的研究成果,揭露一款只要短短15秒語音素材,就能生成任何與本人聲音極為相似音訊的新工具。這能輕鬆「幫別人說話」的技術,也讓他們決定在正式推出前,要好好思考如何避免潛在風險。

語音引擎(Voice Engine)是什麼?為什麼OpenAI小心翼翼測試?

根據OpenAI在官網上揭露的訊息,這項技術名為「語音引擎」(Voice Engine),原先主要是用於文字轉語音技術及ChatGPT朗讀功能中的預設語音,提供系統約15秒的材料後,便可以讓AI使用你想要的聲音念出輸入的各種文本。OpenAI也在官網上提供了素材與生成結果的對照音檔。

OpenAI表示,他們想要進一步了解這項技術的應用潛力,但也深知語音生成一旦遭到濫用,後果將不堪設想,於是從去年底開始,他們決定與一小部分的合作夥伴進行私下測試。目前獲得許可的開發者包括教育科技公司Age of Learning、AI影片創作平台HeyGen、醫療軟體開發商Dimagi等公司,目前只有約10間公司能夠測試這項技術。

所有獲得許可的合作夥伴都必須遵守其政策,代表不得以此技術冒用他人或組織身分,並且語音素材的提供者必須明確知道聲音用途,同時需要告知聽眾這些聲音是AI生成的,而非真人。

sora.jpg
與2月揭露的影像生成AI Sora相同,OpenAI擔心這些以假亂真的技術可能遭到濫用,正與合作夥伴積極測試並尋找對策。
圖/ OpenAI

「基於我們對AI的態度以及承諾,我們選擇提供預覽但不廣泛發布這項技術。」OpenAI表示,他們希望Voice Engine這次預覽能夠突顯其潛力,也能促進社會能夠擁有更強大的抵禦能力,面對愈來愈逼真的生成式AI技術。

語音引擎可以應用在哪裡?

至於透過與合作夥伴的測試,目前OpenAI發掘了哪些應用可能性?OpenAI也在官網上提供一些例子:

1. 語音朗讀功能: 可以用更自然、有情感的聲音為兒童或不看書的人提供語音教學內容,讓更廣泛的族群能夠用更輕鬆的方式,吸收書本內的知識。

2. 翻譯影片或Podcast: 創作者可以輸入聲音,為自己的影片生成眾多語言版本,以接觸到更多的潛在受眾, 並且在翻譯時會保留母語口音

3. 為偏遠地區建立溝通橋樑: 能夠為偏遠地區的人們提供各種即時的諮詢服務,甚至是使用一些當地非正式語言進行互動式的問答。

4. 協助失聲患者: 讓無法說話的障礙人士透過語音引擎,依然能夠以語音溝通,並選擇最適合自己的自然聲音。目前還有研究團隊測試如何利用這項技術為失語症患者提供協助。

延伸閱讀:Google在台灣推「Gemini學院」!首波瞄準1000名老師,還有哪些AI種子計畫?

語音引擎有哪些風險?OpenAI怎麼防範?

OpenAI表示,他們非常了解這項技術可能遭到惡意使用的可能性,正在與政府、媒體、娛樂、教育等各個領域的國內外合作夥伴一同努力,並積極接納他們提供的回饋。

根據《Wired》報導, AI生成的逼真語言甚至得以通過銀行的語音認證功能詐騙集團也可能利用這項工具冒用親人聲音,誘使他人付款或轉帳 。尤其美國總統大選即將在2024年11月登場,針對政客的AI攻擊更是層出不窮。

Biden.jpg
今年初,美國總統拜登的聲音便被冒用在一通AI生成、呼籲選民不要參加投票的電話錄音中。
圖/ YouTube

例如今年初,美國政府拜登的聲音就遭到冒用,在捏造的電話語音中呼籲選民不要參加初選投票,也讓白宮團隊出面澄清這並非拜登總統的錄音,是有心人士刻意破壞選舉。

為了防範AI語音技術的濫用,OpenAI目前除了在使用政策上進行規範外,還實施了一套安全措施,包括:為所有生成內容添加浮水印,追蹤所有生成內容的使用方式,同時還會推出禁止名單,防止部分公眾人物、知名人士的聲音遭到利用。

延伸閱讀:全球首位AI工程師「Devin」誕生!5分鐘做出網站,還能debug,背後10人團隊揭秘

資料來源:The VergeWiredTechCrunch

責任編輯:林美欣

關鍵字: #openai
往下滑看下一篇文章
橘子集團 Vyin AI × 女媧創造攜手推出「居家陪伴機器人」,開啟機器人大腦 RIaaS 商業應用新局!
橘子集團 Vyin AI × 女媧創造攜手推出「居家陪伴機器人」,開啟機器人大腦 RIaaS 商業應用新局!

隨著全球勞動力老化與新血招募困難,從製造、零售到醫療與長照,各行各業皆面臨同樣的缺工挑戰,面對人力不足,機器人逐漸走出工廠,進入醫院、門市與家庭。但當生成式 AI 讓機器人不再只是「會動」,而是開始「能懂」時,新的問題隨之而來——我們是否能信任它?

尤其在台灣,隨著2025年正式進入超高齡社會,長照體系首當其衝,人力不足、服務品質不均、家屬壓力沉重,AI 與機器人被期待成為新解方,但即便生成式 AI 浪潮席捲全球,各國際大廠持續精進自家大型語言模型,市場仍缺乏能直接面向C端消費者、大規模商用且精準可控的 AI。

「很多機器人廠商強調的是功能能做什麼,但如果長者不願意互動,再多的功能都沒有意義。」橘子集團策略長暨 Vyin AI 負責人陳冠宇指出,「接觸點不成立,後面所有服務都用不上。而那個接觸點,就是可信任的聊天與陪伴。」

這樣的觀察,也成為 Vyin AI 切入發展「機器人大腦即服務(Robot Intelligence as a Service, RIaaS)」的契機。

在9月底舉辦的台北國際照護博覽會中,Vyin AI 宣布攜手台灣機器人新創女媧創造,搶先展示共同打造的居家陪伴型 AI 機器人「Gilee 桔利 」。結合 Vyin AI 核心技術 Vyin Brain 智慧中樞與女媧創造的機器人互動設計,展現 AI 機器人從「任務驅動(task-based)」邁向「語意與情境驅動(context-based)」的可能性。

橘子集團
橘子集團旗下生成式 AI 新創 Vyin AI 攜手女媧創造,於 2025 台北國際照顧博覽會展示「可控 AI × 機器人」應用,透過居家陪伴機器人 Gilee 桔利,展現可控 AI 理解語意、感知情緒並標記風險,揭示機器人大腦即服務(Robot Intelligence as a Service, RIaaS)的未來方向。橘子集團策略長暨 Vyin AI 負責人陳冠宇(左)與女媧創造營運長張智傑(右),分享機器人特點。
圖/ 橘子集團

從長照產業切入 以「可控 AI 大腦」打造能被信任的陪伴

女媧創造耕耘陪伴型機器人多年,擅長機器外觀設計及互動體驗,但在長照領域的推廣仍多停留在試行階段。營運長張智傑表示:「要守護長者的健康、撫慰孤獨長輩的孤獨感,光靠形體與互動還不夠,更需要一個可靠的大腦。」

過去的照護型機器人大多停留在衛教知識宣導或生理監測階段,缺乏與使用者互動的能力。面對照護需求快速攀升與人力斷層,雙方都意識到,若 AI 要真正走進家庭與長照現場,「信任」將是唯一關鍵。而對 Vyin AI 而言,這正是可控 AI 發揮價值的最佳場域。

陳冠宇指出,自大型語言模型(LLM)問世以來,雖展現出驚人的語意生成、邏輯推理與知識應用能力,但其核心仍屬於機率預測模型,本質上是透過複雜的機率計算模擬人類語言分布,即使經過人為的情境工程(context engineering)的修正,仍難完全避免「AI 幻覺」的發生。「在一般應用場景中,幻覺頂多造成資訊錯誤,但在醫療與照護產業,錯誤的回答可能直接影響生命安全。」

相較之下,Vyin AI 研發的智慧中樞 Vyin Brain 採用獨創的仿生大腦架構,由「語言、知識、理解、動作」四大中樞分工協作,層層把關 AI 的思考與回應流程。另外可將醫療、零售、教育等專業領域的資料轉化為透明的知識圖譜,建立清晰的知識邊界,確保所有回應均具可追溯性、可驗證性與可解釋性,最大程度的消除 AI 幻覺風險,讓生成式 AI 在需要高度精準與信任的場景中得以安全落地。

橘子集團
台北國際照護博覽會中,桔利的初登場,引起大眾的好奇與關注,詢問與體驗絡繹不絕。
圖/ 橘子集團

讓機器人更像人:客製化設定與長期記憶,讓長輩感受理解

首度亮相的桔利,以活潑童語與長輩對話:「爺爺,今天有什麼開心的事嗎?」「奶奶,妳該吃高血壓的藥囉!」展區人潮絡繹不絕,將 Vyin AI 的展攤擠得水洩不通,中化銀髮總經理李宗勇及團隊親自體驗後,更是對桔利讚不絕口,直言這位 AI 金孫外型討喜,是長輩絕佳的陪伴者。

事實上,被設定為「10歲金孫」的桔利,不僅能理解長者的語意與意圖,陪他們閒聊、安排行程、提醒用藥,還能透過長期記憶與個人化設定,根據長者的個性、家庭與健康狀況調整互動內容,主動引導長者分享興趣、回憶過往,甚至向他們請益,讓長者在互動中感受到被理解、被需要,進而產生「情感價值」。

相較多數廠商強調的是「生理監測」功能,桔利更重視的是「情感陪伴」。負責桔利產品功能設計與規劃的產品經理 蔣欣諭 補充,在傳統華人文化中,子女常羞於直接表達愛與關懷,因此設計出「專屬家人的 AI 仿聲語音信」功能。

子女只需透過專屬 App 輸入文字訊息,桔利便能以 AI 仿聲技術,轉換成兒女或孫子的聲音唸給長輩聽。這項功能在現場引發驚喜與共鳴,它觸動的不只是科技的體驗,而是家人之間「說不出口的愛」。

在日常生活中,桔利也具備智慧照護的即時偵測能力。會在對話中持續判斷語氣與內容的變化,進行風險標記。若偵測到異常,會透過女媧的通報系統推播給家屬,並依照情況分級提醒,且所有對話內容都會被自動收錄於後台,以簡潔明瞭的儀表板呈現,讓家屬與照護人員能快速掌握長者近期的身心理狀況。

「我們設計桔利的目的,不是取代家人,而是成為家屬與長者之間的橋樑。」她說。

從長照出發,邁向多元 RIaaS 生態

桔利在照護博覽會的初登場,不僅引發長輩熱烈回應,也為 Vyin AI 與女媧創造的合作奠定良好開局。對團隊而言,這不只是一次成功的展出,更是「情感連結」價值的具體驗證,同時也證明雙方在軟硬整合上的實力。

「我們從長照出發,是因為這是最難的場域,能最大化檢驗技術的可控性與穩定度,凸顯我們技術的價值。」Vyin AI 負責人陳冠宇表示。

除了以可控 AI 大腦杜絕幻覺外,要讓機器人能像人一樣反應,關鍵不只是速度,更在於整合。要達到像人一樣的回應速度與精準度,必須同時整合語音辨識(ASR)、語意理解、知識調用與語音合成(TTS)四層技術。「這不只是速度問題,更是理解與反應的平衡,這種全鏈路整合能力,就是我們最重要的護城河。」

陳冠宇透露,目前雙方正持續開發的全鏈路版本,預計於明年第一季推出,屆時回應時間將縮短至三秒內,讓人機互動更自然流暢。於此同時,團隊正推進「機器人大腦即服務(RIaaS)」模式,將同樣的可控 AI 能力延伸至零售、教育與照顧產業等領域。

RIaaS:Robot Intelligence as a Service 機器人大腦即服務.jpg
橘子集團旗下 Vyin AI從長照出發,希望以最難的場域開始,最大化檢驗技術的可控性與穩定度,邁向多元 RIaaS 生態。
圖/ 橘子集團

以零售為例,Vyin AI 自研的 D-RAG(DistilGraph RAG) 技術,可自動整合商品規格、客服紀錄或保健品資訊等非結構化資料,轉化為可即時調用的知識圖譜,讓機器人能在銷售、客服或導覽場景中快速回應顧客問題,提供準確建議,甚至根據互動內容動態導購、推薦商品,並在適當時機「轉真人」接手,協助品牌提升轉換效率。

同樣的架構,也能延伸至教育、照顧產業與智慧導覽等多種場景,讓機器人化身銷售助理、賣場導覽員、教學助教,根據使用者需求與語境,自動生成可信任的回應與互動體驗。「只要運用 Vyin AI 解決幻覺問題,『機器人即服務』的時代就會正式來臨。」陳冠宇說

他進一步指出,全球市場已對 RIaaS 商業模式產生迫切需求,Vyin AI 憑藉可控 AI 大腦的技術優勢,正積極布局海外市場。「我們希望透過 RIaaS,把這套可控 AI 大腦服務化,讓各行各業都能快速導入可信任的 AI 機器人,不只是替代人力,而是打造溫度的互動,讓未來的人機合作更加順暢、緊密。」

立即了解更多 Vyin AI 解決方案

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓