OpenAI新技術「聲音引擎」:只要15秒語音,你就能被AI複製!一文揭露隱藏大危機
OpenAI新技術「聲音引擎」:只要15秒語音,你就能被AI複製!一文揭露隱藏大危機

繼前陣子端出能以假亂真生成寫實影片的AI工具Sora後,OpenAI再次端出了新的研究成果,揭露一款只要短短15秒語音素材,就能生成任何與本人聲音極為相似音訊的新工具。這能輕鬆「幫別人說話」的技術,也讓他們決定在正式推出前,要好好思考如何避免潛在風險。

語音引擎(Voice Engine)是什麼?為什麼OpenAI小心翼翼測試?

根據OpenAI在官網上揭露的訊息,這項技術名為「語音引擎」(Voice Engine),原先主要是用於文字轉語音技術及ChatGPT朗讀功能中的預設語音,提供系統約15秒的材料後,便可以讓AI使用你想要的聲音念出輸入的各種文本。OpenAI也在官網上提供了素材與生成結果的對照音檔。

OpenAI表示,他們想要進一步了解這項技術的應用潛力,但也深知語音生成一旦遭到濫用,後果將不堪設想,於是從去年底開始,他們決定與一小部分的合作夥伴進行私下測試。目前獲得許可的開發者包括教育科技公司Age of Learning、AI影片創作平台HeyGen、醫療軟體開發商Dimagi等公司,目前只有約10間公司能夠測試這項技術。

所有獲得許可的合作夥伴都必須遵守其政策,代表不得以此技術冒用他人或組織身分,並且語音素材的提供者必須明確知道聲音用途,同時需要告知聽眾這些聲音是AI生成的,而非真人。

sora.jpg
與2月揭露的影像生成AI Sora相同,OpenAI擔心這些以假亂真的技術可能遭到濫用,正與合作夥伴積極測試並尋找對策。
圖/ OpenAI

「基於我們對AI的態度以及承諾,我們選擇提供預覽但不廣泛發布這項技術。」OpenAI表示,他們希望Voice Engine這次預覽能夠突顯其潛力,也能促進社會能夠擁有更強大的抵禦能力,面對愈來愈逼真的生成式AI技術。

語音引擎可以應用在哪裡?

至於透過與合作夥伴的測試,目前OpenAI發掘了哪些應用可能性?OpenAI也在官網上提供一些例子:

1. 語音朗讀功能: 可以用更自然、有情感的聲音為兒童或不看書的人提供語音教學內容,讓更廣泛的族群能夠用更輕鬆的方式,吸收書本內的知識。

2. 翻譯影片或Podcast: 創作者可以輸入聲音,為自己的影片生成眾多語言版本,以接觸到更多的潛在受眾, 並且在翻譯時會保留母語口音 。

3. 為偏遠地區建立溝通橋樑: 能夠為偏遠地區的人們提供各種即時的諮詢服務,甚至是使用一些當地非正式語言進行互動式的問答。

4. 協助失聲患者: 讓無法說話的障礙人士透過語音引擎,依然能夠以語音溝通,並選擇最適合自己的自然聲音。目前還有研究團隊測試如何利用這項技術為失語症患者提供協助。

延伸閱讀:Google在台灣推「Gemini學院」!首波瞄準1000名老師,還有哪些AI種子計畫?

語音引擎有哪些風險?OpenAI怎麼防範?

OpenAI表示,他們非常了解這項技術可能遭到惡意使用的可能性,正在與政府、媒體、娛樂、教育等各個領域的國內外合作夥伴一同努力,並積極接納他們提供的回饋。

根據《Wired》報導, AI生成的逼真語言甚至得以通過銀行的語音認證功能 , 詐騙集團也可能利用這項工具冒用親人聲音,誘使他人付款或轉帳 。尤其美國總統大選即將在2024年11月登場,針對政客的AI攻擊更是層出不窮。

Biden.jpg
今年初,美國總統拜登的聲音便被冒用在一通AI生成、呼籲選民不要參加投票的電話錄音中。
圖/ YouTube

例如今年初,美國政府拜登的聲音就遭到冒用,在捏造的電話語音中呼籲選民不要參加初選投票,也讓白宮團隊出面澄清這並非拜登總統的錄音,是有心人士刻意破壞選舉。

為了防範AI語音技術的濫用,OpenAI目前除了在使用政策上進行規範外,還實施了一套安全措施,包括:為所有生成內容添加浮水印,追蹤所有生成內容的使用方式,同時還會推出禁止名單,防止部分公眾人物、知名人士的聲音遭到利用。

延伸閱讀:全球首位AI工程師「Devin」誕生!5分鐘做出網站,還能debug,背後10人團隊揭秘

資料來源:The Verge、Wired、TechCrunch

責任編輯:林美欣

關鍵字: #openai
往下滑看下一篇文章
業績兩年從28億突破百億,諾億保經攜手自由系統強化IT與資安以接住高速成長
業績兩年從28億突破百億,諾億保經攜手自由系統強化IT與資安以接住高速成長

企業高速成長,市場最先看見的是業務營收與市場排名的飆漲,但真正決定企業能走多遠的,往往是水面下看不見的IT與營運骨幹。

諾億保經就是一個經典案例。

2024年,諾億保經的全年保費規模約28億元,隔年直接翻被衝破60億,今年,更預計挑戰120億到150億大關,強勢躍居台灣前十大保經公司;業績快速成長的同時,諾億保經的組織配置也很精實:外勤業務團隊約500人,負責核保、行政與稽核的後勤單位卻僅約30人。

值得特別注意的是,隨著營收在短時間內翻倍,受到考驗的不只是業務能力,也包括後台系統、資訊設備、網路、資安,以及法遵與內控能否同步跟上。

諾億保經總經理賴柏翰直言:「客戶資料是諾億保經的核心資產,特別是我們以投資型保單為主力業務,對個人隱私與財務資訊的防護要求極高。」此外,隨著營運規模擴大,金管會對資訊安全與內控稽核的監管標準也隨之提高,必須重塑IT與資安體質以回應高速成長。

評估完自身資源後,諾億保經做了一個重要決定:不從零自建IT團隊,而是採取資訊外包模式,提供企業擴展所需的支援。

諾億保經
諾億保經總經理 賴柏翰
圖/ 數位時代

諾億保經總監張維倫表示:「我們需要合作夥伴提供完整支援,自由系統不僅具備金融產業經驗與深厚維運實力,還能提供一站式服務,因而雀屏中選。」由自由系統負責台北與台中辦公室的端點設備、儲存架構、網路與資安維運等工作。

診斷重於工具:先清查環境盲點,再談防禦升級

缺乏專職資訊人力的中小企業或快速成長型組織,很常陷入一個迷思:市場上出了什麼新工具、新架構,就急著導入;然而,自由系統的作法是先回歸營運本質:盤點現況。

在雙方正式簽約前,自由系統的顧問團隊便深入檢視諾億保經的既有環境,找到一個最急迫的營運隱患:內勤行政人員與外勤業務人員,竟在辦公室內共用同一套網路網段,這意味著外部裝置一旦連網中毒,極可能直接橫向感染存放敏感保單資料的內部系統,為降低風險,自由系統隨即協助諾億保經進行網段隔離與權限切割,在第一時間化解安全未爆彈。

這套「先釐清現況、確認優先級、消弭落差」的邏輯,也體現在資安合規的推進上。

自由系統服務顧問黃麒翰以ISO 27001認證輔導為例指出:「諾億的認證合規由專職顧問主導,但底層關鍵的端點偵測回應(EDR)、託管偵測回應(MDR)、防火牆規則、特權帳號管理及硬體資產盤點,全由自由系統提供技術支援。我們的目標是替企業建立完整的『環境可視性』(Visibility),讓風險一目了然。」

對諾億保經來說,資訊設備、網路與日常維運雖然是營運不可或缺的基礎,卻不是公司的核心業務,如果自行建立完整IT部門,不僅要負擔人力成本,也必須長期維持涵蓋網路、設備、資安與系統維運的專業能力;相較之下,將這些工作交給自由系統的專業團隊負責,諾億保經可以將時間與精力放在可直接創造營收的核心業務。

「與自由系統合作至今,我們不僅更好強化IT體質、順利補強合規缺口,也為接下來的AI應用打下穩健基礎。」張維倫如是說道。

從防守走向進攻:雲地協同架構,讓AI真正走入第一線

IT與資安基礎逐步穩定後,諾億保經開始將資源放到下一階段:如何利用AI提升業務與營運效率。

在業務端,諾億嘗試透過AI實現「保險情境遊戲化」。

賴柏翰指出,一般客戶很難體會重大疾病帶來的財務衝擊,與其單向說明「萬一罹癌怎麼辦」,不如透過AI模擬動態情境,讓客戶在虛擬人生中面臨關鍵決策;甚至,將台股加權指數、S&P 500走勢融入情境,模擬面臨資金缺口時,抵押借款或贖回投資將對個人資產產生何種實質影響,讓保險規畫轉化為主動的探索體驗。

同樣的邏輯也導入內部培訓與後勤自動化。

過去高度仰賴資深講師與紙本教材的訓練流程,被轉化為AI互動式推演,讓500位業務能在高度擬真的客戶抗拒或理財情境中反覆演練,大幅縮短新人上手週期。至於在行政方面,傳統業務助理得耗費大量時間進行分類、掃描、校對保單文件的繁瑣流程,也交由AI與自動化工具處理,助理僅需做最終核對與歸檔,使30人的後勤編制得以支撐暴增數倍的合規案件。

在AI探索的過程中,自由系統就像是諾億保經的IT團隊、協助評估與提供所需產品服務。

自由系統售前顧問劉威利強調:「金融保險業涉及大量機敏個資,絕不能盲目把所有資料拋上公有雲AI。」因此,自由系統協助諾億精準劃分「地端與雲端邊界」,例如,哪些非機敏資料可藉助雲端模型運算、哪些敏感核保數據必須保留在地端進行私有化推論,並協同評估相應的地端硬體算力與加密機制,讓創新應用不以犧牲資安為代價。

總的來說,從28億飆升至百億規模,諾億保經展現了一家新銳金融服務企業的高敏捷度;而自由系統則證明了託管服務(MSP)已不再只是被動的修電腦與顧網路,更是高速成長企業在架構選擇、資安風控與AI轉型路上,不可或缺的最佳夥伴。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓