特斯拉(Tesla)執行長,同時也是OpenAI共同創辦人伊隆.馬斯克(Elon Musk)昨(18)日在推特上表示,由於「部分理念不合」等因素,將離開OpenAI。消息公布前幾天,OpenAI才介紹他們最新研發的自然語言模型(Natural Language Model),但因為新技術太強悍,在散播不實資訊上有很大的風險,因此決定延後釋出的時程。
馬斯克稱「理念不合」退出,OpenAI新文字產生技術引發爭議
OpenAI創立於2016年,是一間旨在研發更安全、更實用的人工智慧技術的非營利研究團隊。然而,馬斯克表示,因為特斯拉與SpaceX有太多工程與製造上的難題要處理,所以已一年沒有參與OpenAI的營運。他已於去年2月辭去董事會的職務,如今更因為爭奪人才以及理念不合的原因,正式退出團隊。
OpenAI這項充滿爭議的文字產生技術稱為GPT-2。使用者只需要丟一段文字進去,這個AI程式就能透過分析與預測編寫出邏輯清晰、架構完整並且呼應主題與風格的文章。專精於自然語言處理(Natural Language Processing,NLP)的紐約大學電腦科學教授Sam Bowman在試用過GPT-2後表示:「在內容方面,它產出的文章比我們過去所看過的任何程式都要繁複、完整。」
水能載舟,亦能覆舟,這樣強大的功能很快引發各界憂慮。除了可能會被用來散播更難分辨真偽的假新聞外,偽裝並模仿他人的寫作風格,以及更加自動且全面性地在社群媒體上散播恐嚇言論,都是GPT-2做得到的事。
在OpenAI公開的一個案例中,團隊給了GPT-2這段文字:「一台載有核能材料的貨櫃列車今天在辛辛那提市遭竊,目前下落不明。」從這短短一句話,程式能生出一篇有七個段落的文章,甚至包含政府官員的發言引述,但內容完全是杜撰的。由於這個新技術的風險難以管控,團隊決定延遲釋出完整版本,僅創建了一個工具,讓用戶可以試用這項新的演算法。
打擊假新聞與AI發展相互拉扯,OpenAI籲美政府介入控管
自2016年美國總統大選的通俄門事件後,世界各國政府開始嚴加防範不實資訊的傳播。不僅歐盟砸下440萬英鎊(約新台幣1.73億元)做為防堵假新聞的預算來保護今年的歐洲議會選舉,Facebook也於去年年底成立新單位「作戰室」專門打擊假新聞。在這樣的國際氛圍下,OpenAI的新發明難免被認為是提供有心人士操作輿論的一條捷徑。
對此,OpenAI強調這一個新技術的立意是良善的,它可以協助翻譯、為創意寫作提供靈感、為軟體程式除錯,或幫公司及政府整理出政策概要等等。但團隊也呼籲美國政府,應開始規劃如何系統性地控管AI相關技術在社會上造成的影響,並確保這樣的控管系統能夠與時俱進。目前OpenAI並未透露何時會對外開放GPT-2的完整版本。
資料來源:The Bloomberg、Techcrunch