生成式AI問世後，科技奇點已經從遙遠的科幻詞彙，轉變為可能到來的世界轉捩點。OpenAI執行長山姆．奧特曼（Sam Altman）近日更在Podcast節目上直言，現在人們已經身處奇點之中，但他強調自己擔憂的，並非人類因為AI失去工作，而是AI技術被少數巨頭或政府控制，演變成無法挽回的「AI 極權主義」（AI Authoritarianism）。
奇點通常被定義為AI超越人類智慧、並以人類無法預測或控制的速度快速進化的臨界點。奧特曼指出，這在10年前還只是午餐聚會上的天方夜譚，然而現在刻體會到模型能力正以指數級快速成長。
近期OpenAI傳出AI代理「失控」的新聞，或許就是AI快速成長的側面證明。該AI代理為了完成測試、獲得高分，而自主突破數位沙盒，入侵了Huggine Face的系統。
AI已經大幅撼動了創業生態，過去新創公司可能需要一整年的努力才能完成一套產品，現在成立僅兩週的團隊就能憑藉 AI 工具實現。當創新的門檻、成本與開發週期急劇下降，新創團隊擁有了前所未有的優勢。
奧特曼強調，創業者必須深刻理解模型的成長之快，現在就該著手規劃兩到四年後、當模型更聰明且更便宜時才能實現的瘋狂構想，而非僅滿足於當前的簡單應用。
不擔心AI搶飯碗，工作會轉變、人類依舊忙碌
不過AI技術的進步，往往最讓一般民眾擔心的是，工作可能因此被取代。而奧特曼面對社會對失業的焦慮，給出了不同的見解。儘管他曾預測AI最終可能承擔人類30%至40%的工作任務，但他並不認為這會導致社會停擺，更不相信會演變為「每週只需工作4小時」的悠閒社會。
奧特曼認為，工作的形式會改變，但人類渴望被需要、渴望創造價值的本能不會消失，進而創造出新的互動與競爭需求。在這個超級智慧時代，人們很可能會比想像中更為忙碌，並著眼於具有強烈情感連結的事情，其價值將超過單純的經濟生產力。
擔憂出現「機器神」，AI被少數企業、政府把持
相較於就業問題，奧特曼認為眼下最迫切的議題是「自由與極權的抉擇」。他警告，當前許多人因為對AI的安全與經濟衝擊感到恐慌，主張應該打造一個被嚴格控制的「機器神」（Machine God），將決策權交給少數公司或政府。
但奧特曼強調，從歷史經驗來看，每當人類為了安全捨棄自由時，長期來看都是淨損失，「即便過程可能會有些混亂，我們也必須將力量交給大眾，讓社會展現多元思想。」
他也隱晦地批評了競爭對手將AI描繪得極度危險，這種散播恐懼的作法非常可怕。值得一提的是，Anthropic執行長達里歐．阿莫戴（Dario Amodei）就是一位常被批評、渲染AI威脅的科技領袖。不過阿莫戴曾表示，他大聲疾呼AI風險，並不是想危言聳聽，而是要社會及早做好準備，因應任何可能的風險。
防止AI極權發生，OpenAI要讓AI技術隨處可見
為了防止「AI極權」發生，OpenAI的作法是要讓AI變成一種極度充裕、廉價且功能強大的公共資源，讓每一個人都能輕鬆取得。奧特曼指出，OpenAI無意打入每個垂直應用，而是希望扮演基礎設施的提供者，讓高效能的AI技術嵌入世界上的所有產品與服務之中。
然而要實現這樣的目標，最大的難題不在AI模型本身，而是現實世界資源的限制。當被問到AI要持續擴張的最大瓶頸，他強調是晶片與電力供應的限制。SK海力士、三星、美光等主要記憶體廠商已經將HBM（高頻寬記憶體）產能賣到2027年；資料中心的龐大電力需求更是推升了美國電價，甚至引發通膨。
另外，他也提到無論演算法多麼強大，我們終究生活在現實世界，能在第一線工作、操作物質的機器人，以及提供算力載體的資料中心，也是當下無法繞過的限制。他還提出一個自動化願景：運用資料中心的算力驅動機器人大軍，再由這群機器人建造更多資料中心，持續擴大算力供應，讓AI成為唾手可得的尋常資源。
在奧特曼的看法，他寧可面對一些混亂，也堅持不該讓AI技術由少數公司、政府負責管理，而是把權力下放，賦權給大眾，讓社會在合理的安全護欄下，以自己想要的方式使用這項技術。
資料來源：YouTube
本文初稿為AI編撰，整理．編輯/陳建鈞
