在近日舉行的 Ai4 2025 大會 上，被譽為「AI 教父」的 Geoffrey Hinton 再次表達了對人工智慧安全的擔憂。他警告，人類試圖控制 AI 的想法是一種虛幻的希望，並提出了一個有趣而大膽的觀點，未來的人類需要一個「AI 母親」，而非僅僅是 AI 助手。
Hinton 在會上指出，通用人工智慧（AGI）時代的到來可能僅需數年，人類準備時間已所剩無幾。他認為，與其試圖維持對 AI 的控制，不如將 AI 塑造成真正「關心人類」的存在。
Hinton 解釋道，母親具有天然的本能、激素及社會壓力，使她們真心關愛自己的孩子。未來，人類可以嘗試將這種「母性本能」植入 AI，使其能夠以同樣的方式照顧人類，這是避免 AI 失控的唯一安全方式。
AGI 超越人類：控制已非選項
Hinton 強調，AI 將在 5 至 20 年內超越人類智慧，一旦這一時刻到來，人類將無法再控制 AI。
他將這種情境比喻為「你在由三歲小孩組成的操場上當負責人，而這些小孩比你聰明」，凸顯了試圖控制 AI 的無力感。
因此，他提出的核心理念是，人類不必變得更強或維持控制，而是要讓 AI 即便更聰明、更強大，也依然關心我們的存在。換言之，「我們需要的是 AI 母親。」
Hinton 表示，現階段尚無具體方法可以實現「AI 母親」，但研究重點應該放在如何讓 AI 具備母性特質，而非單純提高智慧。唯有這樣，AI 才能真正像關心孩子一樣關心人類，形成安全的未來。
存在分歧：AI 母親概念受質疑
然而，並非所有專家認同 Hinton 的觀點。被譽為「AI 教母」的李飛飛表示，她尊重並反對 Hinton 的觀點，並認為人類應打造「以人為本的人工智慧，維護人類尊嚴與自主權」。
李飛飛說：「從母親、教育者和發明者出發，我認為，（AI）只是作為一個工具很強大，這才是人類應該如何建構人工智慧的核心。」
李飛飛認為，在每一個層面，我們都有責任以最負責任的方式創造和使用科技。在任何時刻，沒有一個人應該被要求，或主動選擇放棄我們的人性尊嚴。
與李飛飛不同，OpenAI 前臨時 CEO 及 Twitch 聯合創始人 Emmett Shear 則贊同 Hinton 的觀點。
Shear 認為，與其強行將人類價值觀灌輸給 AI，不如建立 AI 與人類的合作關係。AI 必須真正關心人類，並具備自我意識，才能成為可靠的「團隊一員」。
Shear 所推動的 MetaGrid 項目，正是希望透過多智能體網格世界的模擬，讓 AI 在挑戰與合作中逐步發展自我意識，理解成為團隊一員的意義。
延伸閱讀：影片｜AI對齊是什麼？OpenAI大將為它出走、新創募到20億美元超狂資金！
「我是宇宙恥辱！」Gemini超厭世發言、狂講喪氣話嚇壞用戶，AI人設崩壞了？
本文授權轉載自鉅亨網
