AI發展安全性，科技巨頭做出承諾！
白宮於7月21日表示，包括Google、OpenAI、亞馬遜(Amazon)、Anthropic、Inflection AI、Meta與微軟(Microsoft)在內的七間美國科技巨頭，在會議上公開承諾會促進人工智慧發展的安全性與透明度。
此次白宮峰會共通過了8項承諾，主要是為了確保人工智慧相關產品，在向公眾發布之前需經過嚴格的內部和外部安全測試。
而該測試旨在防範生物安全、網路安全和更廣泛的社會影響等重大風險。美國總統拜登（Joe Biden）指出，「這些承諾是真實且具體的」，白宮認為開發這些新興技術的公司有責任確保其產品的安全。但也有人質疑這些書面承諾的法律效力，同時認為很多承諾都是已經在採用的。
AI巨頭做出8項承諾，他們承諾了什麼？
白宮的官方聲明中指出三個大方向，大方向又細分成8項承諾，分別是：
（一）在向公眾介紹產品之前確保其安全性
- 在產品發布前對其人工智慧系統進行內部和外部安全測試。這項測試將部分由獨立專家進行，以防範人工智慧風險的一些最重要來源，如生物安全和網路安全，以及其更廣泛的社會影響。
- 在跨業界以及與政府、公民社會和學術界之間分享有關管理人工智慧風險的訊息。
（二）建立以安全為首要考慮的系統
- 在資安和內部威脅防護方面努力，以保護其專有且未公開的模型權重（用來描述給予人工智慧模型運作能力的數學指令）。這些模型權重是人工智慧系統中最重要的部分，並且公司同意只有在有意願且考慮到安全風險的情況下才會釋放這些模型權重。
- 承諾促進第三方發現並報告他們的人工智慧系統中的漏洞。即使在人工智慧系統發布後可能仍存在一些問題，健全的報告機制能夠使它們被快速發現和修復。
（三）贏得公眾信任
- 開發強大的技術機制，確保用戶在內容由人工智慧生成時能夠知情，例如通過添加浮水印系統。這一舉措有助於促進人工智慧的創造性應用，同時減少欺詐和虛假行為的危險。
- 公開報告其人工智慧系統的能力、限制以及適當和不適當使用的領域。這份報告將包括安全風險和社會風險，例如公平性和偏見方面的影響。
- 優先進行有關人工智慧系統可能帶來的社會風險的研究，包括避免有害的偏見和歧視，以及保護隱私。人工智慧的歷史記錄顯示了這些危險的隱蔽性和普遍性，這些公司承諾推出能夠減輕這些風險的人工智慧技術。
- 開發和部署先進的人工智慧系統，以幫助應對社會上最大的挑戰。從預防癌症到減緩氣候變化，AI如果得到適當管理，可以對所有人的繁榮、平等和安全做出巨大貢獻。
承諾真的有效嗎？還是淪為口舌之爭
與會人士之一，OpenAI的全球事務副總裁馬坎朱（Anna Makanju）表示，「世界各地的政策制定者正在考慮為先進的AI系統製定新的法規」。
Google全球事務總裁沃克（Kent Walker）表示，在人工智慧方面取得成功需要合作，他對加入其他領先的人工智慧公司來支持這些承諾表示滿意，並保證Google將繼續透過分享資訊來與其他公司合作。
但據《The New York Times》指出，8項承諾裡有許多項目都是本來就在進行中的，例如模型發布前的安全測試。應該鼓勵讓測試的過程更加透明化，除此之外，還應該加入AI對於武器應用方面的測試。目前關於人工智慧安全性測試還沒有一套普遍的準則，現時許多安全測試都是由這些科技巨頭資助與監督的，而這明顯引發了利益衝突的問題。有學者認為讓政府來提供資金與測試的準則會是比較可行的方向。
承諾中還提到了要共享AI風險管理方面的資訊，但資訊的共享也存在著風險，如果在研發期間發現了AI可以被用於設計致命武器的話，那還應該將這些資訊分享出來嗎？何況過往這些科技巨頭就曾經以安全為由隱瞞資訊，今年OpenAI發布最新的模型GPT-4時，就沒有透露訓練時使用的數據與參數。這些被視為商業機密的訓練數據是否在未來就會真的公開透明，也有許多專家提出質疑。
而關於AI生成內容加上浮水印的設計，雖然立意良善，但也有相關人士指出，有人已經將「給AI指令並生成內容」當作自己的工作，那在這樣的內容中加上浮水印又會產生另一種問題。
象徵意義大於實質意義，但至少打響第一槍
白宮與人工智慧公司達成的協定似乎是象徵意義大於實質意義，今年5月美國副總統賀錦麗（Kamala Harris）就曾會見了許多AI從業人員商討AI倫理的相關議題，並宣布國家科學基金會將投入1.4億美元。
但這次的峰會沒有強制執行機制來確保公司遵守這些承諾，何況其中許多承諾已經是目前人工智慧公司一直在做的，但至少在科技監管方面已經由政府打響了第一槍。
資料來源：whitehouse、The New York Times、cointelegraph、The Verge、arstechnica
責任編輯：蘇祐萱、高敬原
