被員工批「違反AI使用原則」 Google起內鬨:200人連署要求停止和1國軍方合作

Google在今年5月被上百名員工連署要求停止與軍事單位合作。(圖/美聯社)

Google旗下的頂尖人工智慧(AI)實驗室「Google DeepMind」,在今年5月由200名員工連署了一封信,要求公司停止與軍事組織的合作,特別是以色列國防軍。DeepMind 方面承諾不會涉入軍事技術的開發,但 Google 的雲端業務卻與多國軍方(包括以色列和美國)有合約,這引發了員工對於公司是否違反 AI 原則的擔憂,同時顯示Google在「AI 部門」和「雲端業務」之間的衝突。

DeepMind 內部的倫理衝突

根據外媒《TIME》報導,這封信由約 5% 的 DeepMind 員工簽署,雖然比例不大,但對於全球頂尖的機器學習人才供不應求的情況下,反映了員工對於公司道德標準感到不安。信件指出,DeepMind 的技術不應該被用於軍事用途,因為Google 的 AI 原則明確指出,公司不會開發可能導致「整體傷害」的 AI 技術,也不會支持用於製造武器或違反國際法和人權原則的技術。

連署信中引用了 《TIME》 在 4 月的一篇報導,該報導揭露了 Google 與以色列國防軍之間的一項合約。這項合約是更大範圍的「雲端合約計劃」(Project Nimbus)的一部分,Google 透過該計劃為以色列政府提供雲端運算和 AI 服務。據報導,以色列軍方使用這些技術進行大規模監控,並用於空襲目標選擇。

Google與以色列的合作引發爭議

Google與以色列的合作被稱為「Project Nimbus」, 是合作內容涉及雲端運算和 AI 技術。《TIME》指出,這項計劃的具體內容包括為以色列政府的各個部門提供雲端基礎設施,支持的範圍涵蓋以色列的國防、公共安全和智慧城市計劃等。值得關注的是,以色列軍方利用這些技術來進行包括加薩地區的監控和空襲行動,這讓 DeepMind 的員工擔心技術被用於助長暴力行為。

根據這些員工的說法,這些合作違反了 DeepMind 與 Google 於 2014 年簽訂的協議。當時,DeepMind 的領導層要求 Google 承諾,DeepMind 研發的 AI 技術不會被用於軍事或監控用途。多年來,DeepMind 保持了一定的獨立性,專注於非軍事領域的技術開發。然而,隨著人工智慧競賽的加劇,DeepMind 與 Google 的核心業務逐漸整合,2023年正式與另一個 AI 團隊 Google Brain 合併,進一步被納入 Google 內部的戰略規劃之中。

Google的回應與員工的不滿

對於這封連署信,Google 發言人向《TIME》表示,公司向客戶提供服務時謹遵 AI 原則,並強調 Nimbus 計劃的合同不涉及「高度敏感、機密或與武器或情報服務相關的軍事工作負載」,而僅限於商業雲端基礎設施,非針對軍事用途。

然而,DeepMind 的員工認為,這樣的回應過於模糊,未能真正澄清技術是否被軍事化利用。這封信件呼籲公司進行調查,查明是否有軍事和武器製造商使用 Google 雲端服務,並要求終止這些用戶的存取權限。此外,信中還建議成立新的監管機構,以防止未來技術被軍事化利用。

DeepMind 高層的回應

在 6 月的一次 DeepMind 全體員工會議上,員工們要求高層對這封信件作出回應。根據會議紀錄,DeepMind 的首席營運官 Lila Ibrahim 回應了這一問題。她表示,DeepMind 不會設計或部署用於武器或大規模監控的 AI 應用,並強調 Google 雲端客戶依法須遵守公司服務條款及可接受使用政策。

儘管如此,根據《TIME》揭露四名知情人士的說法,自信件發佈以來的三個月內,Google 並未採取任何行動。一名員工表示:「我們從領導層那裡沒有收到任何實質性的回應,並且越來越感到沮喪。」