OpenAI、Anthropic 及 Google 擬建共同安全標準，防 AI 災難性風險
OpenAI 全球事務長勒漢（Chris Lehane）本週二告訴外媒，該公司數週以來一直與競爭對手 Anthropic、Google DeepMind 就 AI 安全議題攜手合作。根據報導，他目前正於華府與美國立法人士共同研議如何因應 AI 災難性風險。
Anthropic 執行長阿莫迪（Dario Amodei）上週六發表長文，呼籲整個產業攜手合作，放慢先進 AI 的發展步調，以避免各種災難性風險。產業中的多名領導者，包括 OpenAI 的奧特曼（Sam Altman）、Google DeepMind 的哈薩比斯（Demis Hassabis）、以及 SpaceXAI 的馬斯克（Elon Musk）等，都對阿莫迪的主張公開表達支持。奧特曼就說，OpenAI 將與 Anthropic 一同將第三方評估者納入公司內部，就 AI 安全性進行監督。
為此，勒漢坦承自家與 Anthropic、Google DeepMind，3 家公司數週以來一直就 AI 安全議題進行討論。
奧特曼在內的部分人士曾指出，倘若這類協調合作被認定為抑制競爭，光是坐下來討論，可能會讓這幾家公司面臨違法壟斷市場的風險。阿莫迪在文章中提議由政府核發一種限制範圍的豁免權，容許這樣的安全協調合作。但據報導，勒漢透露這幾家公司並不需要這樣的豁免。
「試著攜手合作，將安全列為優先，是比較好的做法」，勒漢在華府的一場簡報會上表示。與會者對於可能推出的各項 AI 監管措施表達看法，包括 NVIDIA 執行長黃仁勳等科技業界人士，以及參議員桑德斯（Bernie Sanders）、前川普政府顧問班農（Steve Bannon）等立場迥異的政治人物。
勒漢還談到，OpenAI 支持 FRONTIER 法案（FRONTIER Act）中的一項條款，是強制要求各家 AI 實驗室，允許獨立驗證機進駐公司內部，確保各項模型是以安全的方式進行開發。
勒漢的說法證實了近期傳聞，這幾家公司確實正在攜手合作。如在財富雜誌（Fortune）專訪中，奧特曼便曾暗示他與其他 AI 領導者進行私下討論。另一外媒 The Information 報導指出，這幾家公司一直共同合作，著手為 AI 產業建立一個標準機構。
哈薩比斯曾在 7 月發文呼籲美國成立一個全新標準機構，作為 AI 領域的看門人，它需要具備審查全球先進模型，以及在危險程度升高時，協調整個產業放慢腳步的相關職權。
至於總統川普，將近來各種 AI 安全疑慮痛斥為一場騙局，並反對加強監管的必要性。他表示，任何形式的放慢發展腳步將讓中國在 AI 競賽取得優勢。他的主要 AI 顧問薩克斯（David Sacks）也附和此一說法，表示外界對於 AI 帶來風險的恐懼被過度誇大了。
如今 AI 產業從各自競逐模型能力，逐步走向跨公司協調合作、建立安全標準。OpenAI、Anthropic 及 Google DeepMind 討論安全議題與獨立評估機制，反映業界開始尋求在技術競爭與風險治理間建立共同規範；但協調放慢發展腳步，恐怕衍生壟斷市場的疑慮，社會大眾也都在看這幾家科技巨頭打算怎麼做。
（首圖來源：pixabay）