Palantir執行長：AI風險極高 先進公司恐須國有化 避免訴訟纏身
Palantir Technologies執行長（Alex Karp）公開疾呼人工智慧（AI）開發者對自己技術造成的後果，須承擔民事和刑事責任，並且預言先進的人工智慧實驗室最終可能需要國有化。
他支持政府建立「合理規範」，並警告部分大型AI實驗室的技術可能過於強大，甚至試圖吸收企業的專有資料與智慧財產權。同時，他反對暫緩 AI 開發，認為在與中國等全球對手的 AI 競賽中保持技術優勢，對國家安全至關重要
人工智慧存在無限的風險
美國人工智慧軟體巨頭Palantir的執行長卡普周四（9月17日）在接受財經媒體《CNBC》專訪時預言，由於AI風險極高，一流的人工智慧（AI）實驗室可能需要國有化。
卡普示警，人工智慧存在無限的風險（unlimited risks），並且需要責任保護，以此論證領先的人工智慧實驗室可能需要國有化。他指出，有害技術的開發者應該為自己的行為負責。
Anthropic的執行長（Dario Amodei）、OpenAI的執行長奧特曼（Sam Altman）、SpaceX 和特斯拉執行長馬斯克（Elon Musk）齊聲疾呼放慢先進AI開發速度。
他呼籲制定合理指導方針監管人工智慧，但他表示，由於這項技術無限的風險所帶來的責任，可能需要走向國有化。
「我認為他們的觀點是，這些企業必須國有化，因為如果不國有化，我的每一位客戶都會把我告到法院。」卡普接受CNBC「Squawk on the Street」節目專訪時解釋。
若不國有化，每一位客戶都有可能提告AI公司
他說，企業越來越擔心專有資料和智慧財產權被封閉的AI模型吸收，並將這些擔憂與Palantir、輝達共同發起的「主權革命」聯繫起來。
先前有報導指出，Palantir與Anthropic就不可撤銷的零資料留存保證（irrevocable zero-data-retention guarantee），存在爭議，這類保證是一種極高規格的隱私承諾，通常出現在人工智慧（AI）、雲端服務或企業級軟體的資安條款中。
輝達和博思艾倫顧問公司（Booz Allen Hamilton）也在加強對Anthropic模型的控制。卡普表示，目前的爭論過於狹隘圍繞著安全與監管展開，而責任、資料所有權和智慧財產權同樣至關重要。
訪談中，卡普一再提及建構強大AI技術所帶來的風險和責任，進一步論證將人工智慧實驗室國有化以及對「不負責任」的技術開發者追究民事和刑事責任的必要性「你必須找到一種方法來制定合理且可執行的準則，但你做不到，第一道防線就是你要為自己的行為負責。」他強調。
卡普發表這番言論之際，人工智慧公司如何處理企業資料的爭議不斷擴大。
Palantir要求提供不可撤銷的零資料留存保證
路透引述The Information的報導稱，Palantir曾向Anthropic施壓，要求Anthropic提供不可撤銷的零資料留存保證，才允許Anthropic的AI模型透過Palantir的軟體存取。今年6月，Anthropic更改其Fable模型的政策，允許企業保留30天的使用日誌以抵禦外部攻擊，此舉引發客戶的強烈反對，更是加深這場爭議。
報導稱，OpenAI也面臨類似的審查，有人指控OpenAI的用戶資料可能被用於模型相關工作。據報導，輝達已將Anthropic模型的使用範圍限制在敏感度較低的任務上，而將自家Nemotron模型用於內部工作，博思艾倫諮詢公司也已禁止Anthropic的商業模式用於特定的專有網路安全活動。
卡普指出，Palantir及其客戶在AI科技業擁有豐富的經驗，包括軍事應用，客戶特別擔心他們的「核心理念」（即他們經營業務的想法和數據）被竊取。他還補充說，舉凡公司使用封閉式AI模型並付費購買tokens，實際上都有可能會將知識產權拱手讓給AI模型供應商。
這一觀點與微軟執行長納德拉在7月發出的警告不謀而合。當時納德拉發文寫道，企業不僅僅是在為tokens付費，他們還在為外部模型提供提示、修正和機構知識，而這些最終會使這些系統發揮作用。
「你實際上是為AI功能支付兩次費用，一次是金錢，另一次是更有價值的東西（智慧財產權）。」納德拉憂心忡忡寫道。