OpenAI 祕密專案曝光！數百名外包人工評分 ChatGPT 對話，隱私恐失守
根據外媒 404 Media 報導，OpenAI 支付報酬給數百名約聘人員，讓他們閱覽真實的 ChatGPT 對話內容並對 ChatGPT 的回應評分，這項專案的內部代號為「Project Lily」。
404 Media 取得有關 Project Lily 的指引手冊、Slack 頻道訊息以及真實的 ChatGPT 對話內容，還有將對話內容加以分類的評分系統相關資訊。這些約聘人員被稱為「提示詞審閱者」（prompt reviewer），他們的工作相當單純，檢視經過匿名處理的對話內容，並判斷 ChatGPT 回應內容的品質，評估這些回應是否準確回答問題，以及內容文字是否帶有高高在上的語氣、表情符號或奉承之詞。
根據一名審閱者所述，這份工作非常機械化，時薪超過 50 美元，可說是相當高的行情。同時表示，他們的相關工作指引不斷變動，而且往往自相矛盾。
不過，這名審閱者不認為大多數的使用者知道自己的對話內容正被他人閱覽。現實世界中，許多人將 ChatGPT 當作一名朋友或心理諮商師，將內心深處的祕密化為文字與 ChatGPT 對話，這一點應讓使用者感到不安。
提供給審閱者評估的對話據稱經過一道匿名處理程序，且他們不會看到使用者名稱。但 OpenAI 向 404 Media 坦承，匿名化的過濾機制仍有可能讓某些個人資料流出。報導指出，交給審閱者的對話內容，同時包含一份「使用者記憶摘要」，其中包含使用者提問及其興趣的摘要、相關情境脈絡，甚至可能帶有所在位置。
除標記明顯錯誤外，Project Lily 並不會就對話內容的事實準確與否加以評分，意味著很可能還有其他團隊進行這類評估工作。與此同時，這項審閱工作也與確認某人是否意圖傷害他人的安全檢核作業彼此獨立。
看到這裡，你或許開始想起大多數面對消費大眾的 AI 聊天機器人中，有個「允許我們使用你的對話內容以改進產品」的設定選項。一般來說，這項設定預設開啟，即便是付費訂閱方案也是如此。就 ChatGPT 而言，該設定在 ChatGPT Enterprise / Business / Educational 客戶端則預設關閉。
OpenAI 起初對於 404 Media 詢問「使用者是否曾被明確告知對話內容可能會被真人閱覽」並未給出答覆，但最終是提供一個連結，引導到常見問答頁面。404 Media 的報導揭露後，OpenAI 修改頁面中有關人們如何退出資料收集的內容，但未提及任何關於人工審閱的內容。
實際上，Anthropic 證實公司同樣也運用人工審閱機制，這部分適用有自行開啟相關設定的使用者，並表示會先移除帳號的識別資訊。Google Gemini 在隱私權專區明確表示，「人工審查員（包括服務供應商端受過專業訓練的審查員）會審查根據特定目的收集到的部分資料」，使用者不容易避開這個問題。
（首圖來源：pixabay）