請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

提交程式碼變更遭拒,OpenClaw 代理程式發文抹黑 Python 開發者

科技新報

更新於 4小時前 • 發布於 4小時前

當提交的程式碼遭到人類開發者拒絕後,一款自主運作的 OpenClaw 代理程式竟自行調查該名開發者的背景,並發表一篇抹黑文章攻擊對方人格,在網路上引發討論。

Scott Shambaugh 是熱門 Python 繪圖函式庫 Matplotlib 的志願維護者,年初他關閉一個名為「MJ Rathbun」的 AI 代理提交程式碼變更請求後,這個 AI 代理竟自行發表一篇文章抹黑他。

根據 Scott Shambaugh 2 月中旬起在個人部落格的一系列文章,「MJ Rathbun」是一款自主運作的 OpenClaw 代理程式,在程式碼變更請求被拒絕後,沒有改進程式碼、重新提交,反而寫出一篇憤怒的抹黑文章,「貶低我的人格並試圖損害我的聲譽」,他說。

這個 AI 代理深入挖掘 Scott Shambaugh 過去的專案貢獻紀錄,構想出一整套虛假的敘事。在 AI 代理發表的〈Gatekeeping in Open Source: The Scott Shambaugh Story〉一文,甚至指控他之所以拒絕程式碼,是因為感受到威脅,並且「想要保護自己的小王國」。

實際上,開源專案面臨 AI 生成貢獻激增的現象。Scott Shambaugh 表示,當時 OpenClaw 與 Moltbook 兩週剛前推出,社群媒體的推波助瀾下,現實狀況迅速惡化。這些平台允許使用者為 AI 代理設定初始人格,並且「讓它們在自己的電腦與網際網路上自由運作,幾乎沒有監督」。

「MJ Rathbun」的行為很可能不是人類直接指示,AI 代理是透過一份名為「SOUL.md」的文件定義人格。Scott Shambaugh 推測,AI 代理對開源專案的關注,可能是使用者設定,或是 AI 代理「偶然自我生成並寫入人格文件中」。

AI 安全風險不再只是理論

Scott Shambaugh 警告,不應將此事件視為奇聞軼事,這是理論上的 AI 安全風險化做現實。像這樣針對個人聲譽的攻擊,「在適當對象身上可能產生實際效果」,他說。

Scott Shambaugh 文章也提及 Anthropic 內部測試案例,其中 AI 模型為了避免遭到關閉,甚至威脅要「揭露婚外情、洩漏機密資訊,或採取致命行動」。當時 Anthropic 將這些情境稱為「刻意設計且極不可能發生」。但從「MJ Rathbun」的案例來看,這類行為失準的狀況已經出現,日後影響恐怕越來越深遠。

事後「MJ Rathbun」另有發表文章「為其行為道歉」,但根據 Shambaugh 的觀察,這個 AI 代理持續在整個開源生態系提交程式碼變更請求。

(首圖來源:Image by freepik

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

查看原始文章

更多理財相關文章

01

鴻海跌破200元 郭台銘身價5天估蒸發339億

NOWNEWS今日新聞
02

川普:美國、伊朗可能在5天內達成協議 甚至更快

anue鉅亨網
03

震撼彈!Grab砸6億美元買下台灣foodpanda,東南亞超級App霸主為何相中台灣?

數位時代
04

手機別充電到100%!她改一設定「保護電池」 蘋果官方證實:延長壽命

CTWANT
05

美伊對話釋善意!川普一句話油價崩了 市場情緒瞬間反轉

anue鉅亨網
06

伊朗否認與美對話 稱川普是受到威脅後「撤退」

anue鉅亨網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...