AI撰寫教科書被抓包？沈榮欽：人工智慧寫人工智慧的悲劇
AI人工智慧科技已漸漸成為我們日常生活中不可或缺的工具，但國際知名出版社Springer Nature於今年4月出版的一本名為《Mastering Machine Learning: From Basics to Advanced》內容在講關於人工智慧的書籍，在近日引起爭議，學者沈榮欽透露，一名讀者在購買該書之後，原本希望能作為機器學習的教科書，卻沒想到越讀越不對勁，最後爆出該書竟可能是利用人工智慧撰寫而成。
加拿大約克大學副教授沈榮欽在臉書上以《人工智慧寫人工智慧的悲劇》為題做分享，該書在出現疑慮後，讀者寫信給專業的「Retraction Watch」機構，希望他們能夠幫忙查明真相，他們檢查了書中引用的46篇文獻中的18篇，發現三分之二要不是不存在，就是引用錯誤，甚至出現論文作者確有其人但從未在期刊發表的狀況。
沈榮欽說，根據書中的個人簡介，作者Govindakumar Madhavan是SeaportAi的創辦人兼CEO，著有約40個線上課程影片和10本書。關於書中存在的爭議，機構寫信問作者Madhavan，是否用人工智慧寫這本關於人工智慧的書籍？他沒回答問題，只模糊地說道：「可靠地判斷內容（或問題）是否由人工智慧生成仍是一個挑戰，因為即使是人類書寫的文本也可能看起來像人工智慧。」他強調隨著AI的發展越來越大，辨別產物是否為AI生成將會變得越來越困難。
沈榮欽說，Springer Nature 在其部落格上發表了一篇題為「書籍中的研究誠信：透過平衡人工監督和人工智慧工具進行預防」的文章，其中說道： 「所有書籍手稿都會先由一位內部編輯進行初步評估，並決定是否將稿件提交進一步審閱。」該公司高級內容行銷經理 Deidre Hudson Reuss 寫道：「審稿者——該方面的專家——會評估手稿的品質和原創性，以確保其有效性，並符合最高的誠信和道德標準。」 Springer Nature 就把該書撤回了。
《dig-watch》報導指出，這起事件再次引發了人們對出版商品質控制的擔憂，批評人士指出，大型語言模型在學術文本中的濫用日益嚴重；隨著人工智慧工具的日益先進，確保已發表研究的完整性對作者和編輯來說仍然是一個日益嚴峻的挑戰。
留言 0