軟體工程師 Andrew Rossignol 最近在他的部落格分享了一項令人驚艷的實驗「成功讓上市 20 年的老筆電也能跑生成式 AI 模型」！
Andrew Rossignol 使用 2005 年推出的 Apple PowerBook G4 ，硬體規格是已經有 20 年歷史的 1.5GHz PowerPC G4 處理器與 1GB 記憶體，雖然老筆電與現代的新筆電規格根本天差地遠，但是這款老筆電居然能執行 Meta 的 Llama 2 大型語言模型（LLM），展現令人意想不到的潛力。
舊機如何跑 AI？秘密武器在這裡！
這項實驗的關鍵，在於 Andrew 將開源的 llama2.c 專案移植到這台 G4 上，並運用了 AltVec 技術讓 PowerPC 處理器內核進行向量處理進而加速模型運算能在硬體限制下提升運算效能。
Andrew 在他的部落格詳細解釋了整個過程，包括如何克服硬體瓶頸、優化程式碼，以及確保 Llama 2 能在這麼有限的資源上完成推理。
舊硬體新玩法：不只有 PowerBook G4！
事實上，這並非首次有人在老舊設備上挑戰 AI 技術。過去也有工程師成功在 PlayStation 3、Xbox 360 等老舊遊戲主機上跑 AI 模型，展現這些硬體在創意運用下的潛力。
這次的 PowerBook G4 實驗不僅喚起老蘋果迷的回憶，也激發了工程師社群對老硬體新玩法的熱情。而這也讓我們能利用手邊的舊電腦，探索開發不同的潛力。
▶ 延伸閱讀
圖片及資料來源：MacRumors