AMD รองรับการรัน LLM พารามิเตอร์ 128B บน Windows AI PC ได้แล้ว
AMD ได้เปิดตัวไดรเวอร์ KB ใหม่ ซึ่งเป็นส่วนหนึ่งของไดรเวอร์ Adrenalin Edition 25.8.1 โดยจะทำให้โมเดล LLM ที่มีพารามิเตอร์สูงสุด 128B สามารถรันได้บน Windows โดยใช้โปรเซสเซอร์ Ryzen™ AI Max+ 395 128GB ความสำเร็จนี้ รวมถึงการรองรับการใช้งาน Llama 4 Scout 109B บน Meta ซึ่งมาพร้อมฟังก์ชันการใช้งานและ Model Context Protocol (MCP) เต็มรูปแบบผ่าน llama.cpp + Vulkan นับเป็นโปรเซสเซอร์สำหรับผู้บริโภคตัวแรกที่สามารถรันโมเดลขนาดนี้ได้
ด้วยการจัดสรรระบบ RAM ผ่านการพัฒนาบน AMD Variable Graphics Memory (VGM) ทำให้สามารถใช้หน่วยความจำกราฟิกเฉพาะแบบต่อเนื่องได้สูงสุด 96GB บน iGPU ซึ่งช่วยให้สามารถรันโมเดลขนาดใหญ่ (128B ในแบบ 4-bit หรือ 32B ในแบบ FP16) ภายในเครื่องประมวลผลโดยที่ไม่ต้องใช้การ์ดจอแยก
ด้วยไดรเวอร์ Adrenalin ล่าสุด ทำให้ AMD รองรับการใช้งานในด้านต่าง ๆ ประกอบด้วย
- Windows AI PC เครื่องแรกที่สามารถรัน Llama 4 Scout 109B ได้ด้วยตัวเอง พร้อมฟังก์ชันการใช้งานและเครื่องมือเต็มรูปแบบ
- รองรับ Context Window ขนาด 256,000 โทเคน สำหรับเอกสารขนาดใหญ่, การให้เหตุผลแบบหลายขั้นตอน และเวิร์กโฟลว์ AI Agent
- ความยืดหยุ่นในการรันโมเดลที่หลากหลาย ตั้งแต่ผู้ช่วยงานเล็ก ๆ ไปจนถึงเครื่องมือขั้นสูงสำหรับการเขียนโค้ดและงานด้านภาพ
—————
▶︎ อัปเดตข่าวสาร และบทความต่างๆ
คลิกดูต่อที่ insight-daily.com ได้เลย!