Google เปิดตัวเลขค่าไฟ Gemini ต่อ 1 Prompt = 0.24 Wh ใช้น้ำประมาณ 5 หยด
Google ได้ออกมาเปิดเผยข้อมูลการใช้พลังงานของ Gemini โดยระบุว่าตัวเลขการใช้ทรัพยากรนั้น ต่ำกว่าที่หลายฝ่ายประเมินไว้มาก สร้างมาตรฐานใหม่ให้กับความโปร่งใสในอุตสาหกรรม
จากการเปิดเผยในเอกสารทางเทคนิค Google ระบุว่า การใช้งาน Gemini สำหรับ Prompt โดยเฉลี่ย 1 ครั้ง จะใช้พลังงานเพียง 0.24 วัตต์-ชั่วโมง (Wh) ปล่อยก๊าซคาร์บอนไดออกไซด์เทียบเท่า 0.03 กรัม (gCO2e) และใช้น้ำเพียง 0.26 มิลลิลิตร หรือประมาณ 5 หยดเท่านั้น
ซึ่งหากเปรียบเทียบให้เห็นภาพ "การใช้พลังงานต่อ 1 Prompt นั้น น้อยกว่าการเปิดโทรทัศน์ดูเพียง 9 วินาทีเสียอีก"
ความสำเร็จในการลดการใช้พลังงานอย่างก้าวกระโดดนี้มาจากแนวทางการพัฒนา AI แบบครบวงจร (Full-stack) ของ Google ตั้งแต่ฮาร์ดแวร์ที่ออกแบบเองไปจนถึงโมเดล AI ที่มีประสิทธิภาพสูง
โดยในช่วง 12 เดือนที่ผ่านมา พลังงานและคาร์บอนฟุตพรินต์ของ Gemini ลดลงถึง "33 เท่า และ 44 เท่า" ตามลำดับ
สถาปัตยกรรมโมเดลที่มีประสิทธิภาพ : เช่น Mixture-of-Experts (MoE) ที่เปิดใช้งานโมเดลแค่บางส่วนที่จำเป็นต่อการตอบคำถาม ทำให้ลดการคำนวณลง 10-100 เท่า
ฮาร์ดแวร์ที่ออกแบบเอง (TPUs) : ชิป Tensor Processing Units (TPU) รุ่นล่าสุดของ Google มีประสิทธิภาพด้านพลังงานดีกว่ารุ่นแรกถึง 30 เท่า
ศูนย์ข้อมูลประสิทธิภาพสูง : ศูนย์ข้อมูลของ Google มีค่า PUE เฉลี่ยเพียง 1.09 ซึ่งถือว่าอยู่ในระดับแนวหน้าของอุตสาหกรรม และมีความมุ่งมั่นในการใช้พลังงานสะอาดแบบ 24/7
Google หวังว่าการแบ่งปันระเบียบวิธีนี้จะช่วยขับเคลื่อนความก้าวหน้าของอุตสาหกรรมไปสู่ AI ที่มีประสิทธิภาพและมีความรับผิดชอบต่อสิ่งแวดล้อมมากขึ้น
ที่มา : Cloud Google