วันนี้ ซูเปอร์คอมพิวเตอร์ Frontier ของห้องปฏิบัติการแห่งชาติ Oak Ridge ครองตำแหน่งที่เร็วที่สุดในโลกในรายการ Top500 ในรอบครึ่งปี Frontier เพิ่มความเร็วเป็นสองเท่าของผู้ครอบครองชื่อสุดท้าย ซูเปอร์คอมพิวเตอร์ Fugaku ของญี่ปุ่น และเป็นคนแรกที่ทำความเร็วสัญญาณนาฬิกาอย่างเป็นทางการในการคำนวณกว่า quintillion ต่อวินาที—การคำนวณหลักชัยดำเนินมาเป็นเวลา 14 ปีแล้ว
นั่นเป็นจำนวนที่มาก ดังนั้น ก่อนที่เราจะพูดต่อไป ควรคำนึงถึงความเป็นมนุษย์มากขึ้น
ลองนึกภาพให้คนทั้ง 7.9 พันล้านคนบนโลกใบนี้ได้รับดินสอและรายการโจทย์เลขคณิตหรือโจทย์ปัญหาการคูณอย่างง่าย ตอนนี้ขอให้ทุกคนแก้ปัญหาหนึ่งปัญหาต่อวินาทีเป็นเวลาสี่ปีครึ่ง ด้วยการนำทักษะทางคณิตศาสตร์ของประชากรโลกมารวมกันเป็นเวลาครึ่งทศวรรษ ตอนนี้คุณได้แก้ปัญหาไปแล้วกว่า quintillion ปัญหา
Frontier สามารถทำงานแบบเดียวกันได้ภายในไม่กี่วินาที และติดตามต่อไปอย่างไม่มีกำหนด ทุกคนบนโลกใช้การคำนวณทางคณิตศาสตร์ที่มีมูลค่านับพันปี ซึ่งจะทำให้ Frontier นั้นใช้เวลาไม่ถึงสี่นาที
ประสิทธิภาพอันน่าทึ่งนี้เริ่มต้นยุคใหม่ที่เรียกว่าการประมวลผลแบบ exascale
The Age of Exascale
จำนวนการดำเนินการจุดทศนิยมหรือปัญหาทางคณิตศาสตร์อย่างง่ายที่คอมพิวเตอร์แก้ไขต่อวินาทีนั้นแสดงเป็น FLOP/s หรือเรียกขานว่า “ล้มเหลว” ความคืบหน้าถูกติดตามเป็นทวีคูณของพัน: หนึ่งพัน flop เท่ากับหนึ่งกิโลฟลอป ล้าน flop เท่ากับ megaflop เป็นต้น
ซูเปอร์คอมพิวเตอร์ ASCI Red เป็นเครื่อง แรกที่บันทึกความเร็วได้ 1 ล้านล้านฟ ลอปหรือเทราฟลอปในปี 1997 (โดยเฉพาะอย่างยิ่ง เครื่องเล่นเกม Xbox Series X ตอนนี้ บรรจุได้ 12 เทรา ฟลอป) Roadrunner ได้ทำลายสิ่งกีดขวาง petaflop เป็นครั้งแรก ซึ่งก็คือสี่พันล้าน flop ในปี 2008 . ตั้งแต่นั้นมา คอมพิวเตอร์ที่เร็วที่สุดได้รับการวัดเป็นเพตาฟลอป Frontier เป็นบริษัทแรกที่เพิ่มความเร็วอย่างเป็นทางการให้เหนือ exaflop — 1.102 exaflops นั้นแม่นยำ—เร็วกว่า Roadrunner ประมาณ 1,000 เท่า
ความจริงแล้ว ซูเปอร์คอมพิวเตอร์ในปัจจุบันนั้นเร็วกว่าเครื่องจักรรุ่นเก่ามาก แต่ก็ยังกินพื้นที่ทั้งห้อง โดยมีตู้แถวที่เรียงรายไปด้วยสายไฟและชิป โดยเฉพาะอย่างยิ่ง Frontier เป็นระบบระบายความร้อนด้วยของเหลวโดย Cray ที่ใช้แกนประมวลผล AMD 8.73 ล้านตัว นอกจากจะเร็วที่สุดในโลกแล้ว ยังมีประสิทธิภาพมากเป็นอันดับสองอีกด้วย—ไม่แพ้ระบบทดสอบที่ประกอบด้วยตู้ใดตู้หนึ่งเท่านั้น—ด้วยอัตรา 52.23 กิกะฟลอป/วัตต์
ดังนั้นเรื่องใหญ่คืออะไร?
ซูเปอร์คอมพิวเตอร์ส่วนใหญ่ได้รับทุน สร้าง และดำเนินการโดยหน่วยงานของรัฐ นักวิทยาศาสตร์ใช้เพื่อจำลองระบบทางกายภาพ เช่น ภูมิอากาศหรือโครงสร้างของจักรวาล แต่ยังใช้โดยกองทัพเพื่อการวิจัยอาวุธนิวเคลียร์
ขณะนี้ซูเปอร์คอมพิวเตอร์ได้รับการปรับแต่งให้ใช้งานอัลกอริธึมล่าสุดในปัญญาประดิษฐ์ด้วย อันที่จริง เมื่อไม่กี่ปีที่ผ่านมา Top500 ได้เพิ่มเกณฑ์มาตรฐานที่มีความแม่นยำต่ำกว่าใหม่เพื่อวัดความเร็วของซูเปอร์คอมพิวเตอร์ในแอปพลิเคชัน AI โดยเครื่องหมายนั้น Fugaku บดบัง exaflop ทางกลับในปี 2020 ระบบ Fugaku ตั้งค่าบันทึกล่าสุดสำหรับการเรียนรู้ของเครื่องที่ 2 exaflops Frontier ทำลายสถิติดังกล่าวด้วยความเร็ว AI 6.86 exaflops
เนื่องจากอัลกอริธึมแมชชีนเลิร์นนิงขนาดใหญ่ได้เกิดขึ้นในช่วงไม่กี่ปีที่ผ่านมา บริษัทเอกชนได้เริ่มสร้างเครื่องจักรของตนเองควบคู่ไปกับรัฐบาล Microsoft และ OpenAI สร้างหัวข้อข่าวในปี 2020 ด้วยเครื่องที่พวกเขาอ้างว่า เร็วเป็นอันดับห้าของโลก ในเดือนมกราคม Meta กล่าวว่า ซูเปอร์คอมพิวเตอร์ RSC ที่กำลังจะ มีขึ้นจะเร็วที่สุดในโลกที่ AI 5 exaflops (ดูเหมือนว่าพวกเขาต้องการชิปอีกสองสามตัวเพื่อให้ตรงกับ Frontier)
Frontier และซูเปอร์คอมพิวเตอร์ส่วนตัวอื่น ๆ จะช่วยให้อัลกอริธึมการเรียนรู้ของเครื่องสามารถผลักดันขีด จำกัด ต่อไปได้ อัลกอริธึมที่ล้ำหน้าที่สุดในปัจจุบันมีพารามิเตอร์หลายแสนล้านตัว—หรือการเชื่อมต่อภายใน—แต่ระบบที่กำลังจะมีขึ้นมีแนวโน้มที่จะเติบโตเป็นล้านล้าน
ดังนั้น ไม่ว่าจะเป็น AI หรือการสร้างแบบจำลอง Frontier จะช่วยให้นักวิจัยสามารถพัฒนาเทคโนโลยีและทำวิทยาศาสตร์ที่ล้ำสมัยด้วยรายละเอียดที่มากขึ้นและความเร็วที่มากขึ้น
Frontier เป็นเครื่อง Exascale เครื่องแรกจริงหรือ?
เมื่อซูเปอร์คอมพิวเตอร์ทำลายอุปสรรค exaflop ส่วนหนึ่งก็ขึ้นอยู่กับว่าคุณกำหนดมันอย่างไรและวัดอะไร
[email protected] ซึ่งเป็นระบบแบบกระจายที่ประกอบขึ้นจากการรวมตัวของแล็ปท็อปอาสาสมัคร ได้ ทำลาย exaflop ในช่วงเริ่มต้นของการระบาดใหญ่ แต่ Jack Dongarra ผู้ร่วมก่อตั้ง Top500 กล่าวว่า [email protected] เป็นระบบพิเศษที่ “ขนานกันอย่างน่าอาย” และใช้ได้กับปัญหากับชิ้นส่วนที่สามารถแก้ไขได้โดยอิสระโดยสิ้นเชิงเท่านั้น
ที่เกี่ยวข้องกันมากขึ้น ข่าวลือแพร่สะพัดในปีที่แล้วว่าจีนมีซูเปอร์คอมพิวเตอร์มากถึงสองเครื่องที่ทำงานอย่างลับๆ นักวิจัยได้เผยแพร่รายละเอียดบางอย่างเกี่ยวกับเครื่องจักรดังกล่าวในเอกสารเมื่อปลายปีที่แล้ว แต่ยังไม่ได้รับการเปรียบเทียบอย่างเป็นทางการจาก Top500 ในการให้สัมภาษณ์กับ IEEE Spectrum เมื่อเดือนธันวาคมที่ผ่านมา Dongarra คาดการณ์ว่าหากมีเครื่อง exascale อยู่ในประเทศจีน รัฐบาลอาจหลีกเลี่ยงการแสดงความสนใจไปยังเครื่องดังกล่าว เพื่อป้องกันความตึงเครียดทางการเมืองที่อาจส่งผลให้สหรัฐฯ จำกัดการส่งออกเทคโนโลยีที่สำคัญ
ดังนั้นจึงเป็นไปได้ที่จีนจะเอาชนะสหรัฐฯ ได้อย่างเหนือชั้น แต่เมื่อผ่าน Top500 ซึ่งเป็นเกณฑ์มาตรฐานของฟิลด์ซูเปอร์คอมพิวเตอร์ที่ใช้ในการพิจารณาสุนัขชั้นนำตั้งแต่ช่วงต้นทศวรรษ 1990 Frontier ยังคงได้รับการพยักหน้าอย่างเป็นทางการ
ถัดไป: Zettascale?
ใช้เวลาประมาณ 12 ปีในการเปลี่ยนจากระดับเทราสเกลเป็นระดับพีตาสเกล และอีก 14 ปีกว่าจะไปถึงระดับเอกซ์สเกล การก้าวกระโดดครั้งใหญ่ครั้งต่อไปอาจใช้เวลานานหรือนานกว่านั้น อุตสาหกรรมคอมพิวเตอร์ยัง คงมีความก้าวหน้าอย่างต่อเนื่องในด้านชิป แต่ความเร็วได้ช้าลงและแต่ละขั้นตอนมีค่าใช้จ่ายสูงขึ้น กฎของมัวร์ยังไม่ตาย แต่ก็ไม่คงที่เหมือนเมื่อก่อน
สำหรับซูเปอร์คอมพิวเตอร์ ความท้าทายมีมากกว่าพลังการประมวลผลแบบดิบ ดูเหมือนว่าคุณควรจะสามารถปรับขนาดระบบใด ๆ เพื่อให้ได้มาตรฐานที่คุณต้องการ: ทำให้มันใหญ่ขึ้น แต่ขนาดก็ต้องการประสิทธิภาพเช่นกัน หรือความต้องการพลังงานที่ควบคุมไม่ได้ การเขียนซอฟต์แวร์เพื่อแก้ปัญหาแบบคู่ขนานกันในระบบที่ใหญ่กว่าเดิมนั้นยากกว่า
ก้าวกระโดด 1,000 เท่าถัดไปที่เรียกว่า zettascale จะต้องใช้นวัตกรรมในชิป ระบบที่เชื่อมต่อพวกมันเข้ากับซูเปอร์คอมพิวเตอร์ และซอฟต์แวร์ที่ทำงานบนชิปเหล่านั้น ทีมนักวิจัยชาวจีน คาดการณ์ว่าเราจะเข้าสู่การประมวลผล zettascale ในปี 2035 แต่แน่นอนว่าไม่มีใครรู้แน่ชัด Exascale ซึ่งเคยคาดการณ์ไว้ว่าจะมาถึงภายใน ปี 2018 หรือ 2020 มาถึงช้ากว่ากำหนดไม่กี่ปี
ที่แน่นอนกว่านั้นคือความหิวกระหายพลังการประมวลผลที่มากขึ้นนั้นไม่น่าจะลดน้อยลง แอปพลิเคชันสำหรับผู้บริโภค เช่น รถยนต์ที่ขับด้วยตนเองและความเป็นจริงผสม และแอปพลิเคชันการวิจัย เช่น การสร้างแบบจำลองและปัญญาประดิษฐ์ จะต้องใช้คอมพิวเตอร์ที่เร็วกว่าและมีประสิทธิภาพมากกว่า หากความจำเป็นเป็นต้นกำเนิดของการประดิษฐ์ คุณสามารถคาดหวังให้คอมพิวเตอร์ทำงานเร็วขึ้นได้ชั่วขณะหนึ่ง
เครดิตภาพ: ห้องปฏิบัติการแห่งชาติ Oak Ridge (ORNL)