Nvidia-ის კომპანიის ანალიზი
(ტიკერი NVDA)
ბოლო სიახლეები
მოწოდებულია GlobeNewswire-ის მიერ, 2024 წლის 28 ოქტომბერი, 19:00
სანტა-კლარა, კალიფორნია, 2024 წლის 28 ოქტომბერი (GLOBE NEWSWIRE)
- დღეს NVIDIA-მ განაცხადა, რომ xAI Colossus-ის სუპერკომპიუტერულმა კლასტერმა, რომელიც შედგება 100 000 NVIDIA Hopper Tensor Core გრაფიკული პროცესორისგან მემფისში, ტენესის შტატში, ასეთ უზარმაზარ მასშტაბს მიაღწია NVIDIA Spectrum-X™ Ethernet ქსელური პლატფორმის გამოყენების წყალობით, რომელიც განკუთვნილია სტანდარტული Ethernet-ის გამოყენებით მრავალარენდატორული ჰიპერმასშტაბირებადი ხელოვნური ინტელექტის ფაბრიკების უმაღლესი წარმადობის უზრუნველსაყოფად, დისტანციური პირდაპირი წვდომის მეხსიერების (RDMA) ქსელისთვის.
Colossus, მსოფლიოში უდიდესი ხელოვნური ინტელექტის სუპერკომპიუტერი, გამოიყენება xAI-ის Grok დიდი ენობრივი მოდელების ოჯახის გასაწვრთნელად, ხოლო ჩატბოტები შეთავაზებულია X Premium-ის გამომწერებისთვის ფუნქციის სახით. xAI Colossus-ის ზომის გაორმაგების პროცესშია 200 000 NVIDIA Hopper გრაფიკულ პროცესორამდე.
დამხმარე ინფრასტრუქტურა და თანამედროვე სუპერკომპიუტერი xAI-მ და NVIDIA-მ ააშენეს სულ რაღაც 122 დღეში, ნაცვლად ჩვეულებრივი ვადებისა ასეთი ზომის სისტემებისთვის, რომლებსაც შეიძლება მრავალი თვიდან წლებამდე დასჭირდეს. იმ მომენტიდან, როდესაც პირველი სერვერული სტელაჟი იატაკზე დაიდგა, სწავლების დაწყებამდე 19 დღე გავიდა.
ქსელის წარმადობა
განსაკუთრებით დიდი Grok მოდელის სწავლებისას Colossus აღწევს ქსელის უპრეცედენტო წარმადობას. ქსელური სტრუქტურის სამივე დონეზე სისტემაში არ დაფიქსირებულა აპლიკაციების დაყოვნების გაზრდა ან პაკეტების დაკარგვა ნაკადების კოლიზიების გამო. ის ინარჩუნებს 95%-იან გამტარუნარიანობას, რასაც Spectrum-X-ის გადატვირთვის კონტროლი უზრუნველყოფს. წარმადობის ასეთი დონის მიღწევა მასშტაბში შეუძლებელია სტანდარტული Ethernet-ის საშუალებით, რომელიც ქმნის ნაკადების ათასობით კოლიზიას და ამავდროულად უზრუნველყოფს მონაცემთა გამტარუნარიანობის მხოლოდ 60%-ს.
«ხელოვნური ინტელექტი კრიტიკულად მნიშვნელოვანი ხდება და მოითხოვს წარმადობის, უსაფრთხოების, მასშტაბირებადობისა და ეკონომიკური ეფექტიანობის გაზრდას», - თქვა Gilad Shainer-მა, NVIDIA-ის ქსელური ტექნოლოგიების უფროსმა ვიცე-პრეზიდენტმა. «NVIDIA Spectrum-X Ethernet ქსელური პლატფორმა შექმნილია იმისთვის, რომ xAI-ის მსგავს ინოვატორებს მისცეს ხელოვნური ინტელექტის სამუშაო დატვირთვების უფრო სწრაფი დამუშავების, ანალიზისა და შესრულების შესაძლებლობა, რაც, თავის მხრივ, აჩქარებს ხელოვნური ინტელექტის გადაწყვეტების შემუშავებას, დანერგვას და ბაზარზე გამოტანას».
«Colossus - მსოფლიოში ყველაზე მძლავრი სწავლების სისტემაა», - თქვა ილონ მასკმა X-ზე. «შესანიშნავი სამუშაო xAI-ის, NVIDIA-ისა და ჩვენი მრავალი პარტნიორის/მომწოდებლის გუნდისგან».
«xAI-მ შექმნა მსოფლიოში ყველაზე დიდი და მძლავრი სუპერკომპიუტერი», - განაცხადა xAI-ის წარმომადგენელმა. «NVIDIA Hopper გრაფიკული პროცესორები და Spectrum-X საშუალებას გვაძლევს გავაფართოოთ ხელოვნური ინტელექტის მოდელების სწავლების საზღვრები მასობრივ მასშტაბში, რითაც ვქმნით ულტრადაჩქარებულ და ოპტიმიზებულ ხელოვნური ინტელექტის ფაბრიკას Ethernet სტანდარტის საფუძველზე».
Spectrum-X პლატფორმა
Spectrum-X პლატფორმის საფუძველშია Spectrum SN5600 Ethernet კომუტატორი, რომელიც მხარს უჭერს პორტების სიჩქარეს 800 გბიტ/წმ-მდე და დაფუძნებულია Spectrum-4 კომუტატორის ASIC-ზე. xAI-მ გადაწყვიტა Spectrum-X SN5600 კომუტატორის გაერთიანება NVIDIA BlueField-3® SuperNIC ბარათებთან უპრეცედენტო წარმადობის მისაღწევად.
ხელოვნური ინტელექტისთვის განკუთვნილი Spectrum-X Ethernet ქსელები გვთავაზობენ გაფართოებულ ფუნქციებს, რომლებიც უზრუნველყოფს მაღალეფექტიან და მასშტაბირებად გამტარობის ზოლს დაბალი დაყოვნებით და მოკლე შეფერხებით, რაც ადრე ექსკლუზიურად InfiniBand-ს ეკუთვნოდა. ეს ფუნქციები მოიცავს ადაპტურ მარშრუტიზაციას NVIDIA Direct Data Placement ტექნოლოგიით, გადატვირთვის კონტროლს, ასევე ხელოვნური ინტელექტის სტრუქტურის გაუმჯობესებულ ხილვადობას და წარმადობის იზოლაციას - ეს ყველაფერი საკვანძო მოთხოვნებია მრავალმომხმარებლიანი გენერაციული ხელოვნური ინტელექტის ღრუბლებისა და მსხვილი კორპორაციული გარემოებისთვის.
წარმატებებს გისურვებთ ინვესტირებაში
AVI-ის გუნდი
განხილვა Telegram-ში
კომენტარები ჯერ არ არის. იყავით პირველი!
შესვლა Telegram-ით. კომენტარი გამოჩნდება არხში პოსტის ქვეშ.