Az MIT régóta figyeli az AI-hardverek versenyét
Az MIT Lincoln Laboratory Supercomputing Center kutatói ismét áttekintették azokat a hardvereket, amelyek a mesterséges intelligencia számításait gyorsítják. A legfrissebb Lincoln AI Computing Survey több mint 120 kereskedelmi AI-gyorsító adatait dolgozza fel. A felmérés egyik legfontosabb célja, hogy kapaszkodót adjon azoknak, akik egy adott feladathoz keresnek megfelelő számítási eszközt.
A kutatócsoport 2018 óta követi a piac változásait, a mostani pedig a sorozat hatodik publikációja. Azóta jelentősen nőtt az új kutatási és kereskedelmi fejlesztések száma, így a terület áttekintése egyre nehezebbé vált. Albert Reuther, az LLSC munkatársa szerint a felmérés elindításában az is szerepet játszott, hogy a laboratórium kormányzati támogatóitól mind több kérdés érkezett az új technológiákról.
A teljes témáról AI Hírek beszámolója szerint a kutatók nemcsak a gyártók ismertetőit, hanem a nyilvánosan hozzáférhető műszaki információkat is rendszeresen feldolgozzák.
CPU, GPU és többféle célhardver
Az AI-gyorsítók olyan speciális rendszerek, amelyek a neurális hálózatok, a mélytanulás és a gépi tanulás számításait teszik gyorsabbá. Az MIT vizsgálata több technológiai kategóriát különít el:
- A CPU-k általános célú számításokra használhatók.
- A GPU-k sok párhuzamos műveletet képesek egyidejűleg végrehajtani.
- Az ASIC-ek konkrét feladatokra tervezett, célzott áramkörök.
- Az FPGA-k és az adatfolyam-gyorsítók többféle munkaterheléshez konfigurálhatók.
Ezek a megoldások eltérő rugalmasságot kínálnak. Egy általános célú processzor sokféle feladatot elvégezhet, egy ASIC viszont egy szűkebb alkalmazásban lehet különösen hatékony. A GPU-k, az FPGA-k és az adatfolyam-gyorsítók köztes lehetőséget jelentenek, mivel különböző terhelésekhez igazíthatók.
Az első LAICS-tanulmány még 57 gyorsítót vizsgált, a legújabb elemzésben viszont már több mint 120 eszköz szerepel. A kutatók azokat is figyelembe veszik, hogy a vizsgált megoldás chipként, külön kártyaként vagy teljes rendszerként jelenik meg.
Nemcsak a sebesség, az energia is számít
A felmérés elsősorban a gyorsítók csúcsteljesítményét és csúcsteljesítmény-felvételét hasonlítja össze. A teljesítmény önmagában nem mindig mutatja meg, melyik eszköz lehet a legjobb választás, hiszen az energiaigény az üzemeltetés költségeire és a szükséges infrastruktúrára is hatással van.
Az összehasonlítást nehezíti, hogy nem minden vállalat teszi közzé részletesen a teljesítményre és a fogyasztásra vonatkozó adatait. Reuther ezért folyamatosan figyeli a technikai sajtóanyagokat, a vállalati bejelentéseket és az iparági előadásokat. A csapat így igyekszik naprakészen tartani az adatokat egy gyorsan változó piacon.
A korábbi tanulmányok minden alkalommal új szempontot is vizsgáltak. A 2022-ben megjelent elemzés például azt kereste, mi állt a teljesítménynövekedés mögött. A kutatók szerint ebben a kisebb és sűrűbb tranzisztorok, valamint az alacsonyabb numerikus pontosság is szerepet kapott. Utóbbi kevesebb értékes számjeggyel végzett számításokat jelent.
Beszerzési döntéseket is támogathat az elemzés
A legújabb tanulmány az architekturális lehetőségekre összpontosít. A kutatók azt elemezték, hogyan módosulhat egy rendszer működése például akkor, ha növelik a processzoronkénti magok számát vagy a párhuzamos teljesítményt.
Az AI-gyorsítók felhasználása közben nem korlátozódik a gépi tanulásra. Párhuzamos működésük miatt molekulák viselkedésének modellezésére és folyadékdinamikai szimulációkra is alkalmasak lehetnek. Ezek olyan számításigényes feladatok, amelyeknél a megfelelő hardver jelentősen javíthatja a munkafolyamatot.
Az Albert Reuther által vezetett csapatban az LLSC munkatársai, Michael Jones, Peter Michaleas, Jeremy Kepner és Vijay Gadepally vesznek részt. A kutatók a Lincoln Laboratory más részlegeivel is együttműködnek, hogy jobban megértsék a gyorsítók szerepét a kutatási és fejlesztési munkában.
Reuther szerint az elmúlt hónapokban hat új startup jelentette be első AI-gyorsítóját. Emiatt a felmérés készítői a belátható jövőben is folytatni kívánják a munkát. Az MIT szerint a LAICS eredményei a piac értelmezésében, valamint a kutatási és beszerzési döntésekben is segítséget nyújtottak. Az elemzések az LLSC saját rendszerbeszerzéseit is támogatják, például annak eldöntésében, mely GPU-kat érdemes részletesebben megvizsgálni.
