Amazon prinaša umetno inteligenco v zasebne podatkovne centre

Amazon Web Services (AWS) ponuja novo rešitev za podjetja in institucije, ki želijo poganjati zmogljivo umetno inteligenco v svojih podatkovnih centrih. Storitev AWS AI Factories je zasnovana kot "AI v škatli": AWS postavi in upravlja strojno ter programsko infrastrukturo, stranka pa zagotovi prostor, elektriko in povezave.

AWS v tej ponudbi vključuje svoje AI pospeševalnike, med njimi Trainium3, ter grafične procesorje podjetja Nvidia, trenutno generacije B200 in GB200, v prihodnje pa tudi nove tipe GB300 in B300. Povezavo med strojno opremo omogoča visoko zmogljiva petabitna neblokirna mreža, shramba pa temelji na rešitvah Amazon FSx za Lustre in Amazon S3 Express One Zone.

AWS poudarja, da so AI Factories privlačne predvsem za organizacije s strogimi zahtevami glede varnosti, zasebnosti ali suverenosti podatkov, zlasti za vlade in podjetja, ki ne želijo podatkov deliti z drugimi. V takšnih primerih gre za kompromis med popolnim izkoristkom AI in obveznostjo lokalne hrambe podatkov. Strankam ni treba vlagati v lasten razvoj infrastrukture, zato je čas namestitve in umestitve opreme precej krajši kot pri tradicionalnih lastnih rešitvah.

Trenutno AWS še ne podpira tehnologije NVLink Fusion, ki omogoča hitro medčipno komunikacijo. Ta bo na voljo s prihodnjo generacijo pospeševalnikov, imenovano Trainium4. Prav tako ostaja neznana končna cena storitve; AWS je za zdaj še ni objavil, zato ni jasno, ali bo najem AI Factories cenejši od samostojnega nakupa strojne opreme in licenc ali pa bo šlo za prenovljeno storitveno ponudbo z višjo ceno.