Lemérik, hogy milyen gyorsan válaszol az AI

Az MLCommons új tesztjei képesek megmérni, hogy milyen gyorsan reagálnak az AI-chipek, rendszerek, AI-alkalmazások a felhasználói kérésekre.

Az AI-benchmark világában meghatározó MLCommons új tesztekkel állt elő: ezek képesek megmérni, hogy milyen gyorsan reagálnak a felhasználók irányába a legjobb hardverek és AI-alkalmazások.

A két új benchmark azt méri, hogy az AI-chipek és rendszerek milyen gyorsan generálnak válaszokat az erős, sok adattal támogatott AI-modellek esetében. Az eredmények megmutatják, hogy egy AI-alkalmazás milyen gyorsan ad választ a felhasználói kérésre.

Egyes teszteken az NVIDIA megtriplázta, az Intel megduplázta az eredményét.

Persze a nyers teljesítményen kívül más is számít az AI-alkalmazásoknál, hiszen a fejlett AI-chipek nagyon sokat fogyasztanak, az AI-cégek egyik legnagyobb kihívása pedig éppen az, hogy optimális teljesítményt érjenek el, de minimális fogyasztás mellett. A fogyasztást külön tesztekkel méri az MLCommons.

Azóta történt

Előzmények