Perplexity AI új TransferEngine és pplx garden eszközeivel billió paraméteres LLM-ek futtathatók meglévő GPU-kapacitásokon
Fedezd fel, hogyan futtathatók a billió paraméteres nyelvi modellek meglévő GPU klasztereken anélkül, hogy drága új hardverre vagy szigorú gyártói kötöttségekre lenne szükség! A Perplexity kutatócsapata bemutatta a TransferEngine-t és a pplx garden toolkit-et, amelyek nyílt forráskódú infrastruktúrát kínálnak a nagy nyelvi modellek hatékony működtetéséhez.
2025.11.22.
Tovább