AI-SERVERS

Flexible Compute

Warstwa sterująca ma wykrywać dostępne zasoby GPU i przydzielać im odpowiednie zadania. Celem jest lepsze wykorzystanie istniejącego sprzętu, gdy nie wykonuje on głównych zadań klientów.

Planowane

Obliczenia tam, gdzie są wolne zasoby

Planujemy warstwę sterującą istniejącymi serwerami GPU. Ma przydzielać odpowiednie zadania według dostępnych zasobów, z zachowaniem priorytetu podstawowego zastosowania każdego serwera.

Dostępne zasoby

Warstwa sterująca będzie wykrywać serwery z wolną mocą obliczeniową i pamięcią, uwzględniając wymagania zadań i zasady eksploatacji każdej maszyny.

Rozdzielanie zadań

Harmonogram będzie przydzielać odpowiednie zadania dostępnym serwerom. Skupiamy się na zadaniach, które mogą czekać lub obsługują wstrzymanie i wznowienie.

Ocena wyników

Ocenimy wykonane obliczenia, zużycie energii, koszty eksploatacji i przychody. Samo większe wykorzystanie zasobów nie gwarantuje lepszej rentowności.

Lepsze wykorzystanie istniejącego sprzętu

Wykorzystanie wolnych zasobów może ograniczyć zakup kolejnych serwerów do wykonania tej samej ilości pracy. Ma sens ekonomiczny i środowiskowy, jeśli korzyści przewyższają dodatkowe zużycie energii i narzut operacyjny. Rzeczywiste oszczędności trzeba będzie ocenić na podstawie działania systemu.

Projekt jest planowany. Publiczne zlecanie zadań nie jest jeszcze dostępne.

Wewnątrz DCMetrik