Hosting GPU i inferencja AI w ZEA: Zasilanie, dane, licencjonowanie i umowy z klientami

Cztery modele operacyjne obejmują większość spółek świadczących usługi hostingu GPU, a każdy z nich nakłada na spółkę inną mieszankę ryzyka związanego z aktywami i ryzyka związanego z danymi.

Posiadanie GPU i sprzedaż mocy obliczeniowej rezerwowanej lub na żądanie wprowadza do bilansu duży składnik majątku. Kredytodawcy i leasingodawcy zapytają, jakie umowy zabezpieczają wykorzystanie. Leasing sprzętu i odsprzedaż dedykowanej mocy przenosi ryzyko związane z aktywami na leasingodawcę, ale pozostawia spółkę zobowiązaną do płacenia rat leasingowych niezależnie od tego, czy klienci się pojawią. Hosting sprzętu należącego do klienta w zarządzanym obiekcie jest najbliższy usłudze colocation: klient jest właścicielem kart, a Państwo zapewniają miejsce, zasilanie, chłodzenie i wsparcie techniczne na miejscu (remote hands). Sprzedaż zarządzanej inferencji oznacza, że spółka zachowuje sprzęt i sprzedaje rezultat, taki jak obsłużone tokeny lub hostowane modele.

Grupa często zaczyna od pierwszego modelu, a później dodaje czwarty. Jest to zmiana w tym, co spółka robi z danymi klientów, i zasługuje na odrębną analizę umów, zobowiązań dotyczących bezpieczeństwa oraz ubezpieczenia, a nie na cichy dopisek do istniejącej karty usługi.

Lokalizacja sprzętu ma takie samo znaczenie jak to, kto jest jego właścicielem. Spółka wynajmująca miejsce w szafach rack w centrum danych strony trzeciej zależy od przydziału mocy w tym obiekcie, a plan dostawcy chmury GPU i mocy obliczeniowej AI powinien wskazywać obiekt, kontraktową moc i okres umowy. Spółki planujące własne hale powinny najpierw przeczytać przewodnik dotyczący spółki prowadzącej centrum danych AI, ponieważ budowa to inny projekt niż hosting.

Federal Decree Law No. 45 of 2021 weszło w życie 2 stycznia 2022 r. Obejmuje przetwarzanie danych osobowych za pośrednictwem systemów elektronicznych, w całości lub części, wewnątrz UAE lub poza nim. Zakazuje przetwarzania bez zgody właściciela danych, z zastrzeżeniem wyjątków, przyznaje osobom prawo do sprostowania oraz do ograniczenia lub zaprzestania przetwarzania, a także określa wymogi dotyczące transferu transgranicznego i udostępniania. UAE Data Office, ustanowiony na mocy Federal Decree Law No. 44 of 2021, jest federalnym regulatorem danych.

W przypadku działalności opartej na samej mocy obliczeniowej dane klienta zazwyczaj pozostają w jego własnym środowisku, a obowiązki hostingodawcy dotyczą głównie bezpieczeństwa i dostępu. W przypadku usługi inferencji obraz się zmienia. Klienci wysyłają prompty, które mogą zawierać informacje o pracownikach, pacjentach lub klientach, a usługa przechowuje lub rejestruje część z nich. Hostingodawca zazwyczaj występuje wówczas jako processor. Zgodnie z art. 8 tego prawa processor działa na polecenie administratora (controller), usuwa dane po zakończeniu okresu przetwarzania lub przy przekazaniu i prowadzi rejestr tego, co przetwarza, który musi udostępnić regulatorowi na żądanie. Zgodnie z art. 9 informuje administratora o naruszeniu ochrony danych niezwłocznie po powzięciu o nim wiadomości. Umowa musi wskazywać, kto decyduje o celu przetwarzania, jak długo przechowywane są logi, czy prompty są wykorzystywane w jakimkolwiek innym celu oraz gdzie znajdują się serwery. Klient z sektora regulowanego przeniesie te same pytania na Państwa.

Free zones mogą zmieniać to, które prawo ma zastosowanie. Prawo federalne nie obejmuje spółek i podmiotów w free zones, które mają własne przepisy o ochronie danych osobowych. Rządowa strona poświęcona ochronie danych wymienia wśród powiązanych aktów prawo o ochronie danych Dubai International Financial Centre, DIFC Law No. 5 of 2020. Jeśli Państwa klienci mają siedzibę w centrum finansowym, należy się spodziewać pytań o to, jak Państwa usługa wpisuje się w to prawo.

Opublikowany zakres kompetencji TDRA obejmuje udzielanie licencji dostawcom usług zaufania i kwalifikowanym dostawcom usług zaufania, wydawanie zezwoleń na urządzenia bezprzewodowe oraz rejestrowanie i zatwierdzanie urządzeń telekomunikacyjnych, w tym rejestrowanie producentów i dostawców urządzeń telekomunikacyjnych oraz wydawanie zezwoleń na odprawę celną urządzeń telekomunikacyjnych. Na swoich stronach publicznych TDRA przedstawia własną chmurę jako usługę dla podmiotów federalnych. W przypadku prywatnych dostawców chmury jej strona Cloud Service Provider oferuje dobrowolny formularz informacyjny, składany po zalogowaniu przez UAE Pass, a nie licencję.

Pozostaje więc kwestia, którą założyciel powinien rozstrzygnąć na piśmie, zamiast ją zakładać. Czy jakakolwiek część produktu dotyka tego, co podlega licencjonowaniu przez TDRA, na przykład importowany sprzęt sieciowy lub usługa przenosząca ruch dla innych podmiotów? Usługa rejestracji urządzeń przez TDRA jest ograniczona do spółek zarejestrowanych jako dostawcy urządzeń telekomunikacyjnych i dzieli urządzenia na trzy poziomy ryzyka. Czysta usługa obliczeniowa sprzedawana przez istniejących operatorów nie podlega w oczywisty sposób żadnemu z tych przepisów, ale odpowiedź zależy od faktycznej architektury. Należy poprosić TDRA lub doradcę o potwierdzenie dla Państwa projektu i przechowywać odpowiedź w dokumentacji na potrzeby banku i ubezpieczycieli.

Serwery z zaawansowanymi akceleratorami trafiają do Państwa przez dostawców, którzy mogą zastrzec warunki dotyczące końcowego wykorzystania oraz tego, kto może wynajmować moc. Część tych warunków pochodzi od producenta lub dystrybutora, a część z przepisów kraju, z którego sprzęt został wywieziony. Podmiot hostingowy z ZEA, który wynajmuje moc innym, może okazać się zobowiązany do przekazania tych warunków dalej.

Praktyczne zadanie polega na przeczytaniu umowy dostawy przed podpisaniem umów z klientami. Jeśli dostawca ogranicza użytkowników końcowych lub lokalizacje, należy wprowadzić do własnych warunków etap weryfikacji klientów oraz prawo do wypowiedzenia. Sprzedaż mocy, której nie wolno nam udostępnić danemu klientowi, jest gorszym rezultatem niż odmowa współpracy z tym klientem na samym początku.

Ta sama logika weryfikacji pomaga w przypadku nadużyć. Podmiot hostingowy, który nie potrafi powiedzieć, co uruchamiają jego klienci, jest w złej pozycji, jeśli okaże się, że obciążenie robocze jest niezgodne z prawem.

Ceny za moc rezerwowaną, na żądanie i w stylu spot przesuwają ryzyko w różny sposób. Umowy na moc rezerwowaną zapewniają pewność przychodów i nakładają na Państwa obowiązek dostarczenia obiecanych kart. Ceny na żądanie powodują, że karty pozostają bezczynne, gdy nikt nie kupuje. Jeśli sprzedają Państwo określoną liczbę GPU, zanim dostawa została odprawiona, są Państwo narażeni na opóźnienie, a umowa powinna określać, co jest Państwo winni, jeśli sprzęt dotrze z opóźnieniem.

Poziomy usług muszą odpowiadać rzeczywistości. Obiecana dostępność jest tyle warta, ile zasilanie i chłodzenie, które za nią stoją. Rekompensaty (kredyty) za przestoje powinny być ograniczone kwotowo i powiązane z umową dotyczącą obiektu, tak aby nie płacić więcej, niż można odzyskać.

Koncentracja klientów to ryzyko komercyjne, które najczęściej się pomija. Jeden duży odbiorca zajmujący większość mocy uzależnia spółkę od pojedynczego odnowienia. Kredytodawcy i inwestorzy o to zapytają, a Państwa prognoza powinna pokazywać, co się stanie, jeśli ten klient odejdzie.

Banki będą chciały uzyskać jasny obraz przepływów: dokąd trafiają płatności za sprzęt, kim są klienci, w jakich krajach mają siedzibę i jak wracają środki. Spółka hostingowa z dużymi zakupami sprzętu z zagranicy i wpływami od wielu zagranicznych klientów musi liczyć się ze szczegółowymi pytaniami. Umowy dostawy, umowę dotyczącą obiektu, model cenowy i politykę akceptacji klientów należy przygotować jako jeden pakiet. Sposób działania Velarozone polega na zbudowaniu tego pakietu wokół modelu operacyjnego, zanim zostanie wybrany podmiot, tak aby przekaz dla banku, inwestora i wynajmującego był ten sam.

Jeśli chodzi o wybór podmiotu, zarówno droga przez free zone, jak i przez mainland może obsługiwać tę działalność. Wybór może zmienić stosowane prawo o danych, ponieważ prawo federalne wyłącza spółki z free zone, której strefa ma własne przepisy o danych osobowych. Przewodnik free zone a mainland omawia to porównanie, a właściwa odpowiedź wynika z Państwa obiektu i Państwa klientów.