Hosting GPU e inferenza AI negli EAU: Potenza, Dati, Licenze e Contratti con i Clienti

Quattro modelli operativi coprono la maggior parte delle società di hosting GPU, e ciascuno attribuisce alla società una diversa combinazione di rischio sugli asset e rischio sui dati.

Possedere GPU e vendere capacità di calcolo riservata o on-demand porta a bilancio un asset di grande valore. Finanziatori e locatori chiederanno quali contratti sostengano l'utilizzo. Prendere in leasing l'hardware e rivendere capacità dedicata trasferisce il rischio sull'asset al locatore, ma lascia la società vincolata ai canoni di leasing indipendentemente dal fatto che i clienti si presentino o meno. Ospitare hardware di proprietà del cliente in una struttura gestita è il caso più vicino a un servizio di colocation: il cliente possiede le schede, voi fornite spazio, alimentazione, raffreddamento e servizi di remote hands. Vendere inferenza gestita significa che la società mantiene l'hardware e vende un risultato, come i token serviti o i modelli ospitati.

Un gruppo spesso comincia con il primo modello e aggiunge in seguito il quarto. Ciò comporta un cambiamento in ciò che la società fa con i dati dei clienti, e merita un esame specifico di contratti, impegni di sicurezza e coperture assicurative, anziché un'aggiunta silenziosa a una scheda di servizio esistente.

Contano tanto dove si trova l'hardware quanto chi lo possiede. Una società che affitta spazio nei rack in un data centre di terzi dipende dall'allocazione di potenza di quella struttura, e un piano per fornitore di GPU cloud e di calcolo per l'IA dovrebbe indicare la struttura, la potenza contrattualizzata e la durata. Le società che pianificano sale proprie dovrebbero leggere prima la guida a una società di data centre per l'IA, perché costruire è un progetto diverso dall'ospitare.

Il Federal Decree Law No. 45 of 2021 è entrato in vigore il 2 gennaio 2022. Esso riguarda il trattamento dei dati personali mediante sistemi elettronici, in tutto o in parte, all'interno o all'esterno degli UAE. Vieta il trattamento senza il consenso del titolare dei dati, fatte salve le eccezioni, riconosce alle persone i diritti di rettifica e di limitazione o interruzione del trattamento, e stabilisce requisiti per il trasferimento transfrontaliero e la condivisione. Uno UAE Data Office, istituito ai sensi del Federal Decree Law No. 44 of 2021, è l'autorità federale per i dati.

In un'attività di sola capacità grezza, i dati del cliente restano di solito all'interno dell'ambiente del cliente stesso, e gli obblighi dell'host riguardano perlopiù sicurezza e accessi. Per un servizio di inferenza il quadro cambia. I clienti inviano prompt che possono contenere informazioni su dipendenti, pazienti o clienti, e il servizio ne conserva o ne registra una parte. L'host agisce quindi di solito come responsabile del trattamento. Ai sensi dell'Articolo 8 della legge, il responsabile opera su istruzioni del titolare del trattamento, cancella i dati alla fine del periodo di trattamento o alla consegna, e tiene un registro di ciò che tratta, da mettere a disposizione dell'autorità di controllo su richiesta. Ai sensi dell'Articolo 9, informa il titolare di una violazione non appena ne viene a conoscenza. Il contratto deve indicare chi decide la finalità del trattamento, per quanto tempo vengono conservati i log, se i prompt vengono usati per altri scopi e dove si trovano i server. Un cliente di un settore regolamentato riverserà su di lei le stesse domande.

Le free zone possono modificare la legge applicabile. La legge federale non riguarda le società e gli stabilimenti nelle free zone che dispongono di una propria normativa sulla protezione dei dati personali. La pagina del governo sulla protezione dei dati elenca, tra le leggi collegate, la Data Protection Law del Dubai International Financial Centre, la DIFC Law No. 5 of 2020. Se i suoi clienti operano in un centro finanziario, si aspetti che le chiedano come il suo servizio si inserisca in tale quadro.

Le competenze dichiarate di TDRA comprendono il rilascio di licenze ai fornitori di servizi fiduciari e ai fornitori qualificati di servizi fiduciari, il rilascio di permessi per apparati wireless, nonché la registrazione e l'approvazione di apparecchiature di telecomunicazione, inclusa la registrazione di produttori e fornitori di apparecchiature di telecomunicazione e il rilascio di permessi di sdoganamento per dispositivi di telecomunicazione. Sulle sue pagine pubbliche, TDRA presenta il proprio cloud come un servizio per gli enti federali. Per i fornitori di cloud privati, la sua pagina Cloud Service Provider offre un modulo informativo volontario, da presentare tramite accesso UAE Pass, e non una licenza.

Resta una questione che un fondatore dovrebbe chiarire per iscritto anziché dare per scontata. Una qualsiasi parte del prodotto tocca ciò che TDRA concede in licenza, ad esempio apparecchiature di rete che importate o un servizio che trasporta traffico per conto di terzi? Il servizio di registrazione delle apparecchiature di TDRA è riservato alle società registrate come fornitori di apparecchiature di telecomunicazione, e classifica i dispositivi in tre livelli di rischio. Un servizio di puro calcolo venduto su operatori esistenti non rientra in modo evidente in nulla di tutto ciò, ma la risposta dipende dall'architettura effettiva. Chieda a TDRA o al suo consulente di confermarlo per il suo progetto, e conservi la risposta agli atti per la sua banca e per i suoi assicuratori.

I server dotati di acceleratori avanzati arrivano tramite fornitori che possono porre condizioni sull'uso finale e su chi può noleggiare la capacità. Alcune di queste condizioni provengono dal produttore o dal distributore, altre dalle leggi del paese da cui l'hardware è partito. Un host degli UAE che noleggia capacità ad altri può ritrovarsi obbligato a trasmettere tali condizioni.

Il compito pratico è leggere il contratto di fornitura prima di firmare i contratti con i clienti. Se il fornitore limita gli utenti finali o le località, inserite nei vostri termini una fase di verifica dei clienti e un diritto di recesso. Vendere capacità che potreste non essere autorizzati a fornire a un determinato cliente è un risultato peggiore che rifiutare il cliente fin dall'inizio.

La stessa logica di verifica aiuta anche contro gli abusi. Un host che non è in grado di dire che cosa eseguono i suoi clienti si trova in una posizione debole se un carico di lavoro si rivela illecito.

I prezzi per capacità riservata, on-demand e di tipo spot spostano il rischio in modi diversi. I contratti con capacità riservata vi danno certezza dei ricavi e vi pongono l'obbligo di consegnare le schede promesse. Il prezzo on-demand lascia le schede inattive quando nessuno acquista. Se vendete un numero vincolante di GPU prima che la spedizione sia stata sdoganata, siete esposti al ritardo, e il contratto dovrebbe indicare che cosa dovete se l'apparecchiatura arriva in ritardo.

I livelli di servizio devono corrispondere alla realtà. Una percentuale di uptime promessa vale quanto l'alimentazione e il raffreddamento che la sostengono. I crediti per i periodi di inattività dovrebbero essere limitati e collegati al contratto della struttura, in modo da non pagare più di quanto sia possibile recuperare.

La concentrazione dei clienti è il rischio commerciale più spesso trascurato. Un grande acquirente che assorbe la maggior parte della capacità rende la società dipendente da un unico rinnovo. Finanziatori e investitori lo chiederanno, e le vostre previsioni dovrebbero mostrare che cosa accade se quel cliente se ne va.

Le banche vorranno un quadro chiaro dei flussi: dove vanno i pagamenti per l'hardware, chi sono i clienti, in quali paesi si trovano e come il denaro rientra. Una società di hosting con grandi acquisti di apparecchiature dall'estero e incassi da molti clienti stranieri dovrà rispondere a domande dettagliate. Preparate come un unico fascicolo i contratti di fornitura, il contratto della struttura, il modello di prezzo e la policy di accettazione dei clienti. Come funziona Velarozone consiste nel costruire quel fascicolo attorno al modello operativo prima che l'entità venga scelta, così che la narrazione verso la banca, l'investitore e il locatore sia la stessa.

Quanto alla scelta dell'entità, le vie free-zone e mainland possono entrambe ospitare questa attività. La scelta può modificare la legge sui dati applicabile, perché la legge federale esclude le società delle free zone la cui zona dispone di una propria normativa sui dati personali. La guida free zone versus mainland tratta il confronto, e la risposta giusta dipende dalla sua struttura e dai suoi clienti.