Хостинг на базі GPU та AI-інференція в ОАЕ: потужність, дані, ліцензування та контракти з клієнтами

Чотири операційні моделі охоплюють більшість компаній з розміщення GPU, і кожна покладає на компанію різне поєднання ризику щодо активів і ризику щодо даних.

Володіння GPU та продаж зарезервованих або наданих на вимогу обчислень ставить на баланс великий актив. Кредитори й лізингодавці запитають, які договори підтверджують завантаження. Лізинг обладнання та перепродаж виділеної потужності переносять ризик щодо активу на лізингодавця, але залишають за компанією зобов'язання сплачувати лізингові платежі незалежно від того, прийдуть клієнти чи ні. Розміщення обладнання, що належить клієнту, в керованому об'єкті найближче до послуги колокації: карти належать клієнту, а ви надаєте місце, електроживлення, охолодження та віддалену технічну допомогу. Продаж керованого інференсу означає, що компанія зберігає обладнання за собою й продає результат, наприклад оброблені токени або розміщені моделі.

Група нерідко починає з першої моделі, а згодом додає четверту. Це зміна того, що компанія робить з даними клієнтів, і вона потребує окремого розгляду договорів, зобов'язань щодо безпеки та страхування, а не тихого додавання до наявного переліку послуг.

Розташування обладнання важливе не менше, ніж його власник. Компанія, яка орендує стоєчний простір у стороннього центру обробки даних, залежить від виділеної цьому об'єкту потужності електропостачання, тому в плані постачальника GPU-хмари та обчислень для ШІ слід назвати об'єкт, договірну потужність і строк. Тим, хто планує власні зали, спершу варто прочитати посібник про компанію, що обслуговує центр обробки даних для ШІ, адже будівництво це інший проєкт, ніж розміщення.

Федеральний указ-закон № 45 від 2021 року набув чинності 2 січня 2022 року. Він поширюється на обробку персональних даних за допомогою електронних систем, повністю або частково, всередині ОАЕ чи за їх межами. Він забороняє обробку без згоди власника даних з певними винятками, надає особам права на виправлення та на обмеження або припинення обробки, а також встановлює вимоги до транскордонної передачі та надання доступу. UAE Data Office, створений на підставі Федерального указу-закону № 44 від 2021 року, є федеральним регулятором у сфері даних.

Для бізнесу з продажу необробленої потужності дані клієнта зазвичай залишаються всередині власного середовища клієнта, а обов'язки хостера здебільшого стосуються безпеки та доступу. Для сервісу інференсу (inference) картина змінюється. Клієнти надсилають запити, що можуть містити відомості про працівників, пацієнтів або клієнтів, і сервіс зберігає або журналює частину з них. Тоді хостер зазвичай діє як обробник. Відповідно до статті 8 закону обробник працює за вказівками контролера, стирає дані після закінчення періоду обробки або під час передачі та веде облік того, що обробляє, який зобов'язаний надавати регулятору на вимогу. Відповідно до статті 9 він повідомляє контролера про порушення, щойно дізнається про нього. У договорі має бути зазначено, хто визначає мету обробки, як довго зберігаються журнали, чи використовуються запити для будь-чого іншого та де розташовані сервери. Клієнт із регульованого сектору переадресує ті самі питання вам.

Вільні зони можуть змінювати те, який закон застосовується. Федеральний закон не поширюється на компанії та установи у вільних зонах, що мають власне законодавство про захист персональних даних. Сторінка уряду про захист даних серед пов'язаних законів називає Закон про захист даних Міжнародного фінансового центру Дубая, Закон DIFC № 5 від 2020 року. Якщо ваші клієнти перебувають у фінансовому центрі, очікуйте запитань про те, як ваш сервіс вписується в нього.

Опублікований мандат TDRA охоплює ліцензування постачальників довірчих послуг і кваліфікованих постачальників довірчих послуг, видачу дозволів на бездротовий зв'язок, а також реєстрацію та схвалення телекомунікаційного обладнання, включно з реєстрацією виробників і постачальників телекомунікаційного обладнання та видачею дозволів на митне оформлення телекомунікаційних пристроїв. На своїх публічних сторінках TDRA подає власну хмару як сервіс для федеральних установ. Для приватних постачальників хмарних послуг її сторінка Cloud Service Provider пропонує добровільну інформаційну форму, що подається через вхід UAE Pass, а не ліцензію.

Залишається питання, яке засновнику слід з'ясувати письмово, а не припускати. Чи торкається будь-яка частина продукту того, що ліцензує TDRA, наприклад мережеве обладнання, яке ви імпортуєте, або послуга, що передає трафік для інших? Послуга реєстрації обладнання TDRA доступна лише компаніям, зареєстрованим як постачальники телекомунікаційного обладнання, і поділяє пристрої на три рівні ризику. Суто обчислювальний сервіс, який продається через наявних операторів зв'язку, очевидно, не підпадає під жоден із цих пунктів, але відповідь залежить від фактичної архітектури. Попросіть TDRA або вашого консультанта підтвердити це для вашого рішення та зберігайте відповідь для вашого банку й страховиків.

Сервери з передовими прискорювачами надходять через постачальників, які можуть висувати умови щодо кінцевого використання та кола осіб, яким дозволено орендувати потужність. Частина цих умов походить від виробника або дистриб'ютора, а частина із законів країни, яку обладнання залишило. Хост-провайдер в ОАЕ, який здає потужність іншим, може опинитися зобов'язаним передати ці умови далі.

Практичне завдання: прочитати договір постачання до підписання договорів з клієнтами. Якщо постачальник обмежує коло кінцевих користувачів або місця використання, включіть до власних умов етап перевірки клієнтів і право на розірвання. Продати потужність, яку вам, можливо, не можна надавати конкретному клієнту, гірший наслідок, ніж відмовити клієнту на самому початку.

Та сама логіка перевірки допомагає й у разі зловживань. Хост-провайдер, який не може сказати, що запускають його клієнти, опиняється в слабкій позиції, якщо виявиться, що навантаження є незаконним.

Резервована потужність, оплата за запитом (on-demand) та цінові моделі за зразком спотового ринку по-різному розподіляють ризики. Резервовані договори дають вам визначеність доходу й водночас накладають на вас зобов'язання поставити обіцяні відеокарти. Оплата за запитом залишає карти без роботи, коли ніхто їх не купує. Якщо ви продаєте узгоджену кількість GPU до того, як вантаж пройшов оформлення, ви наражаєтеся на ризик затримки, і в договорі має бути зазначено, що ви винні у разі запізнення обладнання.

Рівні обслуговування мають відповідати реальності. Обіцяний показник безперебійної роботи настільки надійний, наскільки надійні електроживлення й охолодження за ним. Кредити за простій слід обмежити та пов'язати з договором щодо об'єкта, щоб ви не платили більше, ніж можете відшкодувати.

Концентрація клієнтів це комерційний ризик, який найчастіше випускають з уваги. Один великий покупець, що забирає більшість потужності, робить компанію залежною від єдиного продовження. Кредитори та інвестори запитають про це, а ваш прогноз має показувати, що станеться, якщо цей клієнт піде.

Банки захочуть мати чітку картину потоків: куди йдуть платежі за обладнання, хто клієнти, у яких країнах вони перебувають і як повертаються кошти. Компанія з розміщення, яка здійснює великі закупівлі обладнання за кордоном і отримує надходження від багатьох іноземних клієнтів, зіткнеться з детальними запитаннями. Підготуйте договори постачання, договір щодо об'єкта, модель ціноутворення та політику прийняття клієнтів як єдиний пакет. Як працює Velarozone це побудова такого пакета навколо операційної моделі до вибору юридичної особи, щоб історія для банку, інвестора й орендодавця була однією й тією самою.

Щодо вибору юридичної особи, і маршрути вільної зони, і мейнленду можуть вмістити цю діяльність. Вибір може змінити закон про дані, що застосовується, адже федеральний закон виключає компанії вільних зон, чия зона має власне законодавство про персональні дані. Посібник про вільну зону та мейнленд містить порівняння, а правильна відповідь залежить від вашого об'єкта й ваших клієнтів.