OpenRouter i Multi-Model AI Gateways: Struktura platformy AI Routing w ZEA

Dokumentacja OpenRouter opisuje produkt wprost. Jeden punkt końcowy, `/api/v1/chat/completions`, daje dostęp do setek modeli. Można z niego korzystać z poziomu OpenAI SDK jako zamiennika. Żądania są kierowane do najbardziej opłacalnej opcji, a mechanizmy zapasowe uruchamiają się automatycznie. Klienci Business i Enterprise mogą korzystać z osobnego punktu końcowego w regionie UE z modelami kwalifikującymi się do UE.

Dla założyciela w ZEA trzy z tych funkcji przekładają się na zobowiązania. Routing oznacza, że to Ty wybierasz, który dostawca zobaczy zapytanie klienta, a więc decydujesz, dokąd trafiają dane osobowe. Mechanizmy zapasowe oznaczają, że zapytanie wysłane do jednego dostawcy może zostać ponownie wysłane do innego, gdy pierwszy zawiedzie, więc opis przepływu danych musi obejmować ścieżkę zapasową, a nie tylko pierwszy wybór. Regionalny punkt końcowy pokazuje, o co będą pytać więksi klienci: o sposób utrzymania ruchu w określonej lokalizacji geograficznej.

Brama, która informuje klientów, że „ich prompty nigdy nie opuszczają regionu X”, musi móc to wykazać również dla ścieżki zapasowej. Oznacza to mapę danych wymieniającą każdego dostawcę i region, do którego prompt może trafić, aktualizowaną zgodnie z umową zawartą z każdym z nich.

Oprogramowanie z miesięczną opłatą jest proste. Brama, która sprzedaje korzystanie z modeli z góry, już nie, ponieważ klient płaci Tobie najpierw, a Ty płacisz dostawcom później. W tej luce przechowujesz jego pieniądze.

Kryterium stanowi definicja Banku Centralnego. Stored value facility to taki mechanizm, w którym klient płaci wydawcy pieniądze w zamian za przechowywanie tej wartości oraz zobowiązanie wydawcy do dostarczenia towarów lub usług albo dokonania płatności, gdy wartość zostanie wykorzystana. Wydawanie lub prowadzenie takiego mechanizmu w ZEA wymaga uprzedniej licencji CBUAE, z wyjątkiem mechanizmu jednego przeznaczenia, w którym sam wydawca dostarcza towary lub usługi. Bank Centralny może również zwolnić mechanizmy, z których można korzystać wyłącznie u wydawcy lub u dostawców związanych z nim umową. Jedna ze ścieżek zwolnienia ma zastosowanie tylko dopóki float nie przekracza 500 000 AED, a liczba klientów wynosi 100 lub mniej, i wymaga testów w piaskownicy CBUAE FinTech Office. To, czy środki służące do zakupu korzystania z modeli podmiotu trzeciego są usługą własną wydawcy, jest kwestią do rozstrzygnięcia przez CBUAE, a nie czymś, co należy zakładać. Licencjonowany wydawca musi mieć opłacony kapitał w wysokości co najmniej 15 000 000 AED. Musi przechowywać float, czyli przedpłacone środki klientów, na wydzielonych rachunkach w licencjonowanych bankach, oddzielnie od własnych środków. Produkt oparty na środkach przedpłaconych należy zaprojektować tak, aby odpowiedź była świadoma, i przed uruchomieniem przedstawić go CBUAE oraz Państwa bankowi.

Acquirer kartowy będzie chciał wiedzieć, czy saldo podlega zwrotowi, czy może być wydane wyłącznie na Twoją usługę oraz czy skonsultowano się z CBUAE. Przewodnik po bramkach płatniczych i acquirerach wyjaśnia, jak procesor ocenia przedsiębiorstwo przyjmujące cykliczne płatności kartą za saldo cyfrowe.

Brama może przekazać dalej tylko to, na co zezwalają jej dostawcy. Warunki dostawców różnią się w czterech punktach, które mają znaczenie dla resellera:

Dokumentacja OpenRouter nie opisuje polityki przechowywania danych na stronie głównej i odsyła do osobnych stron poświęconych przetwarzaniu danych. To typowe: odpowiedź znajduje się w warunkach dostawcy, a nie w opisie produktu. Przeczytaj umowę z każdym dostawcą nadrzędnym i zapisz, co możesz uczciwie zaoferować. Jeśli jeden dostawca przechowuje zapytania, a inny nie, jedno zdanie skierowane do klienta, obiecujące „brak przechowywania", jest nieprawdziwe.

Ta sama logika dotyczy dostępności. Możesz oferować mechanizmy zapasowe. Nie możesz gwarantować, że każdy model pozostanie dostępny, ponieważ nie kontrolujesz modeli. Sformułuj poziomy usług wokół własnej platformy i wskaż zależność od dostawców.

Federalny dekret z mocą ustawy nr 45 z 2021 r. wszedł w życie 2 stycznia 2022 r. Zgodnie z podsumowaniem rządu ZEA obejmuje on dane osobowe przetwarzane w całości lub w części w systemach elektronicznych, w ZEA lub poza ZEA, co do zasady wymaga zgody właściciela danych na przetwarzanie, daje osobom prawo do poprawiania danych oraz do ograniczenia lub zaprzestania przetwarzania, a także określa wymogi dotyczące przekazywania i udostępniania danych osobowych za granicę. UAE Data Office, powiązane z Radą Ministrów, jest federalnym organem regulacyjnym ds. danych.

W przypadku bramki praktyczne konsekwencje są następujące:

Klienci korporacyjni z sektorów regulowanych mogą dodać własne wymogi dotyczące lokalizacji danych. Należy o nie zapytać w procesie sprzedaży, a nie po podpisaniu umowy.

Brama oparta wyłącznie na oprogramowaniu, z niewielkim zespołem i klientami na całym świecie, często pasuje do spółki w free zone z licencją technologiczną lub handlową. Brama, której głównymi klientami są podmioty z ZEA albo która chce zawierać umowy bezpośrednio z nabywcami powiązanymi z administracją, może woleć licencję mainland. Żaden z tych wyborów nie usuwa kwestii środków przedpłaconych: rozporządzenie Stored Value Facilities definiuje State jako ZEA z wyłączeniem Financial Free Zones, więc zwykła spółka w free zone lub mainland, która sprzedaje środki przedpłacone, mieści się w obszarze, który ono obejmuje. Przewodnik wyboru między free zone a mainland przedstawia kompromisy dotyczące lokalizacji klientów, lokalu i wiz.

Jeśli prowadzą Państwo również otwarte modele na własnej infrastrukturze, pytania operacyjne przesuwają się w stronę działalności chmurowej, omówionej w przewodniku po dostawcach zarządzanych usług chmurowych. Jeśli sami trenują lub dostrajają Państwo modele, bliższy Państwa sytuacji jest przewodnik po spółkach rozwijających modele podstawowe. Przed podjęciem decyzji założyciel może zobaczyć, jak działa Velarozone, gdy ocenia ono konstrukcję środków przedpłaconych, przepływy danych i podmiot łącznie.