AI i uczenie maszynowe Aplikacja do wdrożenia jednym kliknięciem
OpenAI-compatible LLM gateway with virtual keys, budgets, and spend tracking, backed by PostgreSQL. LiteLLM działa w Twoim projekcie Nodion w regionie Frankfurt nad Menem (Niemcy) albo, jeśli wolisz, w USA lub Singapurze. Serwerami zarządza Nodion, więc nie musisz ich utrzymywać.
Jedno kliknięcie tworzy te zasoby w Twoim projekcie i łączy je ze sobą. Przed wdrożeniem możesz sprawdzić rozmiary w formularzu.
Dane połączenia są ustawiane jako DATABASE_URL
Dla domyślnej nazwy hosta wystawiany jest certyfikat TLS. Jej adres jest ustawiany jako PROXY_BASE_URL
Tworzone dla Ciebie przy zakładaniu aplikacji: LITELLM_MASTER_KEYLITELLM_SALT_KEYUI_PASSWORD
Open /ui and sign in as admin with the generated UI_PASSWORD from the application environment. There is no default password. Add your models and provider keys in the UI, then create virtual keys for your apps. Never change LITELLM_SALT_KEY after adding a model, because it encrypts the stored provider keys.
Zaloguj się do Nodion, otwórz preset LiteLLM i wybierz projekt oraz region. Nodion tworzy aplikację z zarządzaną bazą danych PostgreSQL, ustawia zmienne środowiskowe i uruchamia pierwsze wdrożenie.
Tak. Podczas tworzenia aplikacji wybierz region EU Central we Frankfurcie nad Menem (Niemcy). Build, rejestr, aplikacja oraz jej bazy danych, wolumeny, buckety, logi i metryki pozostają w wybranym regionie, a API i warstwa sterowania (control plane) Nodion są hostowane w Niemczech. Dostępne są też regiony US East, US West i APAC Central (Singapur).
Nodion zapewnia do tego podstawy: Nodion GmbH ma siedzibę w Stuttgarcie (Niemcy), w regionie Frankfurt nad Menem aplikacja, jej bazy danych i wolumeny działają w Niemczech, a umowę powierzenia przetwarzania danych (DPA, art. 28 RODO) zawierasz elektronicznie w dashboardzie. To, czy Twoje wdrożenie spełnia wymogi RODO, zależy też od tego, jak skonfigurujesz aplikację i jak z niej korzystasz.
Otrzymujesz własną instancję LiteLLM w swoim projekcie Nodion. Serwerami zarządza Nodion, więc nie musisz instalować ani utrzymywać własnej maszyny.
Konfiguracja startowa kosztuje około 9.50 EUR miesięcznie: Aplikacja DS-G2-2GB, 2 GB RAM 8 EUR, PostgreSQL DS-G2-256MB, 256 MB RAM 1.50 EUR. Ceny są podane netto i rozliczane co do sekundy. W formularzu możesz wybrać większe rozmiary.
Open /ui and sign in as admin with the generated UI_PASSWORD from the application environment. There is no default password. Add your models and provider keys in the UI, then create virtual keys for your apps. Never change LITELLM_SALT_KEY after adding a model, because it encrypts the stored provider keys.
Preset ustawia obraz ghcr.io/berriai/litellm:v1.110.2. Twoja aplikacja zachowuje ten tag obrazu, dopóki nie zmienisz go w zakładce Processes aplikacji.
Tak. Każda aplikacja dostaje domyślną nazwę hosta z HTTPS. Własną domenę dodasz w zakładce Domains aplikacji.
Zyskaj do 15 € środków na start przy rejestracji.
lub przez e-mail
Nowości produktowe, bez spamu. Możesz zrezygnować w każdej chwili.
Zapisano pomyślnie.