AI OS aus der eigenen Anwendung

Deine eigenen Anwendungen und Skripte können die Modelle von Labtagon AI OS über eine API nutzen, die das Format von OpenAI spricht. Ihre Aufrufe gehen durch dasselbe LLM-Gateway wie der Chat: dieselben Modelle, dieselbe Maskierung personenbezogener Daten, dieselben Budgets, und jeder Aufruf wird mit seinen Kosten aufgezeichnet.

Die Adresse und ein Schlüssel

Such in Studio mit der Suche der Seitenleiste API-Schlüssel. Die Seite zeigt die Basisadresse, https://<dein-ai-os>/api/llm/v1.

Einen Schlüssel anlegen:

1. Sag, wofür er da ist, zum Beispiel „Cursor auf meinem Laptop“.
2. Optional: ein Budget im Monat ($) und wann er endet (nie, in 30 Tagen, in 90 Tagen, in einem Jahr).
3. Leg ihn an und kopiere ihn: Dein neuer Schlüssel: kopiere ihn jetzt, er wird nicht wieder angezeigt.

Ausprobieren schickt eine erste Anfrage; Widerrufen beendet einen Schlüssel. Ein Schlüssel gehört dir, hat keine Scopes und beginnt mit gbk_. Ob du überhaupt Schlüssel anlegen darfst, entscheidet deine Organisation (eine Richtlinie für Modellzugang); nimmt sie dir das, hören auch vorhandene Schlüssel auf zu funktionieren.

Aufrufen

Endpunkt	Was
GET /api/llm/v1/models	Die Modelle und Pipelines, die du nutzen darfst.
POST /api/llm/v1/chat/completions	Eine Chat Completion im Format von OpenAI, gestreamt oder nicht.
POST /api/llm/v1/messages	Das Messages-Format von Anthropic, für Clients, die es sprechen, wie Claude Code.

Schick den Schlüssel als Authorization: Bearer gbk_… (oder als x-api-key):

curl https://ai.example.com/api/llm/v1/chat/completions \
  -H "Authorization: Bearer $AI_OS_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "<eine Modell-ID aus /models>", "messages": [{"role": "user", "content": "Hallo"}]}'

Jede Client-Bibliothek für OpenAI funktioniert mit der Basisadresse und dem Schlüssel. Einen Endpunkt für Embeddings gibt es nicht.

Clients, die sich bei AI OS angemeldet haben, können die API statt mit einem Schlüssel mit ihrem Token von AI OS aufrufen.

Budgets

• Das Budget deines Schlüssels: was du am Schlüssel einstellst, in Dollar im Monat.
• Das deiner Organisation: Eine Richtlinie für Modellzugang kann ein Budget je Person festlegen und eines für alle, die sie erreicht, zusammen. Jedes Budget, das gilt, greift.

Ein aufgebrauchtes Budget antwortet mit HTTP 429 (insufficient_quota), zum Beispiel „This key’s budget for the month is spent“. Unter Insights siehst du deine Ausgaben (Deine Ausgaben in Insights auf der Seite der Schlüssel).

Deine Tools ohne Tool-Code: Pipelines (headless MCP)

Eine Pipeline ist ein eigenes Modell deiner Organisation (<org>/<name>), das Administratoren unter Verwaltung → Pipelines einrichten: ein System-Prompt, Gedächtnis, Grenzen, ein Cache oder eine Guardrail vor den Modellen, die antworten. Ihr Schritt Tools macht sie zu „headless MCP“:

• Du rufst die Pipeline wie jedes Modell auf, mit deinem Schlüssel.
• Das Gateway bietet dem Modell die Tools eines deiner Profile an (Die Tools des Profils, Default, wenn nichts anderes eingestellt ist), führt sie als du aus, dreht Runden, bis die Antwort fertig ist, und gibt nur die endgültige Antwort zurück.
• Runden, Tool-Aufrufe und Sekunden sind begrenzt (Runden höchstens 5, Tool-Aufrufe höchstens 20, Sekunden höchstens 120 als Standard).
• Ein Tool-Aufruf, der deine Freigabe braucht, lässt den Aufruf scheitern und sagt, wo du freigibst.

So bekommt deine Anwendung die Antworten deiner Tool-Server über eine Adresse und einen Schlüssel, ohne eigenen Code dafür. Die Tool-Server selbst erreicht man über MCP nur mit einer Anmeldung, nicht mit einem API-Schlüssel.

Was aufgezeichnet wird

Jeder Aufruf wird mit Modell, Tokens, Kosten, Dauer und dem Schlüssel aufgezeichnet, mit dem er kam, nicht mit dem Text (außer deine Organisation bewahrt die Prompts einer Pipeline auf). Der Preis ist, was ein Administrator eingestellt hat, sonst was der Provider meldet, sonst ein Listenpreis. Siehe Sicherheit und Datenschutz.