Skip to content

Modellkonfiguration

nunq unterstützt mehrere KI-Modellanbieter. Administratoren konfigurieren, welche Modelle der Organisation zur Verfügung stehen, und legen Nutzungslimits fest.

Übersicht der Chat-Modelle mit Standardmodell und Plattform-Modellen

Aufbau der Modellseite

Die Modellseite ist nach Fähigkeit in vier Tabs gegliedert:

  • Chat-Modelle — Konversationsmodelle für den normalen Chat
  • Embedding-Modelle — Modelle zur Vektorisierung von Wissensquellen (RAG)
  • Bild-Modelle — Modelle zur Bildgenerierung
  • Sprache-zu-Text-Modelle — Modelle für die Transkription von Sprachaufnahmen

Innerhalb jedes Tabs siehst du:

  • Standardmodell — Das Modell, das für neue Chats automatisch ausgewählt wird.
  • Plattform-Modelle — Eine Kachelansicht aller von nunq bereitgestellten Modelle mit Hosting-Info (z. B. Microsoft, Google) und einem Toggle, um sie für die Organisation zu aktivieren.
  • Modell erstellen (oben rechts) — Fügt ein eigenes Modell hinzu, etwa für deine eigene Azure OpenAI-Bereitstellung oder selbst gehostete Ollama-Instanzen.

Modell hinzufügen

So fügst du ein neues KI-Modell hinzu:

  1. Navigiere zu Organisationseinstellungen → Modelle.
  2. Wähle die passende Fähigkeits-Tab (z. B. Chat-Modelle).
  3. Klicke auf + Modell erstellen.
  4. Fülle die erforderlichen Konfigurationsfelder aus (siehe unten).
  5. Speichere das Modell.

Unterstützte Anbieter

nunq lässt sich mit den folgenden KI-Modellanbietern integrieren:

  • Azure OpenAI — Von Microsoft gehostete OpenAI-Modelle mit Enterprise-Sicherheit
  • OpenAI — Direkter Zugriff auf OpenAI-Modelle
  • Anthropic — Claude-Modelle von Anthropic
  • AWS Bedrock — KI-Modelle auf Amazon Web Services
  • Google Vertex AI — KI-Modelle auf der Google Cloud Platform
  • Ollama — Selbst gehostete Open-Source-Modelle
  • Mistral — Modelle von Mistral AI

Konfigurationsfelder

Beim Hinzufügen eines Modells musst du folgende Angaben machen:

FeldBeschreibung
AnbieterDer Modellanbieter (siehe Liste oben)
ModellnameDie spezifische Modellkennung des Anbieters (z. B. gpt-5.4)
API-SchlüsselDein API-Schlüssel für den Anbieter
EndpunktDie API-Endpunkt-URL (erforderlich für Azure OpenAI und selbst gehostete Anbieter)
AnzeigenameEin benutzerfreundlicher Name, der den Benutzern angezeigt wird

API-Schlüssel-Sicherheit

Alle API-Schlüssel werden in der Datenbank verschlüsselt gespeichert. Schlüssel werden nach dem Speichern niemals in der Benutzeroberfläche angezeigt. Nur der Backend-Dienst greift auf die entschlüsselten Schlüssel zu, wenn API-Aufrufe durchgeführt werden.

Nutzungskontingente

Administratoren können für jedes Modell Nutzungslimits festlegen, um Kosten zu kontrollieren:

  • Stündliches Token-Limit: Maximale Anzahl an Token, die pro Stunde organisationsweit verbraucht werden können.
  • Tägliches Token-Limit: Maximale Anzahl an Token, die pro Tag verbraucht werden können.
  • Anfragelimit: Maximale Anzahl an API-Anfragen innerhalb eines Zeitraums.

Wenn ein Kontingent erreicht ist, erhalten Benutzer eine Benachrichtigung und müssen warten, bis das Limit zurückgesetzt wird, oder zu einem anderen Modell wechseln.

Modelle aktivieren und deaktivieren

Jedes Modell hat einen Toggle in der Kachelübersicht:

  • Aktiviert: Das Modell steht Benutzern in Konversationen zur Auswahl.
  • Deaktiviert: Das Modell wird vor Benutzern verborgen und kann nicht verwendet werden.

Das Deaktivieren eines Modells löscht seine Konfiguration nicht. Du kannst es später wieder aktivieren, ohne es neu konfigurieren zu müssen.

Standardmodelle

Über die Auswahl Standard-Modell legst du das Modell fest, das automatisch für neue Chats ausgewählt wird. Standardmäßig ist das Empfohlene Modell aktiv, das automatisch dem aktuell besten Plattform-Modell entspricht.

Pro Fähigkeit gibt es ein eigenes Standardmodell:

FähigkeitBeschreibung
ChatDas Standardmodell für allgemeine Konversationen
ReasoningDas Standardmodell für Aufgaben, die fortgeschrittenes Schlussfolgern erfordern
BildDas Standardmodell für Bildgenerierung
EmbeddingDas Standardmodell für die Erzeugung von Text-Embeddings (wird von Wissensbasen verwendet)
Sprache-zu-TextDas Standardmodell für die Transkription von Audioeingaben

Durch das Festlegen von Standardwerten wird sichergestellt, dass Benutzer immer ein Modell ausgewählt haben, wenn sie eine neue Konversation starten, auch wenn sie nicht explizit eines gewählt haben.