Custom AI-assistent implementation
Der Einsatz der vorgefertigten Tools der Dataslab AI Platform verkürzt die Zeit für die Entwicklung vollständig maßgeschneiderter Logik eines KI-Assistenten bei gleichzeitig vollständiger Kontrolle.
Steuerbarkeit
Frei von Halluzinationen
х3
Schnellere Implementierung
Die KI-Plattform ermöglicht die Entwicklung von KI-Assistenten für verschiedene Rollen auf Basis interner Richtlinien und hilft, sogenannte „Halluzinationen“ der künstlichen Intelligenz zu vermeiden.
Yulia Mohylevska
Product owner
Ziel

Implementierung einer vorbereiteten Umgebung für die individuelle Entwicklung auf Basis der Tools der Dataslab AI Platform.

Dieser Ansatz ist besonders geeignet, wenn der Kunde über eine eigene spezifische Sucharchitektur, individuelle Chunking-Algorithmen oder komplexe KI-Agenten verfügt und den Kern der Lösung eigenständig entwickeln möchte – unter Nutzung der Services der AI Platform als Bausteine.

Ergebnisse

Wir stellen ein Framework bereit, mit dem Kundenteams eigene Lösungen entwickeln können:

  1. Eigene Logik
    Die Entwickler:innen des Kunden implementieren individuelle Logik und schreiben eigenen Code (z. B. mit LangChain, LlamaIndex oder OpenWebUI).
  2. Vektorisierung und Inferenz (Ollama + vLLM)
    Zur Umwandlung von Texten in Vektoren nutzt die Anwendung Ollama. Für die Generierung von Antworten werden Anfragen an vLLM weitergeleitet.
  3. Zentrales Gateway (LiteLLM)
    LiteLLM steuert Routing und Lastverteilung und kontrolliert strikt die Token-Nutzung für verschiedene technische Accounts und Microservices.
  4. Umfassendes Tracking (MLflow)
    Da die gesamte Logik auf Kundenseite liegt, wird MLflow für End-to-End-Tracking eingesetzt. Entwickler:innen können jeden Schritt nachvollziehen: gefundenen Kontext, Antwortzeiten und die Qualität der generierten Ergebnisse.
  5. Benutzeroberfläche (OpenWebUI)
    Für den schnellen Zugriff der Nutzer:innen wird das Backend an OpenWebUI angebunden – so entsteht eine sofort nutzbare Unternehmens-Chatlösung ohne zusätzliche Frontend-Entwicklung.
 

Möchten Sie die vollständige Fallbeschreibung lesen?
Füllen Sie das Formular aus, und wir werden uns umgehend mit Ihnen in Verbindung setzen.

Ihr zuverlässiger

Partner

Dataslab GmbH
Deutschland, Saarlouis
 
Dataslab GmbH
Österreich, Wien

Dataslab Ukraine
Ukraine, Kyjiw