Leistungen · KI & Daten

KI-Integration für Unternehmen: LLMs und Daten, die im Alltag funktionieren

Wir bringen große Sprachmodelle (LLMs) dorthin, wo sie in Ihrem Unternehmen tatsächlich Arbeit abnehmen: in die Dokumentenverarbeitung, die interne Wissenssuche und in Assistenzsysteme für Ihre Mitarbeitenden. Dazu bauen wir die Datenpipelines und Berichte, auf denen gute Entscheidungen beruhen, und bringen Machine-Learning-Modelle sauber in den produktiven Betrieb. Datenschutz und die Anforderungen des EU AI Act denken wir von Anfang an mit.

Wo KI-Projekte im Mittelstand häufig ins Stocken geraten

  • Ein Prototyp mit ChatGPT hat überzeugt, aber niemand weiß, wie daraus ein verlässliches System wird, das mit Ihren eigenen Daten arbeitet und in bestehende Abläufe eingebunden ist.
  • Wissen steckt verteilt in Handbüchern, Verträgen, E-Mails und Tickets. Mitarbeitende suchen lange und stellen immer wieder dieselben Fragen.
  • Eingangsrechnungen, Lieferscheine oder Anträge werden noch von Hand abgetippt und geprüft, obwohl ihre Inhalte weitgehend strukturiert sind.
  • Daten liegen in ERP, CRM, Excel-Listen und Fachanwendungen, die nicht miteinander verbunden sind; Berichte entstehen mühsam und sind bei Erscheinen schon veraltet.
  • Unsicherheit bei Datenschutz und Regulierung: Welche Daten dürfen an einen Modellanbieter gehen, wo werden sie verarbeitet, und was bedeutet der EU AI Act für den eigenen Anwendungsfall?
  • Ein trainiertes ML-Modell läuft im Notebook der Datenexperten, aber nicht im Betrieb. Es fehlen Versionierung, Überwachung und eine klare Zuständigkeit.

So gehen wir bei der LLM-Integration vor

  1. Anwendungsfall und Nutzen klären

    In der Anforderungsanalyse ermitteln wir gemeinsam, wo KI messbar entlastet und wo eine klassische Lösung besser passt. Wir legen fest, woran der Erfolg gemessen wird, welche Daten nötig sind und welche Risiken bestehen.

  2. Daten und Datenschutz prüfen

    Wir klären, welche Daten wirklich gebraucht werden (Datenminimierung), ob personenbezogene Daten betroffen sind und ob sie vorab pseudonymisiert oder entfernt werden können. Wir besprechen, wie Ihr Anwendungsfall nach dem EU AI Act voraussichtlich einzuordnen ist und welche Transparenzpflichten gelten können. Die rechtliche Bewertung treffen Sie mit Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung.

  3. Modell und Hosting wählen

    Je nach Anforderung vergleichen wir Modelle von OpenAI, Angebote großer Cloud-Anbieter mit Rechenzentren in der EU und selbst betriebene Open-Source-Modelle. Dabei prüfen wir auch die Vertragsbedingungen, z. B. ob Eingaben zum Training verwendet werden dürfen, und bevorzugen Varianten, bei denen sich das vertraglich ausschließen lässt.

  4. Prototyp mit echten Daten

    Statt Folien bauen wir früh einen funktionsfähigen Prototyp mit einem repräsentativen Ausschnitt Ihrer Daten. Ein Satz von Testfragen oder Testdokumenten mit erwarteten Ergebnissen zeigt objektiv, wie gut die Lösung arbeitet.

  5. Entwicklung in Zwei-Wochen-Sprints

    Die Lösung entsteht schrittweise in Sprints von zwei Wochen, mit einer Demo am Ende jedes Sprints. So sehen Sie laufend, was funktioniert, und können Prioritäten anpassen.

  6. Betrieb, Überwachung und Übergabe

    Zur Inbetriebnahme gehören Protokollierung, Kostenkontrolle, Qualitätsüberwachung und eine Schulung Ihres Teams. Danach erhalten Sie drei Monate kostenlosen technischen Support; für den weiteren Betrieb vereinbaren wir ein SLA.

KI-Lösungen für den Mittelstand: Was wir umsetzen

Intelligente Dokumentenverarbeitung
Rechnungen, Bestellungen, Verträge oder Formulare werden automatisch gelesen, klassifiziert und in strukturierte Daten überführt. Unsichere Fälle gehen zur Prüfung an einen Menschen, bevor etwas in Ihr ERP- oder Buchhaltungssystem übernommen wird.
Interne Wissenssuche (RAG)
Mit Retrieval-Augmented Generation beantwortet ein Assistent Fragen aus Ihren eigenen Dokumenten und nennt die Quelle. So lässt sich jede Antwort prüfen. Zugriffsrechte aus Ihren bestehenden Systemen berücksichtigen wir, damit niemand Inhalte sieht, die nicht für ihn bestimmt sind.
Assistenten für Mitarbeitende und Kunden
Assistenzsysteme für Vertrieb, Kundenservice oder Innendienst, die Antwortentwürfe, Zusammenfassungen oder Angebote vorbereiten. Die Entscheidung bleibt beim Menschen; Fähigkeiten und Grenzen des Assistenten werden klar kommuniziert.
Datenpipeline aufbauen
Wir führen Daten aus ERP, CRM, Datenbanken, Dateien und Schnittstellen zusammen, bereinigen sie und stellen sie für Auswertungen bereit. Je nach Menge und Aktualität als Stapelverarbeitung mit Apache Spark oder als Datenstrom mit Kafka.
Berichtswesen und Dashboards
Kennzahlen, die sich selbst aktualisieren und auf einer gemeinsamen, nachvollziehbaren Datenbasis beruhen, statt handgepflegter Tabellen mit widersprüchlichen Zahlen.
ML-Modelle in den Betrieb bringen
Bestehende oder neu entwickelte Modelle, z. B. für Prognosen oder Klassifikation, überführen wir in einen stabilen Betrieb: als Dienst mit Schnittstelle, versioniert, überwacht und mit einem nachvollziehbaren Ablauf für neue Modellversionen.

Technologien

  • Python
  • LangChain
  • OpenAI API
  • Apache Spark
  • Apache Kafka
  • PostgreSQL
  • Redis
  • AWS
  • Azure
  • Kubernetes
  • Terraform

Zusammenarbeit und Konditionen

KI-Projekte beginnen oft mit offenen Fragen. Deshalb starten wir in der Regel mit einer kompakten Anforderungsanalyse und einem Prototyp und wählen danach das passende Modell der Zusammenarbeit. Alle Angebote erhalten Sie in Euro.

Festpreis nach Anforderungsanalyse
Sobald Anwendungsfall, Datengrundlage und Qualitätskriterien geklärt sind, bieten wir die Umsetzung zu einem festen Preis an.
Abrechnung nach Aufwand
Für explorative Vorhaben, bei denen sich der beste Lösungsweg erst in der Arbeit mit den Daten zeigt, rechnen wir transparent nach tatsächlichem Aufwand ab.
Dediziertes Team
Für längerfristige Daten- und KI-Vorhaben stellen wir ein festes Team auf monatlicher Basis bereit, das sich tief in Ihre Systeme einarbeitet.

Häufige Fragen zur KI-Integration

Werden unsere Daten zum Training der KI-Modelle verwendet?

Das hängt vom Anbieter und vom gewählten Vertrag ab. Bei einigen Anbietern ist für Geschäftskunden vertraglich geregelt, dass Eingaben nicht zum Training verwendet werden. Wir prüfen die jeweiligen Bedingungen gemeinsam mit Ihnen und wählen nach Möglichkeit eine Variante, bei der das vertraglich ausgeschlossen ist. Reicht das nicht aus, kommen selbst betriebene Open-Source-Modelle infrage.

Wo werden die Daten verarbeitet?

Das hängt von der Architektur ab, die wir gemeinsam festlegen. Für die Sprachmodelle kommen Cloud-Angebote mit EU-Regionen oder selbst betriebene Modelle infrage. Die Anwendung selbst (Datenbanken, Suchindex, Schnittstellen) kann in einem Rechenzentrum in Frankfurt am Main oder in Ihrer eigenen Cloud-Umgebung laufen. Grundsätzlich verarbeiten wir nur die Daten, die für die Aufgabe tatsächlich nötig sind.

Was bedeutet der EU AI Act für unser Projekt?

Das hängt vom konkreten Anwendungsfall ab. Eine interne Wissenssuche oder Dokumentenverarbeitung wird in der Regel anders eingeordnet als Systeme für Personalentscheidungen oder Kreditwürdigkeitsprüfungen. Wir besprechen früh mit Ihnen die voraussichtliche Einordnung und mögliche Anforderungen, etwa an Transparenz oder Dokumentation, und berücksichtigen sie in der technischen Umsetzung. Eine Rechtsberatung leisten wir nicht; die verbindliche Bewertung sollte durch Ihre Rechtsberatung oder Ihren Datenschutzbeauftragten erfolgen.

Wie verhindern Sie, dass die KI falsche Antworten erfindet?

Sprachmodelle können Fehler machen, ganz ausschließen lässt sich das nicht. Wir senken das Risiko auf mehreren Wegen: Antworten stützen sich mit Quellenangabe auf Ihre Dokumente, der Assistent sagt klar „Dazu liegen mir keine Informationen vor“, wenn er nichts Passendes findet, die Qualität wird laufend mit einem Satz von Testfragen geprüft, und wichtige Entscheidungen bestätigt ein Mensch.

Brauchen wir eigene Data Scientists?

Nein. Das nötige Fachwissen in Python, LangChain und Spark bringen wir mit. Auf Ihrer Seite genügt eine Ansprechperson, die Prozesse und Daten kennt, Fragen beantworten und Ergebnisse beurteilen kann. Nach der Inbetriebnahme schulen wir Ihr Team, damit es die Lösung sicher nutzen und weiterentwickeln kann.

Wann sehen wir erste Ergebnisse?

Wir arbeiten in Sprints von zwei Wochen und zeigen am Ende jedes Sprints den aktuellen Stand in einer Demo. Ergebnisse werden also regelmäßig sichtbar und nicht erst nach Monaten. Die Gesamtdauer hängt vom Anwendungsfall und vom Zustand Ihrer Daten ab; wir schätzen sie nach der Anforderungsanalyse ein.

Schließen Sie einen Auftragsverarbeitungsvertrag ab?

Ja. Wenn wir in Ihrem Auftrag personenbezogene Daten verarbeiten, bieten wir einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO an.

Sprechen wir über Ihren KI-Anwendungsfall

Im kostenlosen 30-minütigen Erstgespräch klären wir, wo KI in Ihrem Unternehmen sinnvoll ist, welche Daten dafür nötig sind und wie ein erster Prototyp aussehen könnte. Auf Deutsch. Wir antworten an Werktagen innerhalb von 24 Stunden.