05 · Angebot

Private AI Lab

Private Modelle mit gemessener Leistung — plus die Daten und Evals, die sie zu Ihren eigenen machen. Wenn Daten Ihre Infrastruktur nicht verlassen dürfen, muss das Modell zu den Daten kommen. Wir wählen offene Modelle aus, quantisieren sie und betreiben sie auf Ihrer Hardware, bauen die Datensätze und Evaluierungssets, die belegen, dass sie funktionieren — und arbeiten upstream in den Open-Source-Projekten mit, auf denen unsere eigene Factory läuft.

Das Problem

Daten aus öffentlicher Verwaltung, Gesundheitswesen und Finanzbranche dürfen oft nicht an ein Cloud-Modell gehen. Und ein offenes Modell, das in einer Rangliste gut aussieht, kann an Ihrer Aufgabe trotzdem scheitern. Sie brauchen ein Modell, das zu Ihrer Hardware passt, ein gemessenes Serving-Profil und Testdaten aus Ihrer eigenen Domäne, die zeigen, ob das Modell gut genug ist — bevor sich ein Agent darauf verlässt.

Was wir liefern

  • Modellauswahl für Ihre Aufgabe, Ihre Datenregeln und Ihre Hardware — getestet an Ihren Fällen, nicht an Ranglisten
  • Optimierung und Quantisierung offener Modelle mit gemessenem Serving-Profil: Speicher, Geschwindigkeit, Qualität
  • Private Bereitstellung in Ihrer Infrastruktur, mit Agenten und Zugriffskontrollen darüber
  • Datensätze & Evaluierung: domänenspezifische und synthetische Trainingsdaten, Kuratierung und Qualitätsfilterung
  • Evaluierungssets und Regressions-Gates, die jedes Modell und jedes Update bestehen muss
  • LoRA-Fine-Tuning offener Modelle — wo Ihre Evaluierung zeigt, dass es ein gut gepromptetes Basismodell schlägt
  • Open-Source-Arbeit upstream: Probleme melden und reproduzieren, Features vorschlagen — in den Projekten, auf denen wir aufbauen

So läuft es ab

Audit → Aufbau → Retainer: dieselbe Linie für jedes Angebot, hier auf diese Leistung zugeschnitten. Nach jeder Phase entscheiden Sie, ob es weitergeht.

  1. 01

    Audit

    Datenregeln, Hardware, Use Cases und ein erstes Evaluierungsset: Welche Modelle kommen infrage, und was heißt „gut genug“ für Ihre Aufgabe?

  2. 02

    Aufbau

    Modell-Build und Serving-Profil, private Bereitstellung, Datensätze und Evaluierungssets — und LoRA-Fine-Tuning, wo die Evaluierung zeigt, dass es sich lohnt.

  3. 03

    Retainer

    Neue offene Modelle werden gegen Ihr Gate getestet, sobald sie erscheinen; Updates werden als Releases ausgerollt, die Evaluierungssets mit echten Fällen erweitert.

Fragen

Können unsere Daten im Haus bleiben?

Ja. Wir bauen auf lokalen und selbst gehosteten Modellen, wenn Daten Ihre Infrastruktur nicht verlassen dürfen, und wir begrenzen jedes Tool, das ein Agent erreichen kann.

Bieten Sie Fine-Tuning an?

Wir bieten LoRA-Fine-Tuning offener Modelle als Leistung an, wenn eine Evaluierung zeigt, dass es ein gut gepromptetes Basismodell schlägt. Unser öffentlicher LoRA-Adapter für Qwen3-4B wurde auf unserem eigenen synthetischen Datensatz feinabgestimmt; unsere übrigen öffentlichen Modelle sind quantisierte Builds bestehender offener Modelle ohne Fine-Tuning — und wir weisen immer klar aus, was was ist.

Welche Hardware brauchen wir?

Das hängt von Modell und Last ab — deshalb kommt jeder Build mit einem gemessenen Serving-Profil. Ein Beispiel aus unseren veröffentlichten Builds: ein Mixture-of-Experts-Modell mit 125 Milliarden Parametern, das auf einem einzelnen Mac mit rund 40 GB Arbeitsspeicher läuft.

Warum ein eigenes Evaluierungsset?

Weil öffentliche Benchmarks Ihre Dokumente, Ihre Regeln und Ihre Sprache nicht kennen. Einige Dutzend echte Fälle mit verifizierten Antworten zeigen schnell, ob ein Modell gut genug ist — und werden zum Regressions-Gate für jedes spätere Update.

In 30 Minuten durchsprechen.

Bringen Sie einen Prozess und Ihren Stack mit. Wir kommen vorbereitet und sagen Ihnen ehrlich, ob sich ein Agent rechnet — und welches Angebot der richtige Einstieg ist.