KI zu entwickeln ist einfach. Eine gute KI zu entwickeln erfordert schon mehr.
Jeder CTO, der ein Proof-of-Concept in die Produktion gebracht hat, weiß, wie groß der Unterschied zwischen dem Erfolg in einer Testumgebung und dem Erfolg da draußen in der realen Welt ist. Ein Modell kann perfekt auf sauberen Daten laufen, aber erst wenn echte Kunden, echte Variationen und echte Grenzfälle auftauchen, kommt ans Licht, wo es Risse gibt.
In unserer ersten Folge des Blinqx Tech TalQX-Podcasts habe ich mit Martijn (Product Owner AI) und Rasyan (AI Engineer) über genau dieses Spannungsfeld gesprochen: das Versprechen der KI gegenüber der Verantwortung, sie sicher, erklärbar und skalierbar zu machen. In diesem Blog blicke ich auf dieses Gespräch zurück. Und was es uns darüber lehrt, wie man KI in B2B SaaS ohne Irrwege entwickelt.
- Die meisten Probleme entstehen nicht bei der Technik
- KI zeigt erst, was sie kann, wenn Kunden Fehler machen
- Aus diesem Grund haben wir uns für eine zentrale KI-Infrastruktur entschieden
- Transparenz ist die Grundlage für Vertrauen
- Experimente sind wichtig, doch sichere Grenzen ebenso
- Fangen Sie klein an, aber haben Sie den großen Erfolg bei der Entwicklung im Blick
- Häufig gestellte Fragen
Die meisten Probleme entstehen nicht bei der Technik
Ich habe die Folge mit einer einfachen Frage an Martijn eröffnet: Entstehen KI-Probleme eher durch Technologie oder durch Menschen?
Die Antwort kam schnell: von Menschen.
Die Technologie ist heute ausgereift genug. Was meist fehlt, ist die Struktur. Wer ist für das Verhalten des Modells verantwortlich? Wie wird ein Prompt verwaltet? Welche Vorkehrungen verhindern, dass jemand das System versehentlich unsicher macht?
Das wahre Risiko liegt fast nie in der Architektur, sondern in der Geschwindigkeit ohne Governance. Ich sehe das auch auf dem Markt: Teams wollen schnell vorankommen, eröffnen aber Lücken bei der Entwicklung, in die sie später selbst hineinfallen.
KI zeigt erst, was sie kann, wenn Kunden Fehler machen
Rasyan wurde dann gefragt, ob es besser sei, lange zu testen oder früh live zu gehen. Er entschied sich eindeutig für ‚früh live gehen’:
„Wenn die Kunden anfangen, sich zu beschweren, ist das der Moment, in dem Ihr Produkt seine ersten echten Schritte macht“, sagt er.
Nicht, weil man unbedingt Fehler will, sondern weil die Welt in der Produktion nicht mit Ihrer Testumgebung vergleichbar ist. Letztere ist sauber, logisch und vorhersehbar. In der Produktion müssen Sie mit Variationen, unterschiedlichen Formulierungen, unvollständigen Dateien und Mustern arbeiten, die Sie nie vollständig simulieren können.
Rasyan hat es treffend formuliert: „In der Testumgebung ist man bei 5 %. Den Rest lernt man erst in der Produktion.“
Erfolgreiche KI-Produkte entstehen daher nicht durch ein einziges großes Release, sondern durch kontinuierliche Beobachtung, Analyse und Anpassung. Die eigentliche Arbeit beginnt, sobald Ihre Benutzer Feedback geben, den Daumen nach unten drücken oder falsches Verhalten signalisieren. Darauf müssen Sie vorbereitet sein – mit Überwachung, Fallbacks, Rückverfolgbarkeit und Prozessen, die Verbesserungen so normal machen wie das Release.
Aus diesem Grund haben wir uns für eine zentrale KI-Infrastruktur entschieden
Da sich KI wie ein lebendes System verhält, kann man sie nicht in einzelne Inseln aufteilen. Deshalb haben wir Qore/AI entwickelt: die zentrale Grundlage für die gesamte KI-Entwicklung bei Blinqx. Martijn beschrieb es im Podcast als Stromnetz.
„Wenn man sich verbindet, kann man KI nutzen.“
Mit einem gemeinsamen KI-Backbone müssen Teams nicht jedes Mal Prompts, Sicherheit, Protokollierung oder Bewertungsprozesse neu erfinden. Das ist alles bereits erledigt. So können sie sich auf ihren Bereich, ihr Produkt und ihren Kunden konzentrieren. Ohne dass jedes Team seine eigenen Risiken schafft.
Der Effekt ist spürbar: Innovationen entstehen schneller und lassen sich viel leichter auf andere Produkte übertragen. Was in der Rechtsabteilung funktioniert, funktioniert oft auch in der Finanz- oder Personalabteilung. Ein Baustein für Versicherungen passt mit minimaler Anpassung in die Workflows der Buchhaltung oder der Rechtsabteilung. So fördert Qore/AI nicht nur ein einzelnes Produkt, sondern gleich das gesamte Portfolio.
Transparenz ist die Grundlage für Vertrauen
In Branchen wie Versicherung, Buchhaltung und Recht lautet die Frage bei KI nie: Funktioniert sie?
Sondern: Warum funktioniert sie so? Kunden wollen wissen, warum ein System eine bestimmte Antwort gibt, was mit ihren Daten geschieht und wie es mit Ausnahmen umgeht. Martijn hat es selbst so formuliert: „Als Produktverantwortlicher muss man erklären können, warum KI so reagiert, wie sie es tut.“
Dabei geht es nicht darum, die internen Modellmechanismen zu erklären, sondern generell um Verständlichkeit: welche Schritte das System unternimmt, wann es zögert, wann es die Logik umschaltet und wann ein Mensch validieren sollte. Ohne diese Klarheit wird KI in Umgebungen, in denen es auf Compliance ankommt, keinen Platz haben. Transparenz ist kein Nice-to-have, sondern Voraussetzung.
Experimente sind wichtig, doch sichere Grenzen ebenso
Bei Blinqx ermutigen wir die Teams, auf eigene Faust zu experimentieren. Mit zentral verfügbaren Tools entwickeln die F&E-Teams in jedem Bereich kleine KI-Experimente, die sich direkt mit den Herausforderungen der Nutzer befassen. So entstehen Ideen, auf die wir zentral nicht kommen können.
Aber Experiment und Produktion sind zwei verschiedene Welten. Daher haben wir ein klares Übergangsmoment: Sobald sich ein Experiment als wertvoll erweist, versuchen wir, es in Qore/AI zu übertragen. Dort wird es robust, testbar und sicher gemacht. Und skalierbar für die Ausweitung auf andere Branchen.
Das ist die Balance, die funktioniert: die Freiheit, schnell zu lernen, kombiniert mit Schutz, wenn es ernst wird.
Fangen Sie klein an, aber haben Sie den großen Erfolg bei der Entwicklung im Blick
Am Ende der Folge kamen wir zu der Frage, wo Unternehmen anfangen sollten. Die Antworten von Martijn und Rasyan waren bemerkenswert ähnlich:
Fangen Sie klein an, aber dafür tadellos.
Nicht mit „KI auf unserer gesamten Plattform“, sondern mit einer einzelnen Aufgabe. Einem konkreten Problem. Und stellen Sie sicher, dass Sie vom ersten Tag an messen, Erklärbarkeit einbauen und modellagnostisch arbeiten. Ihre Pipeline von heute ist nicht die Pipeline in zwei Jahren. Und das müssen Sie bei Ihrem Entwicklungsprozess berücksichtigen.
Es ist viel einfacher, etwas Gutes von Grund auf zu bauen, als etwas Unsicheres im Nachhinein zu reparieren. Der rote Faden dieser Episode ist klar: KI scheitert selten an der Technologie. Sie scheitert an der unbedachten Organisation.
Häufig gestellte Fragen
Weil die Teams die Komplexität unterschätzen und kein klares Framework haben, auf das sie zurückgreifen können. Ein Modell funktioniert gut bei strukturierten Testdaten, versagt aber, sobald echte Abweichungen, Rauschen und Randfälle hinzukommen. Ohne Überwachung, Fallback-Mechanismen und Verantwortlichkeit wird das erst in der Produktion sichtbar.
Sie können das Produktionsverhalten nicht simulieren. Sie können dafür aber gefahrlos frühzeitig live gehen, sofern die Grundlagen stimmen: Protokollierung, Metriken, Leitplanken, Evaluierungspfade und die Möglichkeit zur schnellen Anpassung. Ohne diese Infrastruktur fungiert „langes Testen“ vor allem als Aufschieben von unvermeidlichen Problemen.
Weil sich KI wie ein ganzes System verhält, nicht wie eine Funktion. Wenn jedes Produktteam seine eigenen Prompts, Validierungsregeln und Sicherheitsmaßnahmen entwickelt, führt das zu Fragmentierung, inkonsistentem Verhalten und Compliance-Risiken. Eine gemeinsame Grundlage wie Qore/AI gewährleistet Wiederholbarkeit, Nachvollziehbarkeit und Skalierbarkeit.
Beginnen Sie klein mit einer einzelnen konkreten Aufgabe, bei der Sie den gesamten Lebenszyklus üben können: Monitoring, Bewertung, Transparenz, Fallback und Updates. Wenn das funktioniert, beginnen Sie erst dann mit einer größeren Aufgabe. Die Art und Weise, wie Sie beginnen, entscheidet darüber, ob Sie später problemlos hochskalieren können.
