Wer mit KI arbeitet, trifft Entscheidungen auf Basis von Ergebnissen, deren Qualität oft schwer einzuschätzen ist. Je verantwortungsvoller die Aufgabe, desto größer die potenziellen Risiken für Fehlentscheidungen. Ärztinnen und Ärzte, die KI bei Diagnosen einsetzen, oder Entscheider und Entscheiderinnen in Unternehmen und Behörden müssen ihrer KI vertrauen können – schon aus Haftungsgründen. Aufwändige Prüfungen, bei denen menschlicher Sachverstand heute noch kaum zu ersetzen ist, können Effizienzgewinne durch KI wieder zunichtemachen. 
Die Gretchenfrage für den Durchbruch der Künstlichen Intelligenz für Schlüsselaufgaben in Wirtschaft und Verwaltung lautet deshalb nicht mehr, was KI kann, sondern wie Verantwortliche ihren Ergebnissen vertrauen können. Das Team von ailusive, einer Ausgründung des Fraunhofer-Institut für Integrierte Schaltungen IIS, gibt auf diese Schlüsselfrage des KI-Zeitalters eine radikal neue Antwort.

Ein Cockpit für KI-Verlässlichkeit

Das Fraunhofer Spin-off ailusive, macht aus der Qualitätsprüfung von KI-Entscheidungen ein Produkt: Mit der ailusive-Plattform wird die komplexe KI-Bewertung zu einer simplen Routineaufgabe ohne Zeitverluste. Der KI-Output wird direkt in der Anwendung nach dem Ampelprinzip bewertet. Per Chat und Farbcode wird Nutzern und Nutzerinnen die Verlässlichkeit einer KI-Aussage angezeigt: Rot signalisiert eindeutige Fehler oder Halluzinationen, gelb weist auf Unsicherheiten hin und zeigt mögliche Ursachen sowie nächste Schritte zur Validierung auf. Grün bedeutet: Das Ergebnis ist belastbar – Anwender können damit direkt weiterarbeiten. Die Komplexität umfassender Plausibilitätsprüfungen verschwindet für Nutzerinnen dabei hinter einer simplen Ampelbewertung. 

Sie erhalten mit einem Blick eine klare Einschätzung der KI-Verlässlichkeit. Möglich wird diese radikale Vereinfachung durch die sogenannte Integrated expert-anchored Quality Control (IQC). Diese mitlaufende Echtzeit-Bewertung von KI-Ergebnissen entlang definierter Qualitäts-Kriterien zeigt an, ob Antworten mindestens so gut sind, wie die menschlicher Fachexperten. Die Lösung von ailusive definiert damit nicht nur die Qualitätsprüfung maschineller Ergebnisse im Umgang mit KI neu, sondern auch die Prozesse in Unternehmen und Organisationen. Qualitätssicherung findet nicht mehr nachgelagert statt – sie wird Teil der Anwendung selbst. Unternehmen und Organisationen können dadurch Entwicklungszyklen verkürzen, Compliance-Aufwand reduzieren und vor allem KI-basierte Entscheidungen mit gutem Gewissen und der erforderlichen Rechtssicherheit treffen.

Ein Bundesministerium als Vorreiter für vertrauensvolle KI-Anwendung

Wie groß der Bedarf nach vertrauenswürdiger KI inzwischen ist, zeigt ein Erfolgsbeispiel aus der öffentlichen Verwaltung, das international für Furore sorgt. Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) entwickelte mit Unterstützung des Fraunhofer IIS und dem ailusive-Team eine agentische KI, die Planungs- und Genehmigungsverfahren für Infrastrukturprojekte beschleunigt: Sie analysiert Antragsunterlagen, strukturiert Inhalte, prüft Nachweise, erstellt Entscheidungsvorschläge – und liefert auf Basis eines Prototypen von ailusive eine nachvollziehbare Verlässlichkeitsprüfung. Gerade in der Verwaltung, wo rechtliche Verantwortung und Ermessensspielräume nicht immer automatisiert werden können, wird IQC zu einer Art Sicherheitsanker für den Einsatz von KI: Die Technologie liefert mit den Ergebnissen zugleich eine Einschätzung zur Verlässlichkeit für menschliche Entscheider und Entscheiderinnen. Die Lösung des BMDS wurde beim World Governments Summit mit dem Award »Best Use of AI in Government Services« ausgezeichnet und gilt als Leuchtturmprojekt und Vorbild für viele weitere Anwendungen in der öffentlichen Verwaltung.

Mittelfristig soll die Plattform von ailusive nicht nur den KI-Einsatz auf eine neue Vertrauensbasis stellen, sondern auch Compliance-Fragen wie beispielsweise durch den EU AI Act beantworten, teilweise sogar schon, bevor diese in Kraft treten. KI-Compliance wird sich voraussichtlich durch die wachsende Regulierung und den entsprechenden Handlungsdruck für Unternehmen zu einem zweiten, spannenden Markt mit beträchtlichem Potenzial für den ailusive-Ansatz entwickeln.

Ein Forschungsproblem als perfekte Marktchance

Im Sommer 2024 erkannte die spätere Gründerin Birgit Popp bei Forschungsarbeiten zu KI-Qualitätsstandards, dass die angewandte Forschung von Fraunhofer IIS Möglichkeiten bot, das gravierende Vertrauens- und Qualitätsdefizit von KI zu beseitigen. Doch eine SaaS-Lösung, die Verantwortung für die Bewertung von KI übernimmt, lässt sich aufgrund haftungsrechtlicher Verantwortungen nicht innerhalb klassischer Forschungsstrukturen entwickeln. Popp stellte der Institutsleitung Ideen für einen Transfer vor. Gemeinsam mit ihrem Bereichsleiter Frederik Nagel und der Institutsleitung entstand die Überzeugung, dass ein Spin-off der beste Weg wäre, die Chance für eine einzigartige Marktposition zu realisieren. Für die Ausgründung konnten der Ingenieur und Tech-Entrepreneur Nils Werner und der erfahrene Business Developer Jorge Juarez als Co-Gründer gewonnen werden. Auf dem Weg vom Forschungsprojekt zum Unternehmen arbeitete ailusive bereits vor der eigentlichen Gründung mit dem Berater-Tandem Roland Teves als Investment Manager und Thomas Meyer als Legal Counsel zusammen. Sie unterstützten das Team nicht nur bei gesellschafts- und steuerrechtlichen Fragen, sondern halfen auch dabei, die Logik und Mechanik einer Ausgründung innerhalb des Fraunhofer-Kontexts zu strukturieren und durch eine Beteiligung der Fraunhofer-Gesellschaft als erster Investor des Start-Ups zu flankieren.

Für Birgit Popp, die bereits zuvor ein Tech-Start-up in den USA gegründet hatte, war die Entscheidung dennoch mehr als eine strategische Abwägung. Sie hätte den sicheren Weg in Projekten und Forschungsprogrammen weitergehen können. Stattdessen entschied sie sich bewusst für das Risiko – und für die Freiheit, an einem Problem zu arbeiten, das sie für gesellschaftlich relevant hält. »Ich habe mich entschieden zu gründen, weil ich es sinnstiftend finde«, beschreibt sie ihre Motivation.

Bis heute bleibt ailusive eng mit dem Fraunhofer-Ökosystem verbunden. Das Team arbeitet weiterhin mit dem medizintechnischen Bereich des Fraunhofer-Institut für Integrierte Schaltungen IIS zusammen, etwa wenn gemeinsame Projekte mit der Forschung umgesetzt werden. Gleichzeitig profitiert die Ausgründung von den Netzwerken des Instituts in die KI-Community und verschiedene Branchen. So stellte Fraunhofer den Kontakt zu einem Chefarzt des Universitätsklinikum Tübingen her, der ein KI-System entwickeln möchte, um die zeitaufwändige Dokumentation im Klinikalltag zu automatisieren. Genau in solchen Partnerschaften zeigt sich, wie Fraunhofer-Ausgründungen funktionieren: nicht als Bruch mit der angewandten Forschung, sondern als deren konsequente Fortsetzung im Markt.