Mozilla treibt seine KI-Amibitionen weiter voran: Mit dem neuen KI-Client Thunderbolt sollen vor allem Unternehmen künstliche Intelligenz ins eigene Haus holen und einen eigenen, souveränen „AI Stack“ aufbauen.

Thunderbolt besteht im Kern aus einer Webanwendung, über die Anwender eine im Hintergrund laufende KI mit Fragen löchern. Die dabei zum Einsatz kommende KI muss man allerdings separat aufsetzen. Mozilla empfiehlt ein via Ollama oder llama.cpp auf eigenen Systemen laufendes Model. Alternativ dockt man Thunderbolt an ein kommerzielles Sprachmodell mit OpenAI-kompatibler Schnittstelle. Das Thunderbolt-Team verrät allerdings nicht, wie man dann die deutlich beworbene Datensouveränität aufrechterhält – schließlich wandern die Anfragen zu einem fremden Anbieter.

Auf Wunsch integriert sich Thunderbolt mit der Deepset Haystack-Plattform, die Mozilla zumindest in seiner Ankündigung als bevorzugte Umgebung sieht. Davon unabhängig arbeitet Thunderbolt mit MCP-Servern (Model Context Protocol) zusammen und spricht mit anderen Agenten über das Agent Client Protocol (ACP) – letzteres allerdings erst demnächst.

Anders als die Projekt-Website suggeriert, befindet sich Thunderbolt noch in einer frühen Entwicklungsphase und gilt explizit noch nicht als „production ready“. Die Entwickler hoffen auf Unternehmen, die den KI-Client auf ihren eigenen Servern selbst betreiben („On-Premise“) und testen.

Den aktuellen Stand der Entwicklung kann man auf GitHub verfolgen. Zu den noch nicht implementierten „Enterprise Features“ gehören insbesondere die Tasks, mit denen Thunderbolt automatisch wiederkehrende Aufgaben erledigen kann. Die Ende-zu-Ende-Verschlüssung und die Einbindung von MCP-Servern liegen immerhin schon als Preview vor. Unternehmen, die sich für das fertige Produkt interessieren, können sich auf eine Warteliste setzen lassen.

Thunderbolt stützt sich auf einige weitere Komponenten, wie eine SQL-Datenbank und Keycloak für die Authentifizierung. Die Inbetriebnahme des kompletten Gespanns erfolgt bevorzugt über Container – wahlweise via Docker Compose oder in einem Kubernetes-Cluster.

Eine kleine Stolperfalle für das Projekt birgt der Name: Thunderbolt bezeichnet eigentlich eine (Hardware-)Schnittstelle und ein Datenübertragungsprotokoll. Hier dürfte zumindest Verwechslungsgefahr drohen.