Künstliche Intelligenz hat schon heute an vielen Stellen Einzug in den Alltag gehalten. Linux bemüht sich um eine Antwort auf die Frage: “Nun sag, wie hast du’s mit der KI?”

Innerhalb der Linux-Community scheiden sich die Geister, wenn es um den scheinbar unaufhaltsamen Vormarsch von KI geht. Das spiegelt sich auch in den unterschiedlichen Linux-Distributionen wieder. Das Spektrum reicht von Distros, die eigene Editionen für KI auflegen, über solche, die vereinzelte Tools ausliefern oder noch darüber diskutieren, bis hin zu Distros, bei denen KI noch keine Rolle in den Planungen spielt oder wo von KI generierter Code gar strikt verboten ist.

Neben den mittlerweile etablierten Chatbots wie ChatGPT nutzen vermehrt Anwendungen KI, um Funktionen besser bereitzustellen zu können. Dazu zählen vor allem Bildbearbeiter, Übersetzer wie DeepL und Office-Pakete wie SoftMaker NX. Daneben bedienen sich Browser und Suchmaschinen ausgiebig der KI. Allen voran Opera [1] mit seinem jüngst vorgestellten lokalen KI-Agenten, der Aktionen wie das Bestellen von Konzertkarten oder die Anmeldung bei Webseiten automatisch ausführt. Bei den Suchmaschinen hat sich, basierend auf OpenAI, Perplexity [2] mit KI einen Vorsprung gegenüber der Konkurrenz gesichert. Vor dem Open-Source-Browser Firefox macht die Entwicklung ebenfalls keineswegs halt – Mozillas erklärtes Ziel lautet, eine lokale KI [3] zu entwickeln und zu fördern, die sich dem Datenschutz verschreibt.

Hier zeigt sich ein fundamentaler Unterschied in der Herangehensweise bei der Umsetzung von KI bei Linux-Distributionen und Open-Source-Anwendungen gegenüber proprietären Ansätzen, bei denen zwangsläufig private Daten in die Cloud des jeweiligen Anbieters abfließen. Bei Linux und Open Source laufen die KI-Modelle lokal auf dem Rechner, die Daten verbleiben im heimischen Netz. Obwohl das begrüßenswert ist, hat das Prinzip einen Pferdefuß: Die verschiedenen KI-Sprachmodelle benötigen leistungsfähige Grafikkarten, um in angemessener Zeit Ergebnisse liefern zu können.

Copyright ausgehebelt

Ein gewichtiger Kritikpunkt, den auch lokale KI nicht ausräumen kann, liegt in der Art und Weise, wie die Sprachmodelle (Large Language Models, LLMs) [4] trainiert werden. Erst LLMs ermöglichen die Ausgaben der KI-Bots oder die von KI generierten Bilder. Die riesigen Datenmengen, die mittels Deep-Learning-Frameworks wie TensorFlow oder PyTorch antrainiert werden, stammen aus unterschiedlichen Quellen wie öffentlich verfügbaren Büchern, Webseiten, Artikeln und Social-Media-Plattformen. Die damit verbundenen urheberrechtlichen Fragen sind ein komplexes und für die kommenden Jahre aktuelles Thema. Die von LLMs generierten Ausgaben können urheberrechtliche Probleme verursachen, wenn sie den verwendeten Eingabedaten zu stark ähneln. Obendrein fällt die rechtliche Bewertung des LLM-Trainings [5] international durchaus uneinheitlich aus.

Die Stars des derzeitigen Hypes um KI sind Chatbots und das Generieren von Code mit Werkzeugen wie Github Copilot. Ungeachtet der eigenen Haltung dazu, sollten Sie nicht vergessen, dass KI auf anderen Gebieten wie Übersetzung, Dateisuche, Hausautomatisierung, Barrierefreiheit, Open-Source-Sprachsynthese und generell in der Forschung seit Jahren für große Fortschritte sorgt.

Linux-Distributionen

Bei den etablierten, auf den Desktop-Anwender zugeschnittenen Distributionen gibt es im Zuge des KI-Vormarschs bisher wenig Nützliches zu entdecken. Die Entwickler der Projekte Gentoo und NetBSD haben den Einsatz von KI-Code, beispielsweise aus Githubs Copilot, untersagt [6]. Zwei Distributionen etwas abseits des Mainstreams orientieren sich dagegen in ihren aktuellen Veröffentlichungen stark am Hype und binden umfangreiche KI-Assistenten ein.

Die Rede ist von Deepin und Makulu Linux, doch dazu später mehr. Zunächst richtet sich das Augenmerk auf die weitverbreiteten Distros wie Debian, Ubuntu, Red Hat, Fedora, Arch Linux und OpenSuse. Immerhin prägen sie und ihre vielen Derivate die unmittelbare Zukunft von Linux mit.

Debian und Ubuntu

Debian hat bisher darauf verzichtet, offiziell Stellung zu KI zu beziehen. Wie viele andere Distributionen bietet es die üblichen Werkzeuge [7] für maschinelles Lernen aus dem Python-Umfeld wie TensorFlow oder PyTorch zur Installation. Einzelne Entwickler wagen sich weiter vor in die Gefilde von KI-generiertem Code [8], um individuelle Problemstellungen mithilfe von Werkzeugen zu lösen, die Debian ausliefert.

Davon abgesehen gibt sich Debian pragmatisch und konzentriert sich auf das Bereitstellen von Tools und Plattformen für die KI-Entwicklung, anstatt KI direkt in sein Kernsystem oder seine Entscheidungsprozesse einzubinden. Eine Zusammenfassung der anhaltenden Diskussion bei Debian liefert Joe Brockmeier [9] auf LWN.

Ein wichtiges Standbein von Ubuntu als hauptsächlich auf Unternehmen ausgerichtete Distro ist das Thema Robotik [10]. Deshalb arbeitet man bei Ubuntu aktiv daran, KI-Funktionen [11] und maschinelles Lernen in das Betriebssystem zu integrieren. Trotz der Ausrichtung auf Kunden aus der Industrie verfolgt Canonical einen Ansatz zu ethisch vertretbarer KI [12], der sich laut eigener Aussage so weit wie möglich an Open-Source-Prinzipien ausrichtet.

Red Hat

Red Hat gab auf dem Red Hat Summit im Mai 2024 einen ersten umfassenden Einblick in seine KI-Strategie für die kommenden Jahre. Das mittlerweile zu IBM gehörende Unternehmen kündigte die Markteinführung von Red Hat Enterprise Linux AI (RHEL AI) an. Dahinter steckt eine grundlegende Modellplattform, die es Anwendern gestattet, generative KI-Modelle (GenAI) zu entwickeln, zu testen und einzusetzen.

Dabei vertraut man auf die von IBM Research entwickelten, unter der Apache Lizenz veröffentlichten Granite LLMs [13]. Red Hat möchte damit seine Container-Plattform OpenShift als fertige KI-Implementierung für Unternehmen besser positionieren. Durch das Open-Sourcing von KI-Modellen will Red Hat die Akzeptanz von KI in Unternehmen steigern und gleichzeitig das Engagement für Open-Source-Prinzipien aufrechterhalten. Wie das unter dem Schirm von IBM gelingt, muss die Zukunft zeigen.

Fedora

Daraus ergibt sich die Frage, wie Red Hats Downstream Fedora als generell mehr auf Desktop und Entwickler ausgerichtete Distribution zu KI steht. Die Fedora-Entwickler – oft in Personalunion auch Angestellte von Red Hat – wählen einen proaktiven Ansatz hinsichtlich der Integration von KI und erklären das zu einer der Hauptprioritäten der Fedora Workstation für das Jahr 2025 und darüber hinaus.

Der demnächst ausscheidende Projektleiter Matthew Miller [14] konstatiert, dass der Großteil der heute verfügbaren KI unternehmenseigene, geschlossene Modelle seien. Sie werden mit versteckten Daten trainiert und laufen vielfach auf Hardware ohne Open-Source-Treiber. KI müsse aber allen gehören, deshalb dürfe man diese Entwicklung nicht verschlafen.

Fedora möchte auf lange Sicht nicht nur KI-Tools für die Nutzer von Fedora Workstation und Gnome bereitstellen. Zusätzlich möchte man diese Entwicklungen zum Erstellen der Distribution selbst nutzen. Hier sollen neben Werkzeugen wie RamaLama [15] auch Code-Generatoren auf der Basis von IBMs Granite LLMs Verwendung finden.

Suse und OpenSuse

Suses Gebaren lässt sich in groben Zügen mit dem von Red Hat vergleichen: Open Source fungiert als Dreh- und Angelpunkt. Im Gegensatz zu Red Hat will Suse beim Einsatz von SUSE AI [16] sowohl Hersteller- als auch LLM-unabhängig vorgehen. Dementsprechend können Unternehmen ihre bevorzugten KI-Modelle und Implementierungsmethoden selbst wählen und damit dem Vendor-Lock-in entgegenwirken.

OpenSuse liefert bereits seit Leap 15.2 aus dem Jahr 2020 die gängigen Tools zum maschinellen Lernen aus. Erst kürzlich fügten die Entwickler OpenVino [17] (Open Visual Inference and Neural Network Optimization) hinzu. Sie stufen es als eines der wichtigsten Tools im KI-Ökosystem ein, vorrangig für Anwendungen, die eine optimierte Leistung bei Deep-Learning-Modellen erfordern.

Arch Linux

Während Arch Linux bisher keine offizielle Haltung zu KI kommuniziert, eignet es sich aufgrund seiner Designphilosophie und Community sehr gut für KI-unterstützte Aufgaben. Die kaum zu übertreffende Aktualität des Softwarepools und der Zugriff auf das AUR bieten die bei KI-Tools wichtigen, zeitnahen Upgrades auf neueste Versionen der jeweiligen Software.

Zudem erlauben die durch Anwender anpassbare Installation und das minimalistische Basissystem von Arch Linux das einfache Erstellen einer maßgeschneiderten Umgebung für die Bereitstellung von KI. Schließlich verfügt Arch Linux obendrein über eine der aktivsten Communities im Linux-Umfeld.

Firefox

Seit einigen Jahren legt Mozilla seinen Fokus darauf, eine ethisch vertretbare lokale KI in Firefox zu etablieren. Damit möchte man einerseits den Anschluss an die Entwicklung halten, andererseits aber auf Dauer auch Gewinne erzielen, die Mozilla unabhängiger von den Erlösen aus Googles Suchmaschinen-Deal machen sollen.

KI-Funktionen werden in Firefox als optionale Experimente eingeführt. Es obliegt den Nutzern, sie zu aktivieren. Neben dem in Firefox Labs aktivierbaren Chatbot [18], der ChatGPT, Google Gemini, HuggingChat und Le Chat Mistral unterstützt, offeriert Firefox unter anderem Orbit [19]. Das ist ein zunächst als Erweiterung zu installierender KI-Agent, der lange Texte sinnhaltig zusammenfasst. Weitere KI-Dienste sollen folgen. Damit erntet Mozilla allerdings nicht nur Zustimmung, es hagelt auch heftige Kritik [20].

KI auf dem Desktop

Bisher haben wir Ansätze vorgestellt, die beispielsweise für Entwickler und Wissenschaftler von Interesse sind. Nun geht es um KI-Assistenten, die im Alltag Texte übersetzen oder zusammenfassen, Fragen beantworten oder aus einem Text-Prompt Bilder und Videos erstellen.

Anstatt solche Werkzeuge in der Cloud eines Tech-Unternehmens zu nutzen, lassen sich LLMs und die dazugehörigen Tools auch lokal integrieren, wie der Artikel “Hirn installieren” [21] in diesem Heft näher erklärt. Wenn Sie das nicht selbst erledigen möchten, greifen Sie am einfachsten auf die beiden bereits erwähnten Distributionen Deepin und Makulu Linux zurück.

Deepin 25

Als eine in China entwickelte, auf Debian basierende Distro bringt Deepin seine eigene, auf dem Qt-Framework aufbauende Desktop-Umgebung Deepin Desktop Environment (DDE) [22] mit. Die aktuelle, noch als Testversion bezeichnete Veröffentlichung Deepin 25 [23] zeigt einige innovative Ansätze. Sie führt mit Solid ein unveränderliches System mit Snapshot-Management ein, das Anwender bei Bedarf per Kommandozeile ein- und ausschalten können.

Uns interessieren an dieser Stelle jedoch die mit Deepin 23 erstmals eingeführten und seitdem erweiterten KI-Features. Dazu gehört unter anderem der eigene KI-Assistent mit unterschiedlichen LLMs zur Auswahl. Neben dem Assistenten verfügen auch einige Anwendungen über KI-Funktionen. Sollten Sie die Distro testen wollen, spendieren Sie der Installation mindestens 50 GByte, besser aber 100 oder mehr GByte, um ausreichend Platz für lokale LLMs zu schaffen. Alternativ lässt sich DDE in anderen Debian-basierten Distributionen einbinden.

UOS-AI

Das Icon für den KI-Assistenten von Deepin, der auf den Namen UOS AI hört, befindet sich dort, wo Sie üblicherweise das Hauptmenü einer Distribution erwarten, nämlich in der Leiste unten links. Der Assistent überlässt es Ihnen, ob Sie sich für einen Test-Account (Abbildung 1) entscheiden, der auf ein bereits installiertes, kleines LLM (Abbildung 2) zugreift, oder für ein installierbares lokales oder entferntes LLM mit 1,5 oder 7 GByte Umfang oder für andere Modelle wie GPT4 oder Gemini 1.5. Um die letzten beiden in Betrieb nehmen zu können, müssen Sie jedoch deren API-Key besitzen.

Abbildung 1: Nachdem Sie die Nutzungsvereinbarung akzeptiert haben, legen Sie in UOS AI einen Test-Account an. Nach Installation von Ollama können Sie weitere lokale Modelle hinzufügen.

Abbildung 2: Die Frage nach der Historie von Linux beantwortet das LLM auch mit dem Test-Account gut gegliedert und ausführlich.

Um lokale Sprachmodelle auszuführen, setzt Deepin auf Ollama, das Sie zunächst mit dem folgenden Befehl hinzuholen.

$ curl -fsSL https://ollama.com/install.sh | sh

Mehr zu Ollama erfahren Sie im bereits erwähnten Artikel “Hirn installieren” [21] in diesem Heft. Hat alles geklappt, finden Sie auf der Ollama-Webseite [24] eine Vielzahl an Modellen (Abbildung 3) zum Herunterladen, die Sie daraufhin in Ollama ausführen können.

Abbildung 3: Die Webseite von Ollama bietet zahlreiche lokal installierbare LLMs an. Ein Klick auf eine der Optionen liefert weitergehende Informationen.

Der Assistent (Abbildung 4) gliedert sich in mehrere Teilbereiche: Der Personal Knowledge Assistent beantwortet Fragen zu den von Ihnen im Dateisystem gespeicherten Dokumenten und kann aus der daraus erstellten Wissensdatenbank Inhalte nach Ihren Wünschen generieren. Unter Knowledge Base Management legen Sie fest, welche Dokumente das Modell hierzu heranziehen soll. Der Deepin System Assistent beantwortet Fragen zum Betriebssystem selbst.

Abbildung 4: Deepin verfügt über Assistenten, die neben Fragen zu Deepin selbst auch Antworten über und Berichte zu im Dateisystem abgelegten Dokumente erstellt.

Neben dem Symbol für den Assistenten gelangen Sie über die Lupe zur Grand Search, einem KI-gestützten Suchmenü, das E-Mails, Code und Dokumente über Suchbegriffe findet. Verfügt der Rechner über ein Mikrofon, lässt sich Deepins AI-Assistent auch über Sprachbefehle steuern.

Der Agent Store (Abbildung 5) ermöglicht das Installieren neun weiterer KI-Tools und Modelle. Dazu zählen neben Übersetzern und Chatbots die IDEs IntelliJ IDEA und PyCharm, ein Codepilot zum Auffinden wiederverwendbarer Codeschnipsel sowie Upscayl zum verlustfreien Vergrößern von Bildern.

Abbildung 5: Der Agent-Store erlaubt, weitere Agenten für verschiedene Zwecke zu installieren.

Makulu Linux

Über Makulu Linux [25] haben wir bereits im LinuxUser 09/2020 berichtet. Die Rolling-Release-Distribution geht auf Jacque Montague Raymer zurück, einem aus Südafrika stammenden und in Vietnam lebenden Entwickler. Sie basiert auf der MakuluLinux Hybrid Base, die Komponenten aus Debian und Ubuntu vereint. Mit an Bord der mit LinDoz 2025 [26] betitelten Edition ist die KI-Engine Electra AI (Abbildung 6). Ihre Fähigkeiten (Abbildung 7) fallen vielfältig aus: Sie reagiert auf mehr als 40 Sprachen, kann recherchieren, schreiben, rechnen, Code erzeugen und Inhalte in Form von Text, Bilder, Audio sowie Video generieren.

Abbildung 6: Das Hauptmenü von Makulu führt die Electra-Agenten etwas unübersichtlich auf. Ein Klick auf die Electra Toolbox verschafft eine bessere Übersicht.

Abbildung 7: Beim ersten Start begrüßt Sie Electra mit einem Video. Darin stellt die KI ihre Fähigkeiten vor.

Auf dem Desktop befindet sich ein Symbol für die Electra AI Toolbox (Abbildung 8). Insgesamt enthält sie 15 einzelne Dienste, darunter auch die Nutzung von Electra AI im Terminal (Abbildung 9). Hier definieren Sie den Stil der Ausgabe, darunter Optionen für Blogs oder Posts auf X oder Facebook. Alle Ausgaben nutzen lokale LLMs.

Während die kostenlose Version (Abbildung 10) viele Tools enthält, erfordern einige erweiterte Funktionen die Makulu Pro Edition für einmalig 33 US-Dollar. Wenn Sie mehr über die KI-Fähigkeiten von Deepin und Makulu erfahren möchten, empfehlen wir die Lektüre des Artikels “Schlaumeier” [27] von Erik Bärwaldt im LinuxUser 03/2025.

Abbildung 8: Über die AI Toolbox von Electra starten Sie die verschiedenen Agenten. Wie bei Deepin analysieren auch hier einige Agenten Probleme im System, während andere Texte, Bilder und Videos anhand vorgegebener Prompts erstellen.

Abbildung 9: Electra verfügt neben der GUI über eine Schnittstelle zum Terminal. Hier entscheiden Sie anhand von Zahlen, welches Format der gewünschte Text haben soll.

Abbildung 10: Dieses Bild wurde mit der kostenlosen Version des Electra Image Generator erstellt. Das dauerte in einer Docker-Umgebung ohne Zugriff auf eine GPU rund drei Minuten.

Fazit und Ausblick

Alle großen Linux-Distributionen befassen sich in unterschiedlicher Ausprägung mit KI. Red Hat, Suse und Ubuntu richten sich an Unternehmenskunden und packen KI in ihre professionellen Produkte. Dabei geht es sowohl um das Erstellen und Trainieren von LLMs als auch um den praktischen Einsatz KI-gestützter Funktionen. Hier wird sich die weitere Entwicklung eng an die Fortschritte bei der KI anlehnen. Fedora beabsichtigt, Entwicklertools und das Build-System der Distribution mehr auf KI auszurichten. Debian liefert zwar die gängigen Python-Tools für maschinelles Lernen aus, steckt aber ansonsten noch in der Diskussionsphase.

Es sind eher Nischen-Distributionen wie Deepin und Makulu, die Neugierige mit einer Vielzahl an KI-Tools und Diensten für den Desktop auf sich aufmerksam machen möchten. Wenn Sie noch keine Erfahrung mit KI-Tools gesammelt haben, finden Sie dort eine geeignete Spielwiese. Zahlreiche der dort eingesetzten Werkzeuge lassen sich prinzipiell allerdings auch in jeder anderen Distribution installieren. Vieles davon ist sicherlich noch Spielerei, doch wenn der Hype erst einmal abgeebbt sein wird, wird sich zeigen, was im Alltag einen Mehrwert für Desktop-Anwender bringt. Tools wie Perplexity gehören mit Sicherheit dazu. (csi)