Open Source, Open Weight, Cloud, what?

"Open Source" fällt in fast jedem KI-Workshop mindestens einmal. Und ziemlich oft wird da einiges durcheinander geworfen. Manchmal in einem einzigen Satz: "Wir hätten gern was Open Source, wegen Datenschutz, am besten in der lokalen Cloud." In diesem einen Wunsch stecken drei Begriffsverwechslungen drin, und das schauen wir uns jetzt mal an.

Vier Begriffe und mehrere Fragen

Hinter den Begriffen stehen zunächst Herangehensweisen an Inhalte. Diese Inhalte können Texte sein, Programmcode, Ideen, was auch immer. Dann beinhalten die meisten Ansätze auch Lizenzen.

Erste Frage: Wie viel Einblick und Kontrolle gibt euch die Lizenz? Dürft ihr das Modell herunterladen, verändern oder gar weitergeben? Oder bekommt ihr nur Antworten aus einer Blackbox? Auf dieser Achse liegen Open Source, Open Weight und Closed Source.

Die zweite Frage: Wo läuft die Rechenarbeit? Auf fremden Servern übers Internet, oder auf Hardware, die ihr selbst kontrolliert? Das ist die Achse Cloud gegen lokal.

Diese beiden Achsen haben erst mal nichts miteinander zu tun. Ihr könnt ein offenes Modell in der Cloud betreiben. Ihr könnt ein offenes Modell lokal betreiben. Ein Closed-Source-Modell dagegen bekommt ihr fast immer nur über die Cloud. Diese Dinge sollen nicht vermischt werden.

Open Source heißt: ihr dürft unter die Motorhaube schauen und dort auch Dinge tun

Richtig "Open Source" ist ein Modell dann, wenn ihr es genau anschauen, es benutzen, verändern und weitergeben dürft, ohne vorher jemanden um Erlaubnis zu fragen. Die Open Source Initiative (OSI), die seit über zwei Jahrzehnten definiert, was Open Source bei Software bedeutet, hat im Oktober 2024 eine eigene Definition für KI vorgelegt: die Open Source AI Definition (OSAID 1.0).

Damit ein Modell diese vier Freiheiten erfüllt, reicht es nicht, die fertigen "Gewichte" (Weights) ins Netz zu stellen. Dazu gehören verschiedene Arten des Codes sowie so viel Information über die Trainingsdaten, dass eine fachkundige Person das Modell im Prinzip nachbauen könnte. Den kompletten Trainingsdatensatz mitzuliefern verlangt die OSI ausdrücklich nicht, weil vieles davon urheberrechtlich oder datenschutzrechtlich gar nicht weitergegeben werden darf. Das ist der eigentliche Knackpunkt. Denn bis heute ist unklar, woher die ganzen Maschinen eigentlich so "schlau" sind.

Modelle, die diesen strengen Maßstab wirklich erfüllen, sind selten. Am nächsten kommt dem im Moment die OLMo-Familie vom Allen Institute for AI, die Gewichte, Code und Trainingsdaten offenlegt. Die meisten Modelle, die im Alltag „Open Source" genannt werden, sind es im OSI-Sinn gar nicht.

Open Weight ist das, was die meisten meinen, wenn sie Open Source sagen

Der Begriff, der für die große Mehrheit dieser Modelle eigentlich passt, heißt "Open Weight". Bei einem Open-Weight-Modell könnt ihr die Gewichte, also die trainierten Mengen an Daten herunterladen, das Modell auf eurer eigenen Hardware laufen lassen, es feintunen und in eigene Produkte einbauen. Was fehlt, sind meist die Trainingsdaten und der vollständige Trainings-Code. Und die Lizenz hat oft Bedingungen, die ein echtes Open-Source-Zertifikat verhindern.

Hierhin gehören die Modelle, die den Markt gerade prägen: Kimi aus China, die Mistral- und Mixtral-Modelle aus Frankreich, Gemma von Google, dazu DeepSeek und Qwen. Meta bewirbt Llama offensiv als "Open Source", trägt dabei aber eine eigene Community-Lizenz. Darin steckt zum Beispiel eine Klausel, die kommerzielle Nutzung ab 700 Millionen monatlich aktiven Nutzenden gesondert regelt. Für ein Diakonisches Werk ist diese Grenze folgenlos, für die Einordnung des Begriffs ist sie aber entscheidend: "herunterladbar" und "frei" sind zweierlei.

Closed Source: ihr bekommt die Antwort, nie das Modell

Bei Closed Source liegen die Gewichte unter Verschluss. Ihr könnt das Modell weder herunterladen noch hineinschauen noch selbst betreiben. Ihr schickt eure Eingabe an die Server des Anbieters und bekommt eine Antwort zurück, mehr gibt euch die Blackbox nicht heraus. Genau so funktionieren die bekanntesten Systeme: Claude von Anthropic, GPT hinter ChatGPT von OpenAI, Gemini von Google. Ihr mietet Zugang, besitzen tut ihr mal so gar nichts.

Diese Modelle gehören oft zu den leistungsstärksten am Markt ("Frontier-Modelle"), und für viele Aufgaben sind sie die pragmatische Wahl. Ihr solltet nur wissen, dass ihr euch damit an einen Anbieter bindet und keinen Blick ins Innere habt.

Cloud sagt nur, wo gerechnet wird

"Cloud" beschreibt, wo die Rechenarbeit passiert: auf den Servern eines Anbieters, erreichbar übers Internet. Das sagt aber erst mal nichts darüber, wie offen ein Modell ist.

Closed-Source-Modelle laufen praktisch immer in der Cloud, das ist bei ihnen eingebaut. Ein Open-Weight-Modell könnt ihr aber genauso in der Cloud betreiben, etwa über Hugging Face, Amazon Web Services oder die API von Mistral. Oder ihr holt es euch auf eure eigene Maschine, mit Werkzeugen wie Ollama oder LM Studio, OpenRouter, und dann verlässt kein einziges Byte euren Rechner.

Für den deutschsprachigen Nonprofit-Bereich ist eine dritte Variante interessant: ein offenes Modell, gehostet in einem DSGVO-konformen Rechenzentrum und mit Auftragsverarbeitungsvertrag und der Zusage, dass eure Daten nicht ins Modelltraining fließen. Das ist Cloud, aber unter EU-Regeln, mit einem offenen Modell darin. Bleibt aber auch hier weiterhin das Vertrauen gegenüber den Anbietern, dass das wirklich so geschieht.

Oft kommt auch in Workshops die Frage auf, ob sich die Organisationen nicht "was eigenes" aufbauen können. Ja, im Prinzip geht das, zum Beispiel über OpenRouter. Dann werden die API der Modelle angesprochen, man zahlt auch nur das, was wirklich an Token genutzt wird. Aber: Es muss tatsächlich immer noch jemand bedienen können. Es müssen Updates gefahren werden, neue Modelle mit hineingenommen werden. Der Server muss administriert werden. Und all dies kostet eben auch. Wenn auch eventuell weniger Geld, dann auf jeden Fall Arbeitszeit. OpenWebUI in Verbindung mit Ollama ist toll. Zum ausprobieren. Produktiv in einer sozialwirtschaftlichen Einrichtung mit mehreren Hundert Mitarbeitenden? Sehe ich leider aktuell nicht, so sehr ich es mir wünsche. Die Serverkosten für ein kleines Team liegen bei circa 200€ pro Monat. Plus Sicherheitsupdates, Monitoring der Auslastung, etc. etc. etc. (Bei euch läuft das und auch wirklich produktiv und wirklich gut? Bitte meldet euch! Ich will das wirklich wissen und über euch berichten und vor allem von euch lernen.)

Warum das für gemeinnützige Organisationen mehr als Wortklauberei ist

Der Grund, warum ich das so auseinandernehme: In Beratungsgesprächen wird "Open Source" oft benutzt, als wäre es ein Datenschutz-Siegel. Ist es nicht. Ein Open-Weight-Modell auf einem US-Server ist datenschutzrechtlich erst mal genauso heikel wie jedes andere US-Cloud-Angebot. Und umgekehrt trainiert ein Closed-Source-Modell in der Cloud nicht automatisch mit euren Daten mit, das hängt am Vertrag und an den Einstellungen (bei den API-Angeboten von Anthropic und OpenAI ist das Training mit Kundendaten Stand heute standardmäßig aus).

Die Frage "„"Wo landen unsere Daten?" beantwortet die Cloud-lokal-Achse, plus der Vertrag. Die Frage "„"Können wir das Modell prüfen, anpassen, unabhängig weiterbetreiben?" beantwortet die Offenheits-Achse. Beide sind wichtig, und sie haben unterschiedliche Antworten.

Dazu kommt: "Open" heißt nicht automatisch "kostenlos", siehe oben bereits erwähnt. (Alle, die sich mit der Einführung von Fundraising-Software auseinander gesetzt haben, wissen wovon eich spreche. Hallo Andreas!) Ein Open-Weight-Modell selbst zu betreiben kostet Hardware, Strom und Know-how. Lasst es, tut es derzeit mit dem Ziel der produktiven Arbeit noch (!) nicht. Für die meisten Organisationen ist ein gehostetes offenes Modell der realistische Mittelweg zwischen voller Kontrolle und voller Bequemlichkeit.

Und nu?

Wenn ihr das nächste Mal hört "Wir wollen was Open Source, wegen Datenschutz, in der Cloud", dann könnt ihr einsortieren, dass da drei getrennte Entscheidungen drinstecken. Wie offen das Modell sein soll, wo es laufen soll, und was im Vertrag steht. Klärt die drei einzeln. Dann klärt sich meistens auch der Wunsch dahinter.

Steckt eure Energie aktuell eher in den Aufbau von Kontexten.