Ich behandle Open-Source-Modelle wie fremde USB-Sticks

Ich behandle Open-Source-KI-Modelle wie fremde USB-Sticks.Erst scannen, dann laden.

Vor ein paar Tagen habe ich ein kleines Experiment auf Reddit gelesen, das mit Zahlen zeigt, warum das so wichtig ist.

Ein Reddit-Nutzer (arsbrazh12) hat einen Scanner für Hugging-Face-Modelle geschrieben.Und ihn dann auf 2.500 Modelle losgelassen.

86 Modelle sind durchgefallen.

Das haben sie unter der "offenen" Oberfläche gefunden:

• Dateien, die nur Git-LFS-Pointer enthielten
• Lizenzen, versteckt in .safetensors-Headern
• Modelle, die beim Laden zusätzliche Bibliotheken nachziehen wollten
• Code mit Mustern, die auch in Schadsoftware auftauchen
• Scans, die scheiterten, weil lokale Werkzeuge fehlten

Alles aus normal aussehenden Repos.Von Orten, die viele Teams als "sicher, ohne nachzusehen" behandeln.

Open Source liefert eine schöne Geschichte.Transparent. Geteilt. Von der Community getragen.

Die Wahrheit ist vielschichtiger.

Wenn ich sehe, wie Teams ein Modell von einem Hub ziehen, es in eine Pipeline hängen und am ersten Tag auf echte Daten loslassen, denke ich nicht "schnell unterwegs".

Ich denke: "Ihr habt gerade einen fremden USB-Stick ins Kernnetz gesteckt."

Spulen wir ein paar Monate vor.

Jetzt betreibst du eine "souveräne KI"-Plattform.Du sprichst über Kontrolle, Autonomie, Unabhängigkeit.

Im Stack stecken aber:

• Modelle, die niemand gescannt hat
• Lizenzen, die niemand gelesen hat
• Abhängigkeiten, die niemand freigegeben hat

Auf dem Papier gehört dir das System.Im laufenden Betrieb hängst du an dem, was in dieser Modelldatei steckt.

Unser Vorgehen bei Omniance sieht langweilig aus, rettet aber den Schlaf:

• Jedes externe Modell läuft durch einen Scanner
• Jede zusätzliche Bibliothek kommt auf eine Freigabeliste, nicht auf eine Wunschliste
• Jede Lizenz wird vor dem ersten Laden geprüft, nicht nach dem ersten Problem

Für mich beginnt KI-Souveränität wesentlich mit der Frage:"Wissen wir, was wir da gerade in den Speicher geladen haben?"

Hast du Ähnliches erlebt? Wie prüfst du Modelle in deinem Ablauf?