Ein Privatunternehmen entscheidet, wer das stärkste Modell nutzt

Der KI-Moment ist da, vor dem ich mich am meisten gefürchtet habe.

Anthropic hat angekündigt, das Modell Mythos Preview nicht öffentlich freizugeben. Es sei zu leistungsfähig.

Es hat 27 Jahre alte Sicherheitslücken in einem Betriebssystem gefunden, auf dem Firewalls und kritische Infrastruktur laufen.

Es hat Angriffsvektoren im Linux-Kernel und in FFmpeg gefunden, dem Video-Encoder, der in fast jeder Software steckt, die du benutzt.

Schwachstellen, die Jahrzehnte menschlicher Reviews und Millionen automatisierter Tests überlebt haben.

Denk kurz darüber nach.

Was machst du, wenn du ein KI-Modell hast, das in die Betriebssysteme eindringen kann, auf denen unsere gesamte Infrastruktur aufsetzt?

An alle herausgeben? In den Händen von Angreifern wäre das eine globale Katastrophe.

Deshalb hat Anthropic es nur einer ausgewählten Gruppe von „Guten" gegeben:Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, die Linux Foundation, Microsoft, NVIDIA und Palo Alto Networks.

Weltweit gibt es aber tausende Organisationen, deren gesamter Daseinszweck an IT-Sicherheit hängt, und die stehen nicht auf der Liste.

Das tiefere Problem: Open Source wird das technisch irgendwann ausgleichen. Ähnlich leistungsfähige Modelle entstehen bereits.

Aber ein Modell auf diesem Fähigkeitsniveau zu betreiben, kostet erhebliche Rechenleistung.

Selbst wenn es ein gleich starkes offenes Modell gibt, können es sich nur kapitalstarke Organisationen leisten, es in großem Umfang zu nutzen.

KI ist nicht mehr nur ein hilfreiches Werkzeug. Sie kann Machtverhältnisse zwischen Ländern, Branchen und einzelnen Menschen verschieben.

Und im Moment entscheidet ein einzelnes privates Unternehmen, wer sie einsetzen darf.

Die Idee von einem Hof ohne Netzanschluss zieht mich immer stärker an: Hühner, ein paar Ziegen, 2 Esel und Permakultur.

Und das ist kein Witz: Einen Esel kann man nicht hacken.

Für alle, die weiter auf Servern laufen:

Das Bemerkenswerteste an dieser Liste der „Guten": Sie zu hinterfragen, stand dir nie zu.