#47 - Wer ist schuld? Palantir sagt „menschliches Versagen“, und PostFinance sperrt ChatGPT

Berlin legt den großen KI-Vertrag mit Mistral und SAP auf Eis, eine Schweizer Bank sperrt ChatGPT, Gemini und Claude – und in den USA sagt Palantirs Technikchef im Fernsehen über einen Raketenangriff auf eine Schule: wahrscheinlich menschliches Versagen, nicht unsere KI.

Heute geht es um eine Frage: Wer ist schuld, wenn KI danebenliegt – die Maschine, die Menschen, die ihr vertraut haben, oder die Firma, die sie verkauft hat? Aufgenommen in Salzburg, frisch nach der Keynote bei HOGAST.

In dieser Folge:

🌑 Berlin legt den Mistral-SAP-Vertrag auf Eis (02:02) — im November 2025 haben Mistral AI aus Frankreich und SAP in Berlin KI-Werkzeuge und digitale Helfer für Behörden angekündigt, bis Mitte 2026 sollte ein Rahmenvertrag stehen. Unterschrieben wurde er nie: Laut Politico hat das Bundesdigitalministerium derzeit keine Pläne, bei Mistral einzukaufen. Kurz davor hat sich schon die Suchmaschine Ecosia von Mistral verabschiedet – Ecosia-Chef Christian Kroll sagt, die Modelle liegen etwa ein Jahr zurück. Mistrals Antwort ist Mistral Large 4; KI-Forscher Holger Hoos von der RWTH Aachen nennt es „rock-solid but by no means groundbreaking“. Malcolms Meinung: Eine europäische KI gibt es nur, wenn Europa in Rechenzentren und Infrastruktur investiert.

🌑 PostFinance sperrt ChatGPT, Gemini und Claude (06:12) — Schatten-KI heißt: Mitarbeitende nutzen KI-Werkzeuge, die die Firma nicht freigegeben hat. PostFinance, die systemrelevante Bank der Schweizerischen Post, sperrt laut dem Finanzblog Inside Paradeplatz seit Montag, dem 12. Oktober, öffentliche KI-Dienste wie ChatGPT, Gemini und Claude. Der Grund ist Datenschutz. Malcolms Punkt: Gegen das Handy im Mobilfunknetz hilft auch die beste Firewall nicht.

🌑 Palantir: „Die wahrscheinliche Ursache ist menschliches Versagen“ (08:36) — Palantirs Maven Smart System sortiert Drohnen- und Satellitendaten und schlägt Ziele vor. Am 28. Februar, dem ersten Tag des Kriegs zwischen den USA und dem Iran, trafen zwei Tomahawk-Marschflugkörper eine Grundschule in Minab; mindestens 123 Kinder starben. Laut Bloomberg nennt ein interner, nicht öffentlicher Pentagon-Bericht alte Geheimdienstinformationen, alte Satellitenbilder und Kürzungen beim Schutzteam – von zehn Leuten auf eine einzige Person. Palantirs Technikchef Shyam Sankar sagte am 11. Oktober bei CBS „Face the Nation“: „Yeah, it's inaccurate, and actually, the likely cause is human error.“ Malcolms Meinung: Jedes KI-System braucht einen Menschen, der wirklich prüft – Human in the Loop.

🌑 KI, die sich auf deine TV-Box kopieren könnte (12:44) — Anthropics Frontier Red Team hat getestet, ob sich ein kleines KI-Modell selbst auf billige vernetzte Geräte kopieren kann: TV-Boxen, Kameras, Backöfen. Weil jede neue Kopie die Notizen der vorherigen liest, stieg die Erfolgsquote von 45 auf bis zu 84 Prozent. Das chinesische Modell GLM-5.2 von Z.ai schaffte die ganze Kette und erreichte alle acht Zielrechner in vier von fünf Versuchen – allerdings in einem abgeschotteten Testnetz.

🌑 Getty Images geht in die Insolvenz (16:17) — dreißig Jahre lang war Getty Images die erste Adresse, wenn eine Zeitung ein Foto brauchte. Jetzt geht die Firma in ein Insolvenzverfahren nach Chapter 11 und wird danach privat; die Getty-Familie und die Investmentfirma von Charles Koch stecken bis zu 533 Millionen Dollar hinein. KI ist nicht der einzige Grund – dazu kommen alte Schulden und eine geplatzte Fusion mit Shutterstock.

🧵 Der rote Faden (18:48) — die KI macht Fehler, aber Schuld übernimmt sie keine – das tun Menschen. Firmen rüsten sich, wie PostFinance. Doch je mehr die KI liefert, etwa ein Dashboard mit 50 Diagrammen, desto schwerer wird es, sie wirklich zu prüfen.

📱 Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904

🌐 werchota.ai

KI-Neandertaler — KI-News für Menschen, nicht für Roboter. Bleib neugierig. Bleib menschlich.