07 Juli 2026 8 min read

Verspätetes Update / Linksammlung 1

Moin,

ihr kennt das mit solchen Projekten: man hat eine eigentlich schöne Idee, dann aber keine Zeit. 🙄 Ich werde jetzt also meine Notizen der letzten Monate durchforsten und hier einfach einen größeren Satz an Links zu Artikeln veröffentlichen - die meisten davon lasse in unkommentiert. Ich hoffe, es bringt euch trotzdem etwas.

Ich fange mit den kommentierten Links und Artikeln an, die ich mit besonders viel Schmunzeln gelesen habe. Am Ende folgt nur noch eine Liste mit Links.

Unter https://www.covertswarm.com/post/ai-guardrails-will-fail-nist-mathematical-proof findet sich eine Zusammenfassung eines Papers, in dem mathematisch nachgewiesen wurde, daß diese wunderbaren Sicherheitsfeatures, mit denen generative KI/LLMs gesichert werden sollen ("Du darfst kein Passwort rausgeben!", vgl. https://gandalf.lakera.ai/) immer scheitern werden. Das Paper dazu ist Apostol Vassilev, “Robust AI Security and Alignment: A Sisyphean Endeavor?” IEEE Security & Privacy, May 2026. DOI: 10.1109/MSEC.2026.3678214. NIST summary: nist.gov.

Spannend wird das in Kombination mit dem KI-Omnibus und https://www.heuking.de/de/news-events/newsletter-fachbeitraege/artikel/ki-omnibus-2026-trilog-einigung-zur-aenderung-des-ai-act-bringt-laengere-fristen-und-weniger-buerokratie.html. Dort heißt es

Auf Anbieterseite erfasst das Verbot dabei nicht nur Systeme mit
entsprechender Zweckbestimmung, sondern auch solche, bei denen [...]
angemessene technische Schutzvorkehrungen zu ihrer zuverlässigen
Verhinderung fehlen.

Tja. Ist diese Kombination nun eher suboptimal, wenn man sich gesetzeskonform verhalten möchte?

Ein weiterer mathematischer Beweis wird unter https://smsk.dev/2026/04/26/ai-cannot-self-improve-and-math-behind-proves-it/ zusammengefaßt. Das Paper selbst ist “On the Limits of Self-Improving in Large Language Models”. Hier wird nachgewiesen, daß eine KI sich nicht eigenständig verbessern kann, nicht spontan über Nacht zur Superintelligenz werden kann. Es benötigt kontinuierlichen Input von Menschen, neuen Input, Originalinput. Dazu gab es schon Artikel über Model Degradation (habe ich gerade nicht zur Hand), aber hier liegt nun ein Beweis vor, daß das unumgänglich ist.

Und zur Frage, ob ein LLM "korrekt" ist möchte ich noch https://social.hackerspace.pl/@aceryz/116709724581841835 zitieren:

*Every* LLM output is a "hallucination". Quite a few of them coincide with what one might expect and are convincing enough to fool most people. Depending on those outputs in almost any kind of decision making is what I call epistemic bankruptcy.

LLMs verstehen nicht, was sie tun. Es sind statistische Modell, Mathematik, Aufgaben aus einem Spezialgebiet der Mathematik, die selbst Mathematiker langweilig finden. Dies über LLMs zu wissen, wäre absolut notwendig, um meine ach so heiß geliebte Aufklärung (nach Kant) weiterzutreiben:

Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines andern zu bedienen. Sapere aude! Habe Muth dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung.

In meinen Augen ist es zwingend notwendig, daß Menschen, die generative KI nutzen wollen, verstehen müssen, daß "die KI" nicht denkt, nicht versteht, sondern nur Wahrscheinlichkeiten von Wortfetzen aneinanderreiht. "Argumentationen" von KI exisitieren nicht, Diskussionen mit ihr nicht möglich. Man kann ihr auch keine Fragen stellen; es sind immer Rechenaufgaben, die ihr gestellt werden. Für einen souveränen und zukunftsweisenden Einsatz von KI muß das verstanden werden.

Stichwort Zukunft. Stichwort Verständnis. Menschen verlernen Denken. Es gibt inzwischen zahlreiche Studien der Wirkung von LLMs auf das Kritische Denken, auf "cerebrale Souveränität", auf unseren Charakter.

Sie verlernen aber nicht nur das Denken, auch Sprache wird durch KI langweilig, eintönig und letztlich gefährlich, wie https://www.theregister.com/software/2026/02/16/semantic-ablation-why-ai-writing-is-boring-and-dangerous/4414930 darstellt. Weil Ausreißer in Formulierungen oder in Sprache weggemittelt werden, kommt eine Standardsprache dort heraus, "vereinfachte" Sprache. Nur leider nicht vereinfacht, sondern vereinheitlicht. Dies kann besonders in Fällen, in denen komplett neue Zusammenhänge von einer KI verarbeitet werden sollen (beispielsweise die Zusammenfassung eines vollkommen neuen rechtlichen Textes oder von etwas mit neuen und mit bestehenden Standards brechenden Ideen) vollkommen nach hinten losgehen (siehe https://rollenspiel.social/@ArneBab/116498114155214261 und https://www.draketo.de/software/ai-translation-evaluated#completely-changed). Das ist eben nicht in dem Modell enthalten. Und wer sich dann blindlings auf "die KI" verläßt.... naja.

So. Genug der Worte. Ab hier sammle ich nur noch Links, die ich gerade noch griffbereit habe. Vielleicht sind die URLs ja aussagekräftig genug, um für einen Klick zu sorgen. :)

So. Das waren jetzt die Links und Artikel der letzten Monate. Es tut mir leid, daß das so unfaßbar viel geworden ist. Die nächsten Posts werden kürzer, versprochen. (Ob das jetzt heißt, daß ich Informationen auslasse, regelmäßiger schreibe oder mein Versprechen breche, tja, das sehen wir dann.)

Zwei Hinweise noch an alle, die bis hier durchgehalten haben:

NUTZT NIEMALS PERSONA! (siehe auch hier, hier und hier)

Nearby Glasses gibt es für Android und iOS.