Diese Person hatte keine Ahnung, was sie gebaut hatte oder welche Konsequenzen das haben könnte. Die Daten lagen nicht nur offen da: sie wurden auf einem US-Server ohne Auftragsverarbeitungsvertrag unverschlüsselt gespeichert, Sprachaufnahmen wurden an grosse US-amerikanische AI-Unternehmen gesendet, und ich wurde nie darüber informiert. So geht man nicht mit medizinischen Patientendaten um.
The Rejection of Artificially Generated Slop (RAGS)
[ERROR 406i: AI_SLOP_DETECTED]
This document specifies the standard protocol for handling and discarding low-effort, machine-generated contributions submitted to source code repositories, issue trackers, vulnerability reporting portals, and community forums, be they public open-source projects or internal corporate monoliths.
In den nächsten 13 Jahren gehen 44 Prozent der öffentlich Bediensteten in Pension. Jahrzehntelange Expertise droht verloren zu gehen, der Fachkräftemangel wächst, und gleichzeitig steigen die Anforderungen an Tempo, Qualität und Effizienz. KI ist die Schlüsseltechnologie, um staatliche Handlungsfähigkeit, Wettbewerbsfähigkeit und Innovation langfristig sicherzustellen.
Public AI bündelt alle KI-Vorhaben der Bundesverwaltung unter einer gemeinsamen Dachmarke. Die technische Basis von Public AI ist eine gemeinsame souveräne KI-Infrastruktur des Bundesrechenzentrums, die ressortübergreifend nutzbar ist und als Shared Service weiterentwickelt wird. Ziel ist ein koordinierter Ansatz statt vieler paralleler Einzellösungen.
Notwendig geworden ist die Maßnahme auch, da in den nächsten 13 Jahren 44 Prozent der öffentlich Bediensteten in Pension gehen.
Die Regierung will diesen Abgang und den damit drohenden Fachkräftemangel durch die Verwendung von KI abfedern. Geeinigt hat man sich bei einem „KI-Konklave“ auf fünf konkrete Anwendungen unter dem Namen „Public AI“.
Allen Bundesbediensteten soll etwa künftig das KI-Tool GovGPT zur Verfügung stehen. Mitarbeiterinnen und Mitarbeiter können damit Texte erstellen, Dokumente zusammenfassen und eigene Wissensdatenbanken aufbauen.
Auch der elektronische Akt wird mit KI-Funktionen ausgestattet. Damit können Bedienstete künftig Fragen zu ganzen Aktenbestände stellen und erhalten sofort eine strukturierte Zusammenfassung.
Das Tool KAPA unterstützt die Ministerien bei der Beantwortung parlamentarischer Anfragen, deren Zahl in den vergangenen Jahren gestiegen ist.
In the past three, we’ve gone from casual users freaking out about their first encounters with ChatGPT to the Pentagon staging industrial-strategy-level fights over whether fully autonomous A.I.s can be deployed in war zones without any human oversight. In the next three? Those exponential curves may not bring us to a new godhead, but the genie doesn’t exactly look like it’s going back in the bottle, either. And those hoping to play a more active role in shaping the future that it’s conjuring will probably have to do more than stop ground from being broken for a few new data centers.
The command line is hot again. For some people, command lines were never not hot, of course, but it’s becoming more common now in the age of AI. Google launched a Gemini command-line tool last year, and now it has a new AI-centric command-line option for cloud products. The new Google Workspace CLI bundles the company’s existing cloud APIs into a package that makes it easy to integrate with a variety of AI tools, including OpenClaw. How do you know this setup won’t blow up and delete all your data? That’s the fun part—you don’t.
Ich nenne dieses Phänomen die KI-Fachkompetenzschwelle. Eine Grenze des Vorwissens, unterhalb derer KI-Nutzung nicht nur wirkungslos wird, sondern kontraproduktiv. Unterhalb dieser Schwelle kann ich KI-Output nicht bewerten, keine guten Fragen stellen, keine sinnvollen Ergebnisse erzielen. Und ich merke es nicht. Denn der Output sieht überzeugend aus. Wie eine professionelle Website über einen Baum-Oktopus. Nur ohne Sasquatch.
Die Schwelle, die schon zu niedrig war, sinkt weiter. Wer KI nutzt, ohne genug zu wissen, merkt nicht, dass er zu wenig weiß, und baut dabei weniger Wissen auf als ohne KI. Das ist kein Leerlauf. Das ist ein Teufelskreis.
Die psychologischen und sozialen Ursachen für problematische Nutzungsweisen von KI-Systemen sind vielfältig. Ein zentraler Faktor ist der sogenannte Automations-Bias: Die flüssige, selbstbewusst wirkende Sprache der KI vermittelt Autorität und nimmt Nutzern komplexe Aufgaben ab. Dadurch sinkt die Bereitschaft, Antworten kritisch zu hinterfragen – insbesondere, wenn sie schnell und kostenlos verfügbar sind.
Hinzu kommt der ausgeprägte Anthropomorphismus vieler Anwender. Sie schreiben Chatbots menschliche Eigenschaften zu und suchen bei ihnen besagte emotionale Unterstützung. Insbesondere einsame Menschen können dadurch in eine Form der Abhängigkeit geraten.