The Trump administration has been heavily invested in consolidating all of the government’s information into a single searchable, or perhaps AI-queryable, super database. The compiling of all of this information is being done with the dubious justification of efficiency and modernization–however, in many cases, this information was originally siloed for important reasons: to protect your privacy, to prevent different branches of government from using sensitive data to punish or harass you, and to perserve the trust in and legitimacy of important civic institutions.

Die Konferenz der schweizerischen Datenschutzbeauftragten, Privatim, hat in einer Resolution die Einsetzbarkeit internationaler Cloud-Dienste – insbesondere Hyperscaler wie AWS, Google oder Microsoft – für eidgenössische Behörden massiv eingeschränkt. Im Kern läuft die Entschließung vom Montag auf ein faktisches Verbot der Nutzung dieser Dienste als umfassende Software-as-a-Service (SaaS)-Lösungen hinaus, sobald besonders schützenswerte oder gesetzlich geheimhaltungspflichtige Personendaten im Spiel sind. Größtenteils dürften Ämter Anwendungen wie das verbreitete Microsoft 365 damit nur noch als Online-Speicher verwenden.

Die psychologischen und sozialen Ursachen für problematische Nutzungsweisen von KI-Systemen sind vielfältig. Ein zentraler Faktor ist der sogenannte Automations-Bias: Die flüssige, selbstbewusst wirkende Sprache der KI vermittelt Autorität und nimmt Nutzern komplexe Aufgaben ab. Dadurch sinkt die Bereitschaft, Antworten kritisch zu hinterfragen – insbesondere, wenn sie schnell und kostenlos verfügbar sind.

Hinzu kommt der ausgeprägte Anthropomorphismus vieler Anwender. Sie schreiben Chatbots menschliche Eigenschaften zu und suchen bei ihnen besagte emotionale Unterstützung. Insbesondere einsame Menschen können dadurch in eine Form der Abhängigkeit geraten.