Die psychologischen und sozialen Ursachen für problematische Nutzungsweisen von KI-Systemen sind vielfältig. Ein zentraler Faktor ist der sogenannte Automations-Bias: Die flüssige, selbstbewusst wirkende Sprache der KI vermittelt Autorität und nimmt Nutzern komplexe Aufgaben ab. Dadurch sinkt die Bereitschaft, Antworten kritisch zu hinterfragen – insbesondere, wenn sie schnell und kostenlos verfügbar sind.

Hinzu kommt der ausgeprägte Anthropomorphismus vieler Anwender. Sie schreiben Chatbots menschliche Eigenschaften zu und suchen bei ihnen besagte emotionale Unterstützung. Insbesondere einsame Menschen können dadurch in eine Form der Abhängigkeit geraten.