Aber wie kann das Land Kärnten nun eine künstliche Intelligenz lokal betreiben? Das wird mit dem Einsatz von Open-Source-Modellen erreicht. Und zwar kommt unter anderem Mixtral der französischen Firma Mistral zum Einsatz sowie Llama 2, das Modell von Facebook-Mutter Meta, wie Inzko gegenüber dem STANDARD erklärt. Dass das Land dafür noch Rechenleistung aufbauen muss, ist kein Geheimnis. Aktuell erlaubt der Probebetrieb auch nur 100 gleichzeitige Zugriffe auf die Anwendung, das System läuft derzeit also noch auf Sparflamme.

Aktuell wird KärntenGPT mit Daten gefüttert. Diese werden direkt auf den Rechnern im Rechenzentrum des Landes Kärnten gespeichert. Eingespeist werden nur Daten, die öffentlich sind und den Bürgerinnen und Bürgern zur Verfügung stehen sollen. "Es werden keine sensiblen Daten verwendet", so Inzko.