Produktionsreife-Check für KI-gebaute Anwendungen

Zugriff

Kommt jemand ohne Anmeldung an Ihre Daten?

Erledigt, wenn: Jemand hat es ausprobiert, der die Anwendung nicht selbst gebaut hat - auch am Anmeldefenster vorbei, direkt über die Adressen, die die Anwendung im Hintergrund aufruft. Ohne Anmeldung kommen keine Daten heraus.
Offen, wenn: Es gibt eine Anmeldeseite. Ob die Daten dahinter auch geschützt sind, hat niemand geprüft.
Warum das zählt: KI-Werkzeuge bauen oft eine Anmeldeseite, aber keine Prüfung dahinter. Wer die richtige Adresse kennt, kommt dann ohne Passwort an die Daten.

Sieht jeder nur das, was er sehen darf?

Erledigt, wenn: Es gibt Rollen, und die Anwendung prüft sie bei jeder Abfrage - nicht nur, indem sie Knöpfe ausblendet. Jemand hat mit zwei verschiedenen Konten ausprobiert, ob man an fremde Datensätze kommt.
Offen, wenn: Alle sehen alles, oder die Einschränkungen gibt es nur in der Oberfläche.
Warum das zählt: Ein ausgeblendeter Knopf schützt nichts. Wer eine Nummer in der Adresszeile ändert, sieht sonst den Auftrag eines anderen Kunden.

Stehen Passwörter oder Zugangsschlüssel im Code?

Erledigt, wenn: Die Schlüssel zu Datenbank, Zahlungsdienst oder KI-Dienst liegen nur auf dem Server - nicht im Code, den der Browser lädt, und nicht in älteren Ständen des Codes.
Offen, wenn: Das weiß niemand genau, oder die Schlüssel stehen direkt im Programm.
Warum das zählt: Was im Browser ankommt, kann jeder Besucher lesen. Ein Schlüssel zum KI-Dienst, der dort steht, wird auf Ihre Rechnung benutzt.

Was passiert mit den Zugängen, wenn jemand das Unternehmen verlässt?

Erledigt, wenn: Jeder hat ein eigenes Konto - in der Anwendung, im Werkzeug, mit dem sie gebaut wurde, und bei den Diensten, auf denen sie läuft. Es gibt einen festen Ablauf, wer welche Zugänge sperrt.
Offen, wenn: Mehrere Leute teilen sich ein Konto, oder die Zugänge hängen an einer privaten E-Mail-Adresse.
Warum das zählt: Der häufigste offene Zugang ist der eines Mitarbeiters, der seit zwei Jahren weg ist.

Wissen Sie, wohin die Daten Ihrer Kunden gehen?

Erledigt, wenn: Es ist aufgeschrieben, welche fremden Dienste Daten bekommen - Datenbank, Server, KI-Dienst, E-Mail-Versand - und wo sie ihren Sitz haben. Ihr Datenschutzbeauftragter kennt die Liste.
Offen, wenn: Die Anwendung schickt Texte an einen KI-Dienst, aber niemand hat geprüft, was darin steht und wo es landet.
Warum das zählt: Welche Dienste die Anwendung nutzt, hat im Zweifel das Werkzeug entschieden, nicht Sie.

Wann haben Sie das letzte Mal ein Backup tatsächlich zurückgespielt?

Erledigt, wenn: Es gibt ein Backup auch außerhalb des Dienstes, auf dem die Anwendung läuft, und es wurde mit den echten Daten zurückgespielt.
Offen, wenn: Der Anbieter macht wohl Backups, aber zurückgespielt wurde noch nie.
Warum das zählt: Ein Backup, das nie geprüft wurde, ist eine Annahme und keine Sicherung.

Lassen Sie uns über Ihre Anforderungen sprechen. Gespräch vereinbaren →

Wird eine Änderung ausprobiert, bevor alle damit arbeiten?

Erledigt, wenn: Es gibt eine Testfassung mit eigenen Daten. Änderungen laufen dort zuerst, und jemand prüft die wichtigsten Abläufe, bevor sie in die echte Anwendung gehen.
Offen, wenn: Geändert wird direkt in der Anwendung, mit der alle arbeiten.
Warum das zählt: Wer der KI sagt „bau das um“, bekommt oft mehr geändert als verlangt. Ohne Testfassung merkt man das erst im Alltag.

Kommen Sie zum Stand von gestern zurück?

Erledigt, wenn: Jede Änderung ist gespeichert, und ein früherer Stand lässt sich wiederherstellen - vom Programm und von den Daten.
Offen, wenn: Es gibt nur den aktuellen Stand, oder zurück geht es nur, indem man die KI bittet, alles wieder rückgängig zu machen.
Warum das zählt: Wenn nach einer Änderung etwas nicht mehr geht, ist der schnellste Weg zurück der Stand, der vorher lief.

Wenn etwas schiefgeht - wer merkt es, und wann?

Erledigt, wenn: Die Anwendung meldet Fehler selbst, an eine Adresse, die jemand liest.
Offen, wenn: Es fällt auf, wenn sich jemand beschwert.
Warum das zählt: Der teuerste Fehler ist nicht der laute, sondern der, der drei Monate unbemerkt läuft.

Wer behält die laufenden Kosten im Blick?

Erledigt, wenn: Es ist bekannt, welche Dienste monatlich abgerechnet werden und über welche Karte. Für die Dienste, die nach Nutzung abrechnen, gibt es eine Obergrenze oder eine Warnung.
Offen, wenn: Die Rechnungen laufen über eine private Kreditkarte, oder niemand weiß, was bei doppelt so vielen Nutzern passiert.
Warum das zählt: KI-Dienste rechnen nach Nutzung ab. Ein Fehler im Programm oder ein fremder Zugriff zeigt sich zuerst auf der Rechnung.

Versteht jemand, wie die Anwendung aufgebaut ist?

Erledigt, wenn: Mindestens eine Person kann erklären, wo welche Daten liegen und wie die Teile zusammenhängen - ohne dafür die KI zu fragen.
Offen, wenn: Die Anwendung ist aus vielen Anweisungen an die KI entstanden, und den Code hat niemand gelesen - auch nicht, wer sie gebaut hat.
Warum das zählt: Solange alles läuft, fällt das nicht auf. Beim ersten Fehler, den die KI nicht selbst beheben kann, schon.

Wenn morgen jemand anderes weiterbauen soll - was findet er vor?

Erledigt, wenn: Der Code liegt an einem Ort, auf den das Unternehmen Zugriff hat, und lässt sich aus dem Werkzeug herausholen, mit dem er gebaut wurde. Es ist aufgeschrieben, welche Dienste daran hängen und was sie kosten.
Offen, wenn: Der Code liegt im persönlichen Konto eines Mitarbeiters oder nur im Werkzeug selbst, und niemand hat versucht, ihn dort herauszuholen.
Warum das zählt: Dieser Punkt entscheidet, ob eine Anwendung ein Vermögenswert ist oder ein offener Posten.