KI-generierten Code prüfen lassen: Audit-Checkliste für Unternehmen

KI-generierten Code prüfen lassen: Audit-Checkliste zu Zugriffsrechten, Geheimnissen, Abhängigkeiten, Tests und Datenschutz für KI-Apps.

Kurze Antwort

KI-generierter Code sieht oft sauber aus, hat aber typische Schwachstellen bei Zugriffsrechten, Geheimnissen, Eingabeprüfung, Abhängigkeiten und Fehlerbehandlung. Ein strukturiertes Audit prüft diese Bereiche systematisch, bewertet Risiken nach Schwere und liefert konkrete Korrekturen, bevor die Anwendung mit echten Nutzerdaten in Betrieb geht.

Inhalt
  1. Warum KI-Code ein eigenes Audit braucht
  2. Bereich 1: Authentifizierung und Zugriffsrechte
  3. Bereich 2: Geheimnisse und Konfiguration
  4. Bereich 3: Eingabeverarbeitung
  5. Bereich 4: Abhängigkeiten
  6. Bereich 5: Fehlerbehandlung und Betrieb
  7. Bereich 6: Datenschutz
  8. Bereich 7: Wartbarkeit
  9. Wie die Befunde bewertet werden
  10. Selbst prüfen oder prüfen lassen?
  11. FAQ
  12. Tools aus dem jocapps-Ökosystem

Warum KI-Code ein eigenes Audit braucht

Code aus Coding-Agenten und App-Baukästen hat eine besondere Eigenschaft: Er ist fast immer lesbar, gut formatiert und plausibel kommentiert. Das erzeugt Vertrauen, das nicht immer gerechtfertigt ist. Die Modelle schreiben, was am wahrscheinlichsten zur Aufgabe passt, und sicherheitsrelevante Details wie Zugriffsregeln oder Eingabeprüfung sind selten Teil der ursprünglichen Beschreibung.

Hinzu kommt, dass viele KI-Apps von Menschen gebaut werden, die das Ergebnis funktional testen, aber nicht technisch beurteilen können. Das ist legitim, verlangt aber vor dem produktiven Einsatz eine unabhängige Prüfung. Die folgende Checkliste ist so aufgebaut, wie wir Audits strukturieren: nach Risikobereichen, jeweils mit den häufigsten Befunden bei KI-generiertem Code.

Bereich 1: Authentifizierung und Zugriffsrechte

Der kritischste Bereich, weil Fehler hier direkt zu Datenabflüssen führen.

  • Werden Berechtigungen serverseitig durchgesetzt oder nur in der Oberfläche versteckt?
  • Haben alle Datenbanktabellen Zugriffsregeln, etwa Row Level Security bei Supabase, und sind diese Regeln tatsächlich restriktiv?
  • Kann ein angemeldeter Nutzer durch Ändern einer ID in der URL oder Anfrage auf fremde Datensätze zugreifen?
  • Sind Admin-Funktionen über eigene Rollen geschützt?
  • Laufen Passwort-Reset und Einladungslinks ab?

Typischer Befund: Tabellen mit aktivierter Row Level Security, aber einer Policy, die jedem angemeldeten Nutzer alles erlaubt.

Bereich 2: Geheimnisse und Konfiguration

  • Liegen API-Schlüssel, Datenbankpasswörter oder Tokens im Frontend-Code oder im Repository?
  • Werden Schlüssel mit weitreichenden Rechten, etwa Service-Role-Schlüssel, nur serverseitig verwendet?
  • Gibt es in der Git-Historie Geheimnisse, die zwar gelöscht, aber nie ausgetauscht wurden?
  • Sind Umgebungen sauber getrennt, oder nutzen Entwicklung und Produktion dieselbe Datenbank?

Typischer Befund: Ein KI-API-Schlüssel im Browser-Code, mit dem Dritte auf Kosten des Unternehmens Anfragen stellen können.

Bereich 3: Eingabeverarbeitung

  • Werden Eingaben serverseitig validiert, nicht nur im Formular?
  • Sind Datenbankabfragen parametrisiert?
  • Werden Uploads nach Typ und Größe geprüft und sicher gespeichert?
  • Wird nutzergenerierter Inhalt beim Anzeigen korrekt maskiert?
  • Bei KI-Funktionen: Ist die Anwendung gegen Prompt Injection abgesichert, etwa wenn Dokumente von Nutzern in Prompts landen?

Bereich 4: Abhängigkeiten

  • Gibt es bekannte Schwachstellen in eingebundenen Paketen?
  • Existieren alle Pakete wirklich und stammen sie aus vertrauenswürdigen Quellen? KI-Modelle schlagen gelegentlich Paketnamen vor, die es nicht gibt oder die Tippfehlern bekannter Pakete ähneln.
  • Sind Versionen festgelegt, sodass Builds reproduzierbar sind?
  • Werden ungenutzte Abhängigkeiten mitgeschleppt?

Bereich 5: Fehlerbehandlung und Betrieb

  • Zeigen Fehlermeldungen interne Details wie Stacktraces oder Datenbankstrukturen?
  • Werden Fehler protokolliert, und landen dabei personenbezogene Daten in Logs?
  • Gibt es Backups, und wurde eine Wiederherstellung jemals getestet?
  • Existiert ein Rate Limiting für Login, teure Endpunkte und KI-Aufrufe?

Bereich 6: Datenschutz

  • Welche personenbezogenen Daten werden gespeichert, und ist das im Verzeichnis der Verarbeitungstätigkeiten erfasst?
  • Werden Daten an KI-Anbieter übermittelt, und gibt es dafür eine Rechtsgrundlage und einen Auftragsverarbeitungsvertrag?
  • Können Nutzer ihre Daten exportieren und löschen?
  • Werden Testdaten aus echten Kundendaten erzeugt?

Gerade beim letzten Punkt und bei der Übermittlung an KI-Dienste hilft eine lokale Anonymisierung. Textwash Pro entfernt personenbezogene Daten offline oder als Schutzschicht vor ChatGPT und Claude, sodass etwa Supportanfragen oder Dokumente verarbeitet werden können, ohne Klardaten zu übermitteln. Mehr dazu im Beitrag zur DSGVO-konformen KI-App-Entwicklung.

Bereich 7: Wartbarkeit

  • Gibt es automatisierte Tests für die wichtigsten Abläufe?
  • Ist die Struktur nachvollziehbar, oder existieren dieselben Funktionen mehrfach in leicht abweichenden Varianten?
  • Gibt es eine AGENTS.md oder CLAUDE.md, die künftigen Agenten und Menschen die Regeln des Projekts erklärt?
  • Kann die Anwendung ohne den ursprünglichen Ersteller gebaut und deployt werden?

Wie die Befunde bewertet werden

SchwereBeispielEmpfehlung
KritischFremde Daten abrufbar, Geheimnis öffentlichVor jedem weiteren Betrieb beheben
HochFehlende serverseitige Validierung, kein Rate LimitingVor dem öffentlichen Launch beheben
MittelVeraltete Abhängigkeiten ohne bekannte Ausnutzung, fehlende TestsIn den nächsten Wochen einplanen
NiedrigCodeduplikate, uneinheitliche BenennungBei Gelegenheit verbessern

Selbst prüfen oder prüfen lassen?

Einige Punkte lassen sich mit Werkzeugen selbst prüfen: Schwachstellenscanner für Abhängigkeiten, Secret-Scanner für das Repository, Linter. Coding-Agenten können ebenfalls helfen, etwa indem sie alle Datenbankzugriffe auflisten. Was diese Werkzeuge nicht leisten, ist die Bewertung im Zusammenhang: Ist diese Policy für dieses Geschäftsmodell ausreichend? Welche Lücke ist wirklich ausnutzbar?

OnlineAppCreator führt solche Audits für Unternehmen und öffentliche Auftraggeber durch. Die AI Code Engineers prüfen Code aus Lovable, Base44, Bolt, Claude Code, Codex oder Cursor nach der beschriebenen Struktur, priorisieren die Befunde und setzen die Korrekturen auf Wunsch direkt um. Für mobile Apps, die danach laufend gepflegt werden sollen, ist apprat.io eine passende Ergänzung.

Ein Audit ist besonders sinnvoll vor dem Store-Launch, siehe Lovable App im App Store veröffentlichen, und bevor eine App wächst, siehe Vibe-Coding-App skalieren. Unser Ansatz: Ein Audit soll keinen Prototyp schlechtreden, sondern ihn tragfähig machen. Wie umfangreich das Audit sein muss, klärt OnlineAppCreator mit Ihnen in einem kurzen Vorgespräch.

FAQ

Wie lange dauert ein Audit von KI-generiertem Code?

Für eine typische Anwendung mit überschaubarem Umfang wenige Tage bis zwei Wochen. Größere Systeme mit vielen Integrationen brauchen entsprechend länger.

Kann ich den Code nicht einfach von einer KI prüfen lassen?

Als erster Schritt ist das sinnvoll und findet offensichtliche Probleme. Für die Bewertung von Zugriffsmodellen und tatsächlicher Ausnutzbarkeit braucht es erfahrene Menschen, die den fachlichen Zusammenhang kennen.

Was brauchen die Prüfer von uns?

Lesezugriff auf das Repository, eine Testumgebung mit Testkonten für alle Rollen und eine kurze Beschreibung der wichtigsten Abläufe und Daten.

Ist ein Audit ein Penetrationstest?

Nein. Ein Code-Audit prüft den Quellcode und die Konfiguration. Ein Penetrationstest greift die laufende Anwendung von außen an. Für kritische Systeme ergänzen sich beide.

Tools aus dem jocapps-Ökosystem

Sie wollen es richtig machen, und schnell?

Sprechen Sie mit unseren AI Code Engineers und KI-Architekten. Im kostenlosen 30-Minuten-Call schauen wir auf Idee, Prototyp oder Roadmap und sagen Ihnen ehrlich, was es zum Launch braucht.

24/7 Telefon-Support auf Deutsch und Englisch.

Kostenloser Call

Kostenloser Intro-Call

Sagen Sie uns, für welche Aufgabe ein KI-Agent Verantwortung übernehmen soll. Wir zeigen, wie Plattform, AI Code Engineers und Betrieb an Ihre Landschaft andocken.

  • 30 Minuten, unverbindlich
  • Ehrlicher Machbarkeits-Check
  • Konkreter nächster Schritt
Lieber direkt sprechen? 24/7 Telefon-Support auf Deutsch und Englisch+49 761 519 751 50