Leistungen · Bauen

KI-Sicherheitsaudit und Red Teaming für Vibe-Coding-Apps und KI-Agenten

Vibe-Coding-Apps, Web-Apps und KI-Agenten mit Ihrer Freigabe prüfen: Zugriffsregeln, offene Zugangsdaten, Prompt Injection und Missbrauch von Werkzeugen.

Apps aus Lovable, Bolt oder Cursor gehen schnell live. KI-Agenten lesen E-Mails, Dokumente und Websites und rufen Werkzeuge auf. Beides schafft Angriffsflächen, die im Alltag niemand bemerkt: Schlüssel im ausgelieferten Code, fehlende Zugriffsregeln, ein Agent, der einer versteckten Anweisung folgt. Wir suchen sie so, wie es ein Angreifer tun würde – nur mit Ihrer schriftlichen Freigabe und in einem vereinbarten Umfang.

Der erste Schritt

Angriffsflächen-Check: Wir lesen mit searchcode.ai, einem Partnerprojekt aus unserem Research Lab, was Ihre Website und App öffentlich ausliefern, ohne gefundene Schlüssel auszuprobieren. Dann klären wir mit Ihnen, worauf App und Agent zugreifen können, und legen schriftlich fest, was wir prüfen dürfen.

Gespräch anfragen

Kunden und Partner

Woher wir Angriffsflächen kennen

Sicherheitsaudits haben wir bereits für Kunden durchgeführt; ihre Namen nennen wir nicht, und die Logos oben stehen für unsere Arbeit insgesamt. Die beiden Karten zeigen, woher wir Angriffsflächen außerdem kennen: Im Research Lab durchsuchen wir Code, den Websites öffentlich ausliefern, finden dabei offen liegende Zugangsdaten und informieren die Betroffenen; daraus ist das Partnerprojekt searchcode.ai entstanden. Und bei Teneo Protocol haben wir die Infrastruktur für ein Netzwerk aus KI-Agenten im Team des Kunden mitgebaut.

Welche Prüfung welche Frage beantwortet

Ein Audit setzt sich bei uns aus bis zu vier Prüfungen zusammen. Welche nötig sind, hängt davon ab, was Ihr System kann und mit welchen Daten es arbeitet:

Ein klassischer Penetrationstest zeigt nicht, was ein Agent mit einem präparierten Dokument macht, und Red Teaming für Agenten findet keine offene Datenbanktabelle. Deshalb stellen wir die Prüfungen nach Ihrem System zusammen, nicht nach einem Paket.

Vibe-Coding-Apps aus Lovable, Bolt oder Cursor

KI-Werkzeuge bauen Funktionen schnell, sichern sie aber nicht zuverlässig von selbst ab. Was wir bei solchen Apps zuerst prüfen:

Auch Web-Apps, Schnittstellen und Shops, die ohne KI entstanden sind, prüfen wir auf diese Punkte, soweit sie dort zutreffen. Bei Shops auf einer Plattform wie Shopify liegt ein Teil der Sicherheit beim Anbieter; dafür kommen eigene Fragen dazu, etwa Apps, die fremden Code ausliefern, oder Kartentests mit gestohlenen Kreditkarten.

Red Teaming für KI-Agenten und LLM-Anwendungen

Ein Agent, der fremde Texte liest und Werkzeuge aufruft, lässt sich mit Text angreifen. Wir prüfen:

Weil ein Sprachmodell nicht jedes Mal gleich antwortet, wiederholen wir jeden Angriff und halten im Bericht fest, wie oft er gelungen ist. Als Gliederung dienen uns die OWASP Top 10 für LLM-Anwendungen.

Erst die Freigabe, dann der Test

Über das hinaus, was Ihre Website und App ohnehin öffentlich ausliefern, prüfen wir nur, was Sie uns schriftlich freigeben. Wer sich ohne Berechtigung Zugang zu fremden, besonders gesicherten Systemen oder Daten verschafft, kann sich in der Schweiz (Art. 143bis StGB), in Österreich (§ 118a StGB) und in Deutschland (§ 202a StGB) strafbar machen. Deshalb beginnt jeder Test mit einer schriftlichen Freigabe der Person, die über das System verfügen darf. Darin steht:

Last- und Überlastungstests machen wir nicht, und ohne Freigabe testen wir keine fremden Apps oder Agenten. Stoßen wir im öffentlichen Web auf offen liegende Zugangsdaten, informieren wir die Betroffenen.

Wie wir arbeiten

Ein Audit folgt bei uns fünf Schritten:

  1. Angriffsflächen-Check und Freigabe

    Der Blick von außen, ein Gespräch über Ihr System und der schriftlich festgelegte Umfang.

  2. Prüfen

    Code lesen, die laufende App testen, den Agenten angreifen. Jeden Fund vollzieht ein Mensch nach, auch wenn ihn ein KI-Agent gefunden hat. Kritische Funde melden wir Ihrem Notfallkontakt, sobald wir sie bestätigt haben, und warten damit nicht auf den Bericht.

  3. Bericht

    Für jeden Fund: wo er liegt, wie er sich nachstellen lässt, was er bewirken kann, wie dringend er ist und wie er sich beheben lässt. Dazu eine Zusammenfassung für die Geschäftsleitung und eine Liste dessen, was nicht geprüft wurde.

  4. Beheben

    Durch Ihr Team, einen Dienstleister Ihrer Wahl oder – als eigener Auftrag – durch uns.

  5. Nachtest

    Wir prüfen, ob die Funde wirklich behoben sind, und halten das im Bericht fest.

Was zu tun ist, wenn jemand von außen eine Lücke meldet, beschreibt unser Beitrag Gemeldete Sicherheitslücke.

Was das Audit nicht ist

Damit Sie wissen, woran Sie sind:

Für wen

Für Gründerinnen, Gründer und Teams, deren App mit KI-Werkzeugen entstanden ist und bald echte Kundendaten verarbeitet oder Zahlungen annimmt. Für Unternehmen, in denen Fachabteilungen mit KI eigene Werkzeuge bauen. Und für alle, die einen Chatbot oder Agenten betreiben, der fremde Texte liest oder Werkzeuge aufruft – auch wenn ihn jemand anderes gebaut hat.

Wenn die Prüfung zeigt, dass ein Neubau der bessere Weg ist, übernehmen wir ihn als Individualsoftware. Den Rahmen, in dem ein Agent verlässlich arbeitet, bauen wir mit der KI-Harness-Architektur.

Wo wir arbeiten

Wir sind zwischen Zürich, Vorarlberg, Basel, Hongkong und Kapstadt unterwegs und prüfen remote – mit Lesezugriff auf das Repository, Testkonten und schriftlicher Freigabe – für Unternehmen in der Schweiz, in Österreich und in Deutschland.

Sie wollen wissen, wo Ihre App oder Ihr Agent angreifbar ist, bevor es jemand anderes herausfindet? Der erste Schritt: Angriffsflächen-Check.

Gespräch anfragen

Häufige Fragen

Wie sicher ist eine App aus Lovable, Bolt oder Cursor?

Das hängt weniger vom Werkzeug ab als davon, wie die App eingerichtet ist. Häufige Lücken sind fehlende Zugriffsregeln in der Datenbank, Schlüssel im ausgelieferten Code und Prüfungen, die nur im Browser laufen. Die Sicherheitsprüfungen, die manche dieser Werkzeuge inzwischen mitbringen, sind ein guter Anfang. Wir ergänzen sie um einen Test der laufenden App mit zwei Testkonten, bei dem ein Mensch die Abläufe Ihres Geschäfts nachvollzieht, etwa das Freischalten nach einer Zahlung.

Was brauchen Sie von uns, bevor Sie prüfen?

Eine schriftliche Freigabe der Person, die über das System verfügen darf, mit Umfang, Zeitraum und Ausschlüssen. Dazu Lesezugriff auf das Repository, Testkonten, bei Agenten einen eigenen Schlüssel für das Sprachmodell mit Kostengrenze und einen Notfallkontakt. Wo wir personenbezogene Daten sehen könnten, schließen wir vorher einen Vertrag zur Auftragsverarbeitung, in der Schweiz zur Auftragsbearbeitung. Was wir nicht prüfen konnten, steht später im Bericht.

Ersetzt das Audit einen zertifizierten Penetrationstest?

Nein. Wir vergeben kein Siegel und stellen keinen Nachweis aus, wie ihn eine Norm, eine Versicherung oder ein Großkunde verlangen kann. Das Audit ist für Teams, die wissen wollen, wo ihre App oder ihr Agent angreifbar ist: Jeden Fund vollzieht ein Mensch nach, und der Bericht zeigt, wie er sich nachstellen und beheben lässt.

Wohin gehen unser Code und unsere Daten, wenn Sie mit KI prüfen?

Welche Modellanbieter Ihren Code sehen, legen wir vor Beginn mit Ihnen fest. Unsere Agenten setzen wir nur gegen die Systeme ein, die Sie freigegeben haben, und testen dort mit Testkonten und Testdaten.

Beheben Sie die Funde auch?

Auf Wunsch ja, als eigener Auftrag – oder Ihr Team oder ein Dienstleister Ihrer Wahl übernimmt es. Danach prüfen wir in einem Nachtest, ob die Funde wirklich behoben sind. Laufender Betrieb und Wartung gehören nicht dazu.

Was passiert, wenn schon Daten offen lagen?

Dann melden wir das Ihrem Notfallkontakt, sobald wir es bestätigt haben. Geschlossen wird die Lücke von Ihrem Team, einem Dienstleister Ihrer Wahl oder – als eigener Auftrag – von uns; die Protokolle sollten dabei gesichert bleiben, damit sich klären lässt, ob jemand auf die Daten zugegriffen hat. Ob und wem Sie den Vorfall melden müssen, klären Sie mit Ihrer Rechts- und Datenschutzberatung; die Fristen dafür sind kurz. Einen geordneten Ablauf beschreibt unser Beitrag Gemeldete Sicherheitslücke.

Weiterlesen

Sie wollen wissen, wo Ihre App oder Ihr Agent angreifbar ist, bevor es jemand anderes herausfindet?

Beschreiben Sie kurz, was Ihre App oder Ihr Agent kann und welche Daten dabei im Spiel sind. Zugangsdaten schicken Sie uns bitte weder über dieses Formular noch per E-Mail – alles Weitere klären wir im Angriffsflächen-Check.

Schreiben Sie uns: [email protected] – wir lesen alles.

Ihr Ansprechpartner: Frederic Nachbauer, Mitgründer und Geschäftsführer (LinkedIn)

Wir verwenden Ihre Angaben nur, um Ihre Anfrage zu beantworten – mehr dazu im Datenschutzhinweis.