KI-Slop legte Apples 200.000-Dollar-Bug-Bounty lahm

Die Grenze, die 200.000 Dollar kostete

KI ist ein Cybersicherheitsrisiko -- nur nicht so, wie die meisten Menschen denken. Apple beginnt damit, die Anzahl der Fehlermeldungen zu begrenzen, die Sicherheitsforscher einreichen können, und führt eine 30-tägige Abkühlphase zwischen den Einreichungen ein. Der Grund ist kein Mangel an Schwachstellen. Es ist eine Flut von KI-generierten Berichten, so schlecht, dass sie die echten überlagern.

Laut einem Bericht der Financial Times wird das Bug-Bounty-Programm von Apple von qualitativ minderwertigen, KI-fabrizierten Sicherheitsberichten überrollt. Halluzinierte Sicherheitslücken. Gefälschte Exploits. Berichte, die echt genug aussehen, um eine menschliche Überprüfung zu erfordern, aber vollständig erfunden sind. Das Volumen wurde so hoch, dass Apple Einreichungsobergrenzen pro Forscher einführen musste.

Dann zeigte sich der wahre Preis.

Die eine, die durchrutschte

Das italienische Cybersicherheits-Startup Bynario nutzte ChatGPT, um eine echte macOS-Sicherheitslücke zu entdecken -- von der Art, die einem Angreifer die vollständige Kontrolle über einen Zielcomputer gibt. CEO Alfredo Pesoli schätzt den Schwarzmarktwert der Schwachstelle auf 100.000 bis 200.000 Dollar. Ein ernstzunehmender Fund.

Aber Bynario konnte ihn nicht melden. Apple hatte weitere Einreichungen vom Konto des Unternehmens blockiert, weil die Obergrenze erreicht war.

Die Ironie schreibt sich von selbst. Bynario nutzte ein KI-Tool, um eine echte Sicherheitslücke zu finden, aber dieselbe Art von KI-generiertem Inhalt -- weniger kompetent, aber unendlich zahlreicher -- hatte die Pipeline bereits so gründlich verstopft, dass die echte Entdeckung nicht durchkam. Apple hat inzwischen Kontakt mit Bynario aufgenommen und überprüft die Sicherheitslücke. Aber die Tatsache, dass sie überhaupt durchrutschte, ist ein Warnsignal dafür, was passiert, wenn KI-Slop auf Sicherheitsinfrastruktur trifft.

KI gegen KI: Apple bekämpft Feuer mit Feuer

Apple sitzt nicht untätig daneben. Das Unternehmen selbst verwendet KI-Modelle von Anthropic und OpenAI, um intern nach Schwachstellen zu suchen. Die neueste Runde von Sicherheitsupdates enthielt fünfmal so viele Korrekturen wie üblich -- ein Zeichen dafür, dass die KI-gesteuerte Erkennungspipeline Ergebnisse liefert, zumindest wenn die KI vom Plattformbetreiber und nicht von externen Forschern eingesetzt wird.

Aber das schafft eine seltsame Dynamik. Apple profitiert von KI-gestützter Schwachstellenerkennung, wenn es die Werkzeuge kontrolliert. Es wird überwältigt, wenn dieselbe Technologie von Außenstehenden eingesetzt wird -- selbst von gutwilligen. Der Unterschied zwischen KI als Sicherheitswerkzeug und KI als Sicherheitsproblem hängt fast ausschließlich davon ab, wer den Prompt in der Hand hält.

Die größere Frage für Bug-Bounties

Rafe Pilling von Sophos sagte der FT, dass sich Bug-Bounty-Programme vom Finden von Schwachstellen zur Validierung "mit Maschinengeschwindigkeit" verschoben haben. Die Aufgabe des menschlichen Forschers besteht nicht mehr darin, Schwachstellen zu entdecken, sondern zu beweisen, dass KI-generierte Funde real sind -- einzeln, Stück für Stück.

Das wirft unbequeme Fragen auf, ob traditionelle Bug-Bounty-Modelle überleben können. Wenn das Verhältnis von falschen zu echten Berichten weiter steigt, geben Plattformen entweder mehr für die Sichtung aus oder behandeln jede Einreichung als verdächtig. Beide Wege entwerten das Wertversprechen für legitime Forscher. Und wie der Fall Bynario zeigt, sind nicht die Plattformen am stärksten betroffen, sondern die Forscher, die tatsächlich etwas finden, das sich zu melden lohnt.

Eine nuancierte Betrachtung

Das Problem der KI-generierten Berichte ist real, aber es ist kein Todesurteil für Bug-Bounties. Apples Obergrenze ist ein stumpfes Instrument, und das Unternehmen hat gezeigt, dass es bereit ist, bei direkter Kontaktaufnahme Lösungen zu finden (wie im Fall Bynario). Das tiefere Problem -- dass KI es trivial billig macht, Sicherheitstheater in großem Maßstab zu produzieren -- müssen alle großen Plattformen lösen. Bessere automatisierte Sichtung, reputationsbasierte Einreichungssysteme und KI-zu-KI-Verifikationspipelines werden derzeit erforscht. Aber vorerst lag eine 200.000-Dollar-Sicherheitslücke im Limbo, weil der Posteingang zu voll mit Unsinn war, um sie zu sehen.

Quellen

• The Decoder: A real macOS flaw worth $200K went unreported because Apples bug bounty inbox was full of AI slop
• Financial Times (via The Decoder): Apple struggles to keep pace with AI bug hunters
• Firstpost: Apple caps AI-generated security reports after flood of Fake Vulnerabilities
• iPhone in Canada: Apple Caps Bug Reports After Surge in Fake AI Security Flaws
• Tech Edition: AI uncovers Apple security flaws faster than Apple can review them