Auf den Punkt: ChatGPT vertraut Markdown-Links in Web-Zusammenfassungen implizit, was es für Phishing und Prompt-Injektionen ausnutzbar macht.
Sicherheitsforscher haben eine Schwachstelle in ChatGPT offengelegt, die Markdown-Links in Web-Zusammenfassungen ausnutzt, um Prompt-Injektionen durchzuführen und Phishing-Angriffe zu ermöglichen. Das Sicherheitsunternehmen Permiso Security hat die Technik als „ChatGPhish" benannt.
Die Sicherheitsforscher von Permiso Security haben demonstriert, dass die Rendermaschine von chatgpt.com Markdown-Links und Bilder ohne ausreichende Validierung interpretiert. Dies ermöglicht es, Markdown-Syntax in den HTML-Inhalten von Webseiten zu platzieren, die ChatGPT bei der Web-Zusammenfassung einliest.
Für CISOs ist diese Schwachstelle kritisch, da sie einen direkten Angriffsvektor darstellt: Ein Angreifer kann eine bösartige Website mit manipulierten Markdown-Elementen präparieren und ChatGPT-Nutzer dazu bringen, diese Seite zusammenfassen zu lassen. Die eingebetteten Links können dann als Phishing-Köder oder zur Injektion von Anweisungen in den ChatGPT-Dialog genutzt werden, um Nutzer zu Social-Engineering-Angriffen zu verleiten.
Die Sicherheitslücke zeigt eine grundsätzliche Herausforderung bei der Integration von Web-Browsing in KI-Modelle: Die implizite Vertrauensbeziehung zwischen dem Modell und den eingelesenen Inhalten kann von Dritten für Manipulationen missbraucht werden. Besonders problematisch ist dies in Enterprise-Umgebungen, wo ChatGPT für die Recherche sensibler Informationen eingesetzt wird.
Organisationen sollten ihre Nutzer sensibilisieren, ChatGPT nicht zur Analyse von Inhalten aus untrusted Quellen zu nutzen, und erwägen, Web-Zusammenfassungen in risikosensiiblen Kontexten zu deaktivieren, bis OpenAI entsprechende Fixes bereitgestellt hat.
Quelle: thehackernews.com · Erschienen 29. Mai 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.2.0.