Neue Cybersicherheitsrisiken durch GenAI
GenAI, basierend auf großen Sprachmodellen (LLMs), verändert die technologische Landschaft von Unternehmen grundlegend. Diese neuen KI-Umgebungen erfordern angepasste Sicherheitsmaßnahmen, da sie sich in ihren Eigenschaften und Verhaltensweisen von traditionellen IT-Systemen unterscheiden. Unternehmen müssen lernen, die neuen Angriffsflächen zu schützen, die durch KI/GenAI-Assets entstehen. Regulierungsbehörden warnen daher vor den Risiken einer schnellen, unstrukturierten Einführung von KI. Cyberkriminelle könnten Schwachstellen ausnutzen durch:
- Prompt Injection: Manipulation von Texteingaben, um das KI-Modell zu unerwünschten Aktionen oder zur Datenpreisgabe zu verleiten.
- Datenvergiftung: Einschleusen von manipulierten Daten in das KI-Modell, um dessen Ergebnisse zu verfälschen.
- Angriffe auf die Software-Lieferkette: Ausnutzung von Schwachstellen in den Bibliotheken und Programmen, die für den Betrieb von GenAI verwendet werden.
Ein Beispiel für aktuelle Herausforderungen ist der Einsatz von GenAI in intelligenten Verkehrssystemen. Die dynamische Steuerung des Verkehrsflusses basiert auf Daten aus verschiedenen Quellen wie Kameras und Sensoren. „Von der Quelle, an der die Signale erfasst werden, bis zu dem Punkt, an dem sie ankommen, besteht ein hohes Risiko, dass die Daten manipuliert werden und dann die falschen Maßnahmen ergriffen werden“, erklärt Indranil Mukherjee, Cyber Security Head für UK, Irland und Europa bei TCS. Die Manipulation dieser Signale könnte schwerwiegende Folgen haben.
