Personalabteilung für Bots: Agentic AI verändert das Identitätsmanagement (Gesponsert)

Sprecherin: Diese Folge wurde vom Arbeitgeber des Interviewpartners gesponsert.                                          heise meets … – Der Entscheider-Talk. heise meets … heute mit Thomas Tschersich, Chief Security Officer der Deutschen Telekom und CEO von T-Security.

Sprecher: Toller Name, toller Titel. Hallo Thomas.

Thomas Tschersich: Hallo Matthias.

Sprecher: Thomas, du bist ja quasi die oberste Sicherheitsnadel da bei den Magenta-Damen und Herren. Kommst du angesichts der täglichen Bedrohungen überhaupt noch in den Schlaf?

Thomas Tschersich: Das ist eine witzige Frage. Die stellen mir ziemlich viele Leute. Aber ich kann eigentlich ziemlich gut schlafen. Denn wenn ich jedes Mal einen Herzinfarkt kriegen würde, wenn einer meine Bürotür aufreißt und Alarm schreit, dann wäre ich wahrscheinlich morgens um 10 Uhr schon tot.

Sprecher: Nee, das wollen wir ja nicht. Also, du bist gut im Rennen. Aber allein schon während wir hier reden und ich diese Frage formuliere und du das gesagt hast, das sind ja nur ein paar Sekunden, da sind schon wieder tausende Hacker aktiv bei euch im Security Operations Center der Telekom. Da habe ich gelesen, werden bis zu 100 Millionen Angriffsversuche täglich – muss man sich auf der Zunge zergehen lassen – 100 Millionen Angriffsversuche täglich registriert. Wie geht ihr damit um? Was macht das mit einem?

Thomas Tschersich: Ja, das muss man, glaube ich, ein bisschen differenzieren. Also nicht alles davon sind natürlich die wirklich ganz ernst zu nehmenden Sachen, sondern da ist natürlich auch viel Abscannen dabei, wo Leute gucken, wie die sieht die Angriffsoberfläche. Aber das sind natürlich wichtige Indikatoren, weil wenn wir sehen, wer uns oder unsere Kunden abscannt, dann wissen wir natürlich auch relativ schnell, wer sich dahinter verbirgt, wogegen musst du dich schützen etc. Aber letzten Endes ist das das Spiel der großen Zahlen. Und der einzige Weg, damit irgendwie umzugehen, ist Automatisierung und die Prozesse durch zuautomatisieren – von der Erkennung bis hin zur Incident Mitigation, also der automatischen Bearbeitung quasi. Da stecken wir sehr, sehr viel Zeit und Aufwand rein.

Sprecher: Automatisierung. Ich frage dich gleich noch ganz detailliert dazu, aber zunächst mal: Ihr werbt ja mit dem Slogan, die Telekom hat das schnellste Netz. Seht ihr bestimmte Angriffe damit auch früher als andere und könnt dann auch schneller reagieren?

Thomas Tschersich: Ja, das ist in der Tat so. Wir sehen die Angriffe dann irgendwo in der Größenordnung 20 Millisekunden, bevor sie beim Kunden ankommen. Das klingt jetzt absurd niedrig, 20 Millisekunden. Aber wenn ich natürlich automatisieren kann, kann ich in 20 Millisekunden technisch schon eine Menge erreichen. Und ein gutes Beispiel dafür sind Themen, die wir im letzten Jahr herausgebracht haben. On-Net Security nennen wir das, wo wir im Netz schon Dinge weg filtern, die gar nicht erst bis zum Endgerät des Kunden durchkommen. Damit kann ich schon mal 80 Prozent der Angriffe einfach im Netz abwehren und diese 20 Millisekunden Zeitvorteil nutzen.

Sprecher: Hast du da ein Beispiel? Was sind das für Angriffe?

Thomas Tschersich: Ja, das sind beispielsweise maliziöse Webseiten, die versuchen, wenn ich drauf klicke, irgendeine Schadsoftware auf das Endgerät auszuliefern. Das kann ich schon im Netz blocken, das brauche ich nicht erst auf dem Endgerät blocken. Denn wenn ich es im Netz schon rausfiltere, dann laufe ich nicht Gefahr, dass ich es mir vielleicht durch eine Fehlfunktion doch einfange und mein Gerät damit infiziere. Das sind aber auch Themen wie zum Beispiel DDoS-Angriffe, die gerade massiv zunehmen in der Anzahl und Stärke. Wir haben vor einem Jahr ungefähr pro Woche bei uns im Netz so 3.000 Angriffe gesehen. Wir sind jetzt eher bei 30.000, die wir jede Woche sehen.

Sprecher: Eine Verzehnfachung!

Thomas Tschersich: Ja..

Sprecher: Und jetzt kommt noch Agentic AI, neue Dimensionen. KI-Systeme, die nicht nur analysieren, sondern auch noch eigenständig handeln.

Thomas Tschersich: Ja, jetzt kommt eine ganz andere Geschwindigkeitsherausforderung auf uns zu. Und das wird die Security-Community mit Sicherheit nachhaltig verändern, aber auch sehr massiv beschäftigen in den nächsten Jahren.

Sprecher: Naja, gib uns mal ein Beispiel. Was kann Agentic AI für die, die das das erste Mal vielleicht hören?

Thomas Tschersich: Ja, ich fange vielleicht mal an eher auf der Testing-Seite und dann kümmern wir uns gleich mal, was das für Angreifer an Effizienzen bringt und was wir auf der Verteidigungsseite auch brauchen.

Sprecher: Ja, gerne.

Thomas Tschersich: Es gibt ja diese sogenannten Foundational-Modelle, also hochentwickelte Large Language Models, Sprachmodelle, die spezialisiert sind auf Cyber. Mythos, um ein Stichwort zu nennen, oder GPT Cyber 5.5 oder mittlerweile gibt es auch Cyber 5.6 schon. Und was diese Modelle unheimlich gut können: Sie können sehr viele Angriffsvektoren in einer sehr kurzen Zeit durchspielen. Die funktionieren super effizient beim Zugang, wenn sie Zugang zum Sourcecode haben. Und das wird das ganze Thema Open Source noch einmal hinsichtlich Sicherheit in eine ganz neue Perspektive rücken. Wir selbst haben auch Zugriff auf diese Modelle und das ist einfach Wahnsinn, was die in kürzester Zeit finden. Also zehntausende von Schwachstellen in so einer gesamten Code-Basis einer Firma zu finden mit so einem Modell, das ist kein Märchen, sondern das ist einfach die Realität. Und das sind mitunter Schwachstellen in Codes, die sind 20 Jahre alt.

Sprecher: Ja, glaube ich.

Thomas Tschersich: Die hat kein Mensch gefunden. Und das ist jetzt nicht so, als wenn die nicht gut getestet worden wären, sondern sind einfach in dieser Vielzahl der Test Cases, die so eine KI durchführen kann, den Menschen natürlich brutal überlegen.

Also Geschwindigkeit und Menge ist mein Problem. Sie finden in sehr kurzer Zeit sehr viele Dinge. Und die Herausforderung ist dann natürlich: Wie fixe ich das Ganze?

Wenn ich jetzt in meinem Software-Code die ganzen Schwachstellen gefunden habe, dann brauche ich ja auch hunderte von Mitarbeitern, die das dann fixen. Also auch da müssen wir uns natürlich Gedanken machen, wie wir auch dieses Fixen ein Stück weit automatisiert kriegen, vielleicht mit einem Human-in-the-Loop-Ansatz, aber ohne Automatisierung wird auch das nicht funktionieren.

Und die gute Nachricht ist: Auch eine KI kann ja den Codefix direkt mit generieren. Man kann einen Merge-Request erzeugen für eine CI/CD-Chain und kann dann sofort auch die Schwachstelle fixen, entweder automatisch oder eben mit einem Human-in-the-Loop, wo ein Softwareentwickler dann entscheidet: Ja, übernehme ich es, oder nein, ich übernehme es nicht. Und dann kann man nachtesten und so weiter und so fort.

Also das bringt uns Vorteile natürlich dann auch im Fixen, aber erst mal bringt es uns die Herausforderung der vielen Sicherheitslücken. Das ist das eine, was wir heute sehen, was uns beschäftigen wird.

Das zweite ist, dass typischerweise unsere Cyber-Verteidigung darauf basiert, dass wir große Mengen von Daten analysieren, dass wir viele Informationen miteinander korrelieren müssen und dann können wir irgendwann sagen: Jawohl, das scheint ein Angriff zu sein. Und dann gibt es eine teilautomatisierte Reaktion darauf, oft aber noch muss der Mensch dann einsteigen und das weiter analysieren und bearbeiten.

Und das war in der Vergangenheit okay, wenn wir einen Zeitraum hatten, wo wir vielleicht zwischen 5 und 15 Minuten Reaktionsfähigkeit hatten, weil der Angreifer einfach nicht so schnell war. Mit einer KI ist das ganze Ding in 30 Sekunden durch. Das heißt, wenn ich dann ein Zeitfenster habe und sage, ich habe eine Reaktions- oder eine Antrittszeit in der Bearbeitung von so einem Incident in 15 Minuten, da ist schon alles passiert, wenn ich überhaupt anfange. Da habe ich keine Reaktionsmöglichkeiten mehr. Da kann ich hinterher noch aufräumen und dann kann ich noch mit dem Kehrblech die Reste zusammenfegen, vielleicht im sprichwörtlichen Sinne. Das zeigt, wo wir jetzt reagieren müssen und wo wir uns auf diese neue Geschwindigkeit einstellen müssen.

Sprecher: Du hast uns noch ein Beispiel versprochen.

Thomas Tschersich: Ja, nehmen wir den Hugging-Face-Angriff, wo die KI unterwegs war. Das ist in Minuten durchgelaufen und man sieht erst jetzt im Nachgang, was denn wirklich alles passiert ist und welche Schritte die KI gemacht hat. Das ist sehr, sehr gut dokumentiert. Man kann das gut nachlesen mittlerweile.

Aber das zeigt, dass eben diese menschliche Reaktion in diesem Kontext nicht mehr funktioniert hat oder hätte. In dem Fall gab es noch ein paar andere Probleme, aber diese menschliche Reaktion auf den Angriff, die war einfach zu langsam.

Und ein gutes Beispiel ist: Wenn ich heute ein Software-Update bekomme, dann fokussieren wir uns typischerweise ja in der Industrie darauf, die kritischen möglichst zeitnah und schnell einzuspielen. Und früher war das so, da kam ein Software-Update von, nehmen wir Microsoft als Beispiel, Microsoft Internet Explorer einfach mal als Beispiel. Die Älteren erinnern sich sicher. Microsoft sagte dann dazu: Das ist eine kritische Schwachstelle, die der Angreifer schnell ausnutzen kann, deswegen bitte schnell das Update einspielen. Was sie nicht dazu sagen, ist, wie genau die Schwachstelle funktioniert und wie genau man sie ausnutzen kann.

So, in der Vergangenheit hat das mitunter Monate gedauert, bis wir erste Angriffe gesehen haben, die durchs Netz gingen, die verwundbare Systeme abgescannt haben. Heute sind das mitunter nur noch Minuten.

Das zeigt: Angreifer nehmen sich dieses Software-Update, analysieren das auch mit KI, finden raus, welche Schwachstelle wird genau geschlossen, finden raus, wie kann man sie ausnutzen und fahren dann auch vollautomatisiert Angriffe. Also von mitunter Monaten, vor vielleicht noch zehn Jahren, über Wochen zu Tagen, zu Minuten und vielleicht zukünftig zu Sekunden.

Das heißt, die Reaktionszeit, die der Verteidiger hat, die sinkt dramatisch. Und wenn wir uns da nicht drauf einstellen, dann werden die Angreifer gewinnen. Und das ist das Rennen, was gerade gestartet ist. Es ist die gute Nachricht, dass diese hoch entwickelten Modelle noch sehr stark in Restriktionen unterliegen, aber es ist am Ende nur eine Frage der Zeit, bis die Angreifer auch solche Modelle haben.

Sprecher: Früher hat man gesagt, es ist die Stecknadel im Heuhaufen, die man finden muss. Heute ist die Stecknadel im Stecknadelhaufen, habe ich als Zitat gelesen. Findet ihr die?

Thomas Tschersich: Ja, das sagen wir auch schon seit zehn Jahren. Also: „We're searching for needles in needle stacks.“

Wir suchen Nadeln in Nadelhaufen. Ja, die finden wir und die finden wir eben auch durch Technologie. Nicht alles davon ist KI. Vieles ist auch maschinelles Lernen. Aber wir finden die schon, weil die Maschine kann natürlich zwei Stecknadeln voneinander unterscheiden. Ob die jetzt einen Nanometer länger ist oder nicht, sieht der Mensch nicht, wenn er drauf guckt. Aber die Maschine kann das.

Und insofern hilft uns auch diese Technologie dabei. Aber wir müssen sie eben dann auch konsequent einsetzen und wir müssen sie immer weiterentwickeln. Ich würde mal sagen: Heute, wenn wir Cyber Defense heute machen, nicht nur für den Konzern, sondern auch für unsere Kunden, dann sind wir bei einem Automatisierungsgrad von rund 80 Prozent mittlerweile schon angekommen.

Sprecher: Wir haben ja eine ganze Menge Regelungen: NIS2, EU-AI-Regelungen, wie die ganzen Regulierungen alle heißen. Die machen Security auch zur Compliance-Pflicht. Was, wenn ich ein Unternehmen habe und mir fehlen die Leute dafür? Was jetzt?

Thomas Tschersich: Ja, und dann macht sich die Regulierung mitunter noch schlimmer an der Stelle. Und ich möchte jetzt gar kein Regulierungs-bashing irgendwie hier machen, sondern Regulierung ist immer dann gut, wenn Wirtschaft versagt. Dann muss der Staat eingreifen. Das ist auch in Ordnung.

Aber was wir gerade machen ist: Wir in Europa zumindest, wir drehen das Rad immer weiter, immer weiter, immer weiter. Und wenn ich jetzt Betreiber einer kritischen Infrastruktur bin und sagen wir mal im Finanzsektor noch eine Relevanz habe, dann muss ich an fünf verschiedene Behörden melden, wenn bei mir was passiert. In fünf unterschiedlichen Formaten, in fünf unterschiedlichen quasi Geschwindigkeiten, Service Level, die ich dann einhalten muss.

Und dann stecke ich jetzt fünf Leute in die Meldung und da ist aber das Problem noch gar nicht bereinigt. Da ist nur Meldung abgegeben. Und wenn ich jetzt mal noch einen Schritt weiter denke: Fachkräftemangel, demografischer Wandel, vor dem wir gerade in Westeuropa sehr, sehr stark stehen, dann finde ich diese Leute gar nicht mehr.

Und dann stellt sich die Frage, ob das alles so sinnvoll ist, was wir damit erreichen. Also vieles ist gut gemeint, aber dann nicht gut gemacht. Und ich stehe sehr stark auf dem Standpunkt und versuche das genau mit meinem Team auch so umzusetzen: Bei Sicherheitsmaßnahmen, da geht es nicht um Dokumentation, sondern es geht um Impact. Weil ich habe noch nie einen Angreifer getroffen, der gesagt hat: „Die Telekom greife ich besser nicht an, weil die haben ja ein Handbuch.“

Sprecher: Ja, glaube ich. Und wir sehen … Lass uns über KI, Deepfakes und die daraus resultierende Identitätskrise reden. KI, haben wir gesagt, verändert Angriffsmuster. Wenn jetzt ein Angreifer einen Agenten kompromittiert oder kompromittieren kann, dann hat er ja quasi ein Doppelunternehmen - einen Doppelagenten im Haus. Der Agent behält sein Cover, seinen Zugang, die Befugnisse, nur die Loyalität hat sich geändert. Was macht ihr? Was kann man tun?

Thomas Tschersich: Auch da nochmal einen Schritt früher angefangen. Wir leben zum ersten Mal in der Menschheitsgeschichte in einem Zeitalter, wo wir unseren Augen und Ohren nicht mehr trauen können.

Sprecher: Ja.

Thomas Tschersich: Und das muss man mal eine Sekunde auf sich wirken lassen, diese Aussage. Weil ich kann heute ja alles fälschen. Woher weißt du eigentlich, dass ich das tatsächlich bin jetzt hier und dass das nicht mein KI-generierter Avatar ist und ich in Wirklichkeit einfach heute das schöne Wetter genieße und irgendwie draußen im Garten mit einer Limo den Tag genieße.

Sprecher: Ich weiß es nicht, aber ich habe einfach noch Vertrauen in dich und deine Institution.

Thomas Tschersich: Ich bin es auch wirklich an der Stelle, aber ich kann das heute faken. Und das einzige, was ich dafür brauche, sind mittlerweile fünf bis zehn Sekunden Audio, Video, und ich kann damit jedes beliebige Gesicht, jede beliebige Stimme faken.

Und das ist ein großes Problem. Das wird was mit uns machen, das wird was mit unseren Demokratien machen, aber auch mit uns als Individuen, wenn wir keine Antworten darauf finden.

Die gute Nachricht ist: Es gibt Antworten – digitale Identitäten. Also, wenn ich mich digital irgendwo ausweisen kann, dann kann ich wieder prüfen: Ist es zumindest mal das Endgerät, vor dem ich sitze, was mutmaßlich jetzt bei mir hier stehen sollte oder nicht.

Und vielleicht sogar mit Biometrie kann ich mich sogar gegenüber dem Endgerät Ende zu Ende wieder identifizieren. Also solche Technologien werden wir künftig mehr nutzen müssen. Aber wir werden eben auch diese Identitäten für KI-Agenten benutzen müssen. Und interessanterweise ist das gar nicht so viel anders wie mit Mitarbeitern. Also wir brauchen eigentlich künftig sowas wie eine Personalabteilung für KI-Agenten. Das ist natürlich ein bisschen in Anführungsstrichen gemeint, aber …

Sprecher: Ist aber ein schöner Vergleich. Was heißt das konkret?

Thomas Tschersich: Ja, also wir müssen ja einem KI-Agenten erst mal sagen, wer er ist, wir müssen seine Identität feststellen und dann basierend auf dieser Identität dann auch sagen, was darf er denn und was darf er nicht. Auf welche Daten darf er zugreifen, auf welche darf er nicht zugreifen. Und das ist in der analogen Welt wie mit Mitarbeitern auch. Und man kann das nochmal weiterdrehen.

Viele sprechen heutzutage von dem Token-Schock. Ja, also ich nutze die ganz teuren KI-Modelle und stelle dann auf einmal fest, dass das verflucht viel Geld kostet und für diese einfache Aufgabe wollte ich gar nicht so viel Geld ausgeben.

Sprich, ich muss also auch da gucken, wie früher bei den Mitarbeitern oder heute – früher hört sich komisch an –, wie bei den Mitarbeitern auch: Wo setze ich denn den Top-Experten ein, die Top-Expertin, und wo kriege ich das vielleicht auch mit einem weniger Experten-Niveau hin? Also wo habe ich die superteuren Spezialisten und wo habe ich vielleicht mehr die etwas günstigeren Generalisten, die ich einsetzen kann.

Und genau das Gleiche gilt für KI auch. Es kann hier aber auch bei der KI noch einen zweiten Schritt gehen, und auch den kennen wir ja aus der ganz klassischen Welt. In der analogen Welt reden wir vom Vier-Augen-Prinzip. Wenn ich besonders kritische Tätigkeiten habe, dann führe ich ein Vier-Augen-Prinzip ein.

Beispielsweise, wenn ein Mitarbeiter extrem große Finanztransaktionen hat, dann muss halt irgendjemand noch mit freigeben. Das kann keiner alleine machen. Das Gleiche kann ich ja auch bei der KI machen.

Also auch einen Agenten mir bauen und ich kann mir auch einen Challenger-Agenten zum Beispiel bauen, dem ich dann einfach sage: Deine Aufgabe ist es, die Ergebnisse des ersten Agenten zu überprüfen und im Zweifelsfall zu korrigieren oder einzugreifen, zu alarmieren, ihn zu stoppen, was auch immer. Also diese Konzepte funktionieren sehr wohl, wo ich auch ein Vier-Augen-Prinzip komplett agentisch mit einer KI aufbauen kann.

Fairerweise sind wir da noch relativ am Anfang in dieser Technologie, weil es zwar eine alte Technologie ist, aber eine junge Anwendung erst ist dieser Technologie. Ich meine, KI ist jetzt nichts Neues. Ja, da wird drin geforscht seit den 60er Jahren. Aber der breite Massendurchbruch ist ja erst jetzt passiert. Und deswegen gibt es viele Antworten halt heute noch nicht.

Das, was gerade passiert, ist eben, dass gerade Sicherheitsanbieter massiv an diesem Thema Identitäten, Berechtigungskonzepte, aber auch Monitoring, Vier-Augen-Prinzip quasi für Agenten arbeiten und wo man dann wirklich schaut: Welche Eingaben lasse ich denn zu?

Und vielleicht sogar sowas bauen wie so einen Model-Router nennen wir das. Also, ein banales Beispiel: Wenn ich eine Reihe von unterschiedlichen KI-Modellen habe, welche die extrem teuer und rechenintensiv sind versus welche, die relativ einfach sind, dann kann ich ja entscheiden, welche Aufgabe gebe ich denn welcher KI? Wo reicht denn das günstige Modell und wo muss ich das teure Modell nutzen? Alleine zur Kostenoptimierung. Ich kann das Gleiche auch machen, indem ich einfach sage: Welche Daten sind kritisch, welche möchte ich denn in ein öffentliches Modell reingeben und welche möchte ich lieber in ein privates Modell reingeben, was bei mir läuft, weil die Daten einfach kritisch sind an der Stelle.

So, und das ist das, was gerade im Entstehen ist, wo wir auch sehr massiv dran arbeiten, wo es erste Lösungsbausteine gibt und da werden wir in den nächsten zwei, drei Jahren viele, viele neue Lösungen sehen.

Sprecher: Ich will trotzdem noch mal nachbohren, damit ich das auch richtig kapiere. Du hast von der Personalabteilung für KI-Agenten gesprochen. Du hast gesagt, jeder produktive Agent braucht einen Challenger.

Wenn ich das jetzt auf das Beispiel mit den großen Finanzaktionen, mit den Transaktionen anwende, dass da einer nach dem Vier-Augen-Prinzip drauf schaut: Wo ist für mich als beispielsweise Finanzdienstleister, der sowas einsetzt, die Sicherheit, dass diese beiden KI-Agenten, die diese Finanztransaktion absichern, ausführen, wie auch immer, dass die tatsächlich in dieser Personalabteilung für KI-Agenten auch richtig gecheckt wurden? Nicht, dass da schon wieder einer geguckt hat, da kann ich den kompromittieren, und habe da meinen Doppelagenten im Unternehmen. Wie stelle ich das sicher?

Thomas Tschersich: Wie stelle ich das bei den klassischen Mitarbeitern sicher? Also das ist das gleiche Problem, was ich auch bei dem ganz normalen Mitarbeiter hätte an der Stelle. Es ist nicht so viel anders.

Jetzt gibt es natürlich eine Reihe von Bedrohungen, wo es auch noch keine Antworten gibt. Prompt Injection beispielsweise, wo ich – nimm das Beispiel: Wir nutzen beide Office 365 zum Beispiel. Ich teile ein Dokument mit dir. Du hast es nie geöffnet. Ich teile es einfach über eine Laufwerksfreigabe. Du hast es nie geöffnet, aber dein KI-Agent öffnet es schon. Wenn ich dort versteckte Prompt-Kommandos reinbringe, dann lernt er das, was drinsteht, und führt sie aus, ohne dass du es jemals mitbekommst.

Das sind Angriffe, wo es heute noch keine wirksamen Gegenmittel zu gibt an der Stelle. Also insofern, da ist natürlich ein Risiko da, wo wir uns darüber im Klaren sein müssen und wo wir uns dann die Frage stellen müssen: Was lassen wir denn zu, zum Beispiel als Eingangsinformation, und was lassen wir eben nicht zu.

So, wenn ich jetzt mal auf diesen Finanztransaktions-Agenten drauf gucke, beispielsweise: Ich habe einen Agenten, der macht bei mir die Rechnungsbearbeitung und zahlt dann automatisch Rechnungen. Dann wäre so ein Challenger-Agent, der würde dann einfach sagen: Naja, ab einer gewissen Wertgrenze guckt er sich die Transaktion nochmal an und vielleicht nach bestimmten Kriterien bringt er sogar dann einen Human in the Loop mit rein und sagt: Dieser Approval-Prozess wird jetzt mit dem Prinzip Human-in-the-Loop einfach angehalten, da muss jetzt einer aktiv klicken und sagen: Ja, das ist in Ordnung. So etwas kann man durchaus implementieren und kann relativ gut so etwas heute auch technisch dann schon umsetzen. Und das ist ja nichts anderes als das, was ich heute mit Menschen ja auch mache. Wo ich ja auch sage, da kommt dann vielleicht mal die Revision vorbei und guckt sich das an. Jetzt kann ich zusätzlich noch bei KI-Agenten sowas wie einen Penetrationstest machen. Ich kann gucken, hat der vielleicht einen Bios, also hat er eine bestimmte Präferenz für Entscheidungen, und das sollte ich auch tun.

Wo wir angefangen haben, die ersten Chatbots zu nutzen und zu bauen, bevor wir sie überhaupt dann tatsächlich im Produktivbetrieb eingesetzt haben, haben wir das mal getestet. Nämlich: Kriege ich so einen Agenten dazu, dass der schlecht über meine eigene Firma redet beispielsweise? Das will ich natürlich möglichst vermeiden im Service. Oder dass er die Produkte des Mitbewerbers empfiehlt. Aber da gibt es hunderte Beispiele, wo das schiefgegangen ist in der ganzen Welt, wenn man es eben nicht vorher testet. Also dieses blinde Vertrauen am Ende sollte man nicht… Bei Menschen sind wir es gewohnt, dass wir nicht blind vertrauen, sondern dass wir schon nochmal gucken: Na, was ist denn das für ein Typ? Wie tickt denn der? Wie passt der zu uns als Firma? Bevor man jemanden einstellt und wenn man dann jemanden eingestellt hat, dann gibt es eben so Dinge wie Vier-Augen-Prinzip etc. pp. Und genauso müssen wir es eben mit Technologie auch machen. Also wir müssen gar nichts Neues erfinden eigentlich.

Sprecher: Eine Probezeit für KI-Agenten…

Thomas Tschersich: ..ist auch witzig.

Sprecher: Es geht ja nicht darum, die Angriffe abzuwehren, sondern die Geschäftskontinuität sicherzustellen. Sagt sich jetzt ganz leicht. Ihr habt schöne Beispiele, wie man mit der Geschwindigkeit der Angreifer mithalten kann. Gib uns mal solche Beispiele.

Thomas Tschersich: Wie kann man mit der Geschwindigkeit der Angreifer mithalten.. Also das Stichwort ist – und ich wehre mich immer dagegen, zu sagen, wir machen jetzt alles mit KI. Wie gesagt, vieles davon ist maschinelles Lernen. Das ist eine Subart von KI, kann man natürlich auch da drunter subsumieren. Aber ganz zu Anfang hast du von den Datenmengen gesprochen, von den Angriffsmengen.

Wir erzeugen hunderte von Terabyte Daten. Und hunderte von Terabyte Daten, da kann ich vielleicht tausend Menschen dran setzen, die das auswerten, aber die werden im Zweifelsfall immer Dinge übersehen.

Und insofern nutzen wir natürlich hier die Technologien, um diese Datenmengen, sehr große Datenmengen, in nahezu Echtzeit analysieren zu können.

Und bevor überhaupt ein Mensch in Cyber Defense irgendwo reingeht und einen Alarm, der beim Kunden aufgetreten ist, händisch bearbeitet, ist da schon ganz viel passiert durch die Maschine.

Da werden Daten eingesammelt, korreliert, ausgewertet, abgeglichen mit vergleichbaren Fällen, um eine Wahrscheinlichkeit auch daraus zu machen: Ist das tatsächlich ein Angriff, ist es ein False Positive, was sind die möglichen Gegenmaßnahmen, welche davon kann ich schon automatisiert machen?

Also das ist eine superkomplexe Wirkkette, die komplett automatisiert schon abläuft an der Stelle.

Andere Themen, hatten wir gerade drüber gesprochen: Sicherheitstests von KI-Agenten, die man im Vorfeld dann macht, bevor man sie auf Produktionssysteme freigibt.

Ein weiteres ist eben auch das Thema Identitäten, die man für Agenten macht, damit man zumindest sieht: Wer ist denn da gerade unterwegs?

Und das ist übrigens auch rechtlich eine spannende Frage. Weil, wenn ich Insider-Infos auf meinem Rechner habe, dann darf ich das erst mal. Ich darf sie halt eben nur nicht veröffentlichen, das wäre strafbar. Also ich darf damit in engen Grenzen arbeiten, darf sie nicht veröffentlichen, dann würde ich nach Aktiengesetz in eine Strafbarkeit gehen.

Wenn jetzt aber mein KI-Agent, der in meinem Auftrag ja quasi arbeitet, aber vielleicht ohne mein Wissen im Detail meine Dateien auswertet und dann solche Informationen dann extern verfügbar machen würde, dann würde ich eine Straftat begehen, ohne es zu merken.

Das ist natürlich eine spannende Fragestellung. Dann gibt es auch juristisch eine spannende Fragestellung, die sich daraus ergibt: Inwieweit kann ich denn dann überhaupt meiner Sorgfaltspflicht dann noch nachkommen oder nicht nachkommen? Das sind alles Themen, mit denen muss man sich auseinandersetzen, wo wir auch Kunden versuchen zu helfen, sie zu beraten an der Stelle, dass sie eben nicht in diese Fallen reintappen.

Ich glaube, die wichtigste Botschaft ist: KI bringt uns irre viele Vorteile, aber sie kommt auch mit einem Preisticket daher. Und das Preisticket sind nicht nur die Tokenkosten, sondern das sind auch die möglichen Nachteile.

Und wenn man die Nachteile aber von Beginn an ausreichend berücksichtigt, dann kann man Nutznießer nur der Vorteile sein, ohne in die Falle zu tappen.

Und was ich zu häufig im Moment noch erlebe, ist, dass Leute einfach nur auf die Vorteile schauen, ohne sich mal Gedanken zu machen, was denn der Trade-off ist. Ich glaube, wir brauchen eine neue Nüchternheit und dann können wir von den Vorteilen profitieren am Ende.

Sprecher: Ich würde dich zum Abschluss dieses Gesprächs gern nach einem Ausblick fragen. Was sind so die nächsten Aufgaben? Zwei hast du schon skizziert. Das eine, in Anführungsstrichen, die neue Nüchternheit und das zweite juristische möglicherweise Konsequenzen. Juristisch lassen wir mal raus. Aus deiner Sicht, was muss passieren, Ausblick 2030?

Thomas Tschersich: Also, das klingt jetzt ganz banal und das sage ich irgendwie auch schon gefühlt seit 20 Jahren: Das Thema Software-Updates einspielen, also Schwachstellen schließen, muss nach wie vor hohe Priorität haben.

In der Vergangenheit haben wir uns fokussiert auf kritische Updates. Die KI ist heute in der Lage, aus unkritischen, die so zu kombinieren, aus unkritischen kritische zu machen. Und das heißt, wir müssen wirklich alle Schwachstellen in den Griff kriegen.

Das wird eine große Aufgabe sein, insbesondere weil die Zahl der bekannt werdenden Schwachstellen drastisch zunimmt. Wir sehen bei vielen großen Software-Herstellern, die bieten mittlerweile solche Mega-Releases an.

Früher gab es für jede Schwachstelle eine eindeutige Nummer, eine CVE-Nummer und einen Kritikalitätswert, einen CVSS-Score. Mittlerweile finden die so viele Schwachstellen, dass die einfach gar nicht mehr für jede eine Nummer vergeben, weil es einfach zu viel ist, kann keiner mehr händeln. In diesem Prozess müssen wir am Ball bleiben, müssen wir schnell bleiben.

Das nächste Thema ist: Ich glaube, gerade Open Source war jahrelang postuliert, das ist ja alles viel sicherer. Diese KI-Modelle können, wenn sie Zugriff auf den Quellcode haben, sehr effizient Schwachstellen finden.

Das wird die nächsten zwei, drei Jahre, würde ich mal tippen, eine riesen Herausforderung, gerade für die ganze Open-Source-Community werden, dass das alles gefixt ist.

Wenn man da einmal mit durch ist, dann haben wir eine deutlich bessere Code-Basis und dann haben wir auch wieder ein höheres Sicherheitsniveau. Aber die nächsten zwei, drei Jahre werden hier wirklich entscheidend sein.

Und was wir am Ende brauchen: Jeder, der heute Software entwickelt, der muss diese Werkzeuge nutzen, bevor er irgendeinen Code produktiv schaltet, dass sie mit diesen Werkzeugen auch gescannt werden auf Schwachstellen.

Und das sind banale Dinge. Wir sehen es heute jeden Tag. Aus Bequemlichkeit oder aus welchen Gründen auch immer werden Zugangscredentials, Tokens, sonst was mit in den Code reingeschrieben. Die bleiben vom Testing vielleicht noch über, wird vergessen, aus dem Code rauszunehmen. Sowas findet die KI sehr, sehr zuverlässig und macht diese Türen einfach zu, bevor ich dann so einen Code rausgebe.

Das heißt, die Art und Weise, wie wir Software entwickeln, muss sich ändern. Und die Art und Weise, wie wir Software pflegen, wird uns die nächsten zwei, drei Jahre massiv beschäftigen.

Sprecher: Das ist dein Ausblick bis 2030. Wer nicht ganz so weit gucken will: am 8. September in Köln, die Digital X. Wenn man da auf die Website schaut, schaust du einem sofort entgegen mit einem wunderbaren Foto. Thomas, was sollten Entscheider auf der Digital X aus Köln mitnehmen?

Thomas Tschersich: Na, also was uns dieses Jahr wirklich wichtig ist: dass wir Entscheider versuchen zu informieren, dass ich informierte Entscheidungen in Unternehmen treffen kann, zu sagen: Was ist mein reales Sicherheitsproblem, meine reale Sicherheitsherausforderung, und wie kann ich darauf reagieren?

Weil das Problem ist ja immer: Wenn ich sage, das ist alles so komplex, ich habe eh keine Chance, was macht der Mensch typischerweise?

Er legt die Hände in den Schoß, lehnt sich zurück und lässt es passieren. Und das wäre das Gefährlichste. Ich glaube, man kann informierte Entscheidungen treffen. Und die ersten Schritte zu machen in der Cybersicherheit muss auch gar nicht so irre aufwendig und teuer sein. Das fängt schon an für, sagen wir mal, 10 Euro pro Benutzer und Monat kann ich schon ein gutes Basisniveau erreichen. Das ist vielleicht nicht der perfekte Schutz, aber das sind die 80 Prozent.

Sprecher: Das ist besser als gar nichts…

Thomas Tschersich: Ja, absolut.

Und wenn ich die 80 Prozent schon mal habe, dann kann ich darauf aufbauen und kann dann individuell gucken, wo ich weitere Schritte brauche.

Weil das, was ich auch häufig erlebe: Wir fokussieren uns dann auf die sogenannten Nation-State-Actors, staatlich gelenkte Angriffe, aber ehrlicherweise macht das vielleicht 5 Prozent des Problems aus und die 95 Prozent kommen dann eher aus der organisierten Kriminalität.

Und dann sage ich: Dann löse ich doch lieber erstmal die 95 Prozent, bevor ich mich dann mit den 5 Prozent beschäftige.

Zumindest mal als grobe Richtschnur. Das kann ich jetzt natürlich auch nicht für jedes Unternehmen so sagen. Bei kritischer Infrastruktur muss ich dann schon mal auch nochmal eine andere Perspektive haben.

Aber ich glaube, den allermeisten wäre schon mit den 95 Prozent extrem gut geholfen. Und da zeigen wir Lösungen. Wir werden auch neue Lösungen vorstellen, wie ich schnell, einfach und effizient als Unternehmen hier starten kann und wie das auch kein Projekt ist, was dann wieder zwei Jahre dauert, bis ich anfange, sondern wir haben schon die einfachsten Einstiegsprodukte, fangen an: Ich schließe heute den Vertrag und in fünf Tagen ist der Service up and running.

Sprecher: Und ihr werdet auch über die Personalabteilung für KI-Agenten reden, da bin ich mir ganz sicher.

Thomas Tschersich: Auch dazu haben wir was vorbereitet. Wir haben übrigens auch viele spannende sogenannte Masterclasses, wo wir mal den Vorhang zur Seite schieben und einen Blick hinter den Vorhang dort gewähren.

Und wir werden ganz viele Mitarbeitende auch vor Ort und Expertinnen und Experten vor Ort haben für spannende Gespräche. Also es lohnt sich auf jeden Fall vorbeizukommen, und diesmal auch in einer neuen Location im Rheinauhafen. Ich freue mich schon riesig drauf.

Sprecher: Das ist hinterm Schokoladenmuseum, oder?

Thomas Tschersich: Absolut.

Sprecher: Dann haben wir das auch. Thomas Tschersich, ich bedanke mich ganz herzlich. Ich habe viel gelernt in diesem heise meets … Podcast. Thomas Tschersich, Chief Security Officer der Deutschen Telekom und CEO von T-Security. Und wenn man dich treffen will: 8. September Köln. Herzlichen Dank.

Thomas Tschersich: 8. September Köln wäre ein gutes Datum.                                                                                Sprecherin: Das war „heise meets … – Der Entscheider-Talk". Sie wollen mehr erfahren? Dann besuchen Sie uns auf heise-meets.de. Wir freuen uns auf Sie.