KI in der Strafverteidigung: Anwälte und Gerichte werden verstärkt auf Algorithmen setzen

Sprecherin: heise meets … – Der Entscheider-Talk. Wir besprechen kritische, aktuelle und zukunftsgerichtete Themen aus der Perspektive eines Entscheiders. heise business services begrüßt Persönlichkeiten aus Wirtschaft, Wissenschaft und Politik. Immer aktuell und nah am Geschehen.

Sprecher: Willkommen bei „heise meets …". Wieder eine ganz besondere Folge. Wir sind zu Gast bei Florian Schönrock, Rechtsanwalt und Strafverteidiger in Berlin. Er ist einer der ersten Rechtsanwälte in Deutschland, der wirklich künstliche Intelligenz im Alltag einsetzt.

Florian Schönrock: Ob ich einer der ersten Anwälte bin, der künstliche Intelligenz im Alltag einsetzt, das weiß ich nicht. Ich bin auf jeden Fall einer, der es gerne macht, der es ausprobiert und der Spaß daran hat, es auszuprobieren auf jeden Fall.

Sprecher: Florian, wir werden das alles vertiefen. Wie lange machst du das schon zum Einstieg?

Florian Schönrock: Oh Gott, das ist jetzt eine Fangfrage. Wie lange mache ich das schon? Also auf jeden Fall das gesamte letzte Jahr so mit dem Aufkommen der großen KI. Ich will jetzt die Namen nicht sagen. Ja, da habe ich mich ausprobiert. Also 2023 hat das auf jeden Fall angefangen.

Sprecher: Und wir zeichnen den Podcast um 15 Uhr auf. Eine Zeit, wo normalerweise ein Anwalt noch keine Zeit hat, weil er vormittags im Gericht ist, nachmittags Akten bearbeiten und Mandantengespräche führen muss und so weiter. Also du sparst schon ein bisschen Zeit dadurch, oder?

Florian Schönrock: Ich spare tatsächlich viel Zeit. Das ist also sogar recht lustig, weil ich heute Morgen eine Verhandlung hatte und auf dem Weg zurück ins Büro meine KI-App rausgeholt habe und einfach eine kleine Diskussion angefangen habe über einen Gedankengang, den ich hatte. Dadurch, dass die KI auf dem Handy mit dem Rechner verknüpft ist, konnte ich dann gleich weiterarbeiten und den Gedankengang fortführen. Eigentlich hatte ich dann schon den fertigen Schriftsatz. Also da bist Du richtig zufrieden.

Sprecher: Ich habe auch andere Beispiele gehört. KI bei Anwälten, manchmal halluziniert das Ganze auch.

Florian Schönrock: Halluzinationen sind ein Riesenproblem. Die gibt es immer wieder und die gibt es auch ständig. Manchmal wirft die KI Ergebnisse aus, wo ich mir denke, Mensch, super, die Entscheidung habe ich gesucht und dann gibt es diese Entscheidung gar nicht. Aber ich glaube, das ist auch der falsche Ansatz, weil KI ist ja auch keine Recherche und sollte ja auch keine Urteile finden. Für mich ist KI ein Sprachmodell, mit dem ich arbeiten kann, mit dem ich diskutieren kann und das mir unglaublich dabei helfen kann, Gedankengänge zu strukturieren oder vielleicht auch noch besser auszuformulieren, als ich sie vielleicht in einer kurzen Sekunde niederschreiben könnte.

Sprecher: Florian, wir haben uns kennengelernt bei einem Seminar der Arbeitsgemeinschaft Strafrecht des Deutschen Anwaltvereins. Du hast einen Vortrag gehalten über KI im juristischen Alltag. Ich bin hellhörig geworden und habe dich an das Podcast-Mikrofon von heise mmets... gebeten. Zuerst, dein Spezialgebiet ist Kriminalität rund um das Thema Graffiti, oder?

Florian Schönrock: Das ist absolut zutreffend. Also ich bin hauptsächlich im Bereich Graffiti, das sind Verfahren vorm Amtsgericht tätig. Ich bin auch am Landgericht tätig, auch alle Verfahren, die es gibt, von Raub bis Mord, Totschlag. Aber so ein bisschen mein Schwerpunkt ist tatsächlich Graffiti, also Sachbeschädigung, ja.

Sprecher: Und du bist einer der wenigen, die das in Berlin zumindest machen.

Florian Schönrock: In Berlin gibt es noch eine Kollegin und einen Kollegen, die das machen. Es gibt dann bundesweit noch zwei, drei andere Kollegen in Hamburg und im Ruhrpott. Aber das sind sehr wenige spezialisierte Kollegen, die es gibt, ja.

Sprecher: Und es gibt genügend Sachbeschädigungen in Berlin, sodass euch die Arbeit nicht ausgeht?

Florian Schönrock: Absolut. Also das ist sehr kollegial. Wir unterstützen uns da auch gegenseitig. Und die Fälle oder die Verfahren, die es zusammen gibt, die machen wir dann auch zusammen.

Sprecher: Wie sieht dein normaler Alltag aus? Beschreib das mal, damit wir verstehen, wo KI dich dann erleichtert. Wie sieht es ohne KI aus?

Florian Schönrock: Das ist bei Graffiti nochmal vielleicht eine andere Sache, weil ich die KI im Bereich Graffiti anders nutze, als ich sie in anderen Fällen nutze. Ein typischer Sachverhalt ist, mich ruft jemand an, der sagt, er wurde am Wochenende festgenommen, er hätte an eine Wand oder an einen Zug gesprüht. Dann beantrage ich Akteneinsicht und gucke mir die Akte an. Eine gängige Verteidigung ist zum Beispiel bei einer Wand zu gucken, ob die Wand vorher schon besprüht war und dann zu argumentieren, dass das Erscheinungsbild der Sache nicht mehr erheblich verändert wurde dadurch, dass da noch ein weiteres Tag herangesetzt wurde. Wenn ich jetzt aber in den Bereich gehe, wo es um den öffentlichen Personennahverkehr geht, um die BVG oder so, da kriege ich ja…

Sprecher: BVG müssen wir für die außerhalb von Berlin erklären, Berliner Verkehrsgesellschaft.

Florian Schönrock: Genau, die Berliner Verkehrsgesellschaft, also die U-Bahn hier in dem Fall, die dann besprüht wird, da bekomme ich Daten zum Beispiel zu den Wiederherstellungskosten, was das kostet, wenn man die U-Bahn wiederherstellt, zu den Verbringungskosten, Vorhaltekosten und so weiter. Das können in diversen Graffiti-Verfahren auch mal sehr, sehr viele Positionen sein. Und da die datenschutzrechtlich unbedenklich sind, kann ich mir die einfach in die KI hineinladen und auch mal analysieren oder zusammenfassen lassen. Also ich kann dann einfach sagen, vergleiche bitte Fall 14 mit Fall 15 und erkläre mir, ob es da irgendwelche Unterschiede gibt und das macht die KI ganz ordentlich.

Sprecher: Also zum Beispiel in den Kosten, die für die Trassennutzung, also Stromkosten, die für die U-Bahn angefallen sind, dass die U-Bahn von A nach B gefahren ist. Und dann vergleicht die KI für dich Fall 14 mit Fall 15 und sagt, die drei Wagen können niemals so viel sein, wie der eine Wagen, den er besprüht hat?

Florian Schönrock: Im besten Fall passiert so was oder es wird mir ausgeworfen, dass ein unterschiedlicher Strompreis angesetzt wurde und ich kann dann mit der KI anfangen zu diskutieren und sagen, wie hoch ist denn der Strompreis, was ist denn realistisch und kann mir dann aber auch Ansätze liefern lassen, sozusagen je nach Fragestellung.

Sprecher: Wie hast du das bis 2023 gemacht?

Florian Schönrock: Händische Arbeit mit wissenschaftlichen Mitarbeiterinnen und Mitarbeitern, einfach durchgucken und gucken, ob einem was auffällt. Oder natürlich, und das ist das, was viele Kollegen sicherlich auch bestätigen können allgemein, wenn die Datenflut zu groß wird, dann hat man ein großes Problem, wie man das als Einzelanwalt eigentlich überhaupt noch bewerkstelligen kann. Aber das ist dann eher das Problem in der organisierten Kriminalität im Bereich Betäubungsmittel, Strafrecht. Da haben wir massig an Daten, da haben wir Telekommunikationsüberwachung, sogenannte TKÜ. Und da ist eigentlich der große Schwerpunkt, wo man KI wirklich einsetzen kann.

Sprecher: Wie läuft das ab? Wie muss ich mir das als Laie vorstellen? TKÜ, Telekommunikationsüberwachung, übersetze ich als Laie mal. Wie muss ich mir das vorstellen?

Florian Schönrock: Genau, also Telekommunikationsüberwachung ist natürlich, grundsätzlich muss man erst mal gucken, dass das, was man macht, muss datenschutzrechtlich konform sein als Anwalt. Ich darf also keinerlei personenbezogene Daten irgendwo in eine KI reinladen, auch nicht von den Polizeibeamten. Das heißt, ich muss wirklich gucken, dass ich da sauber arbeite.

Sprecher: Dafür gibt es Lösungen. Da arbeitest du auch eng mit Datenschützern zusammen. Wie sieht so eine Lösung aus? Weil es ist ja immer ein Beschuldigter, es ist ein Polizeibeamter als Zeuge. Du kannst ja nicht sagen, immer Herr Müller.

Florian Schönrock: Müller. Genau. Das ist das, was ich in dem Vortrag gesagt habe. Also wenn ich jetzt zum Beispiel eine einfache Akte habe und ich möchte einfach was analysieren, dann habe ich immer gesagt, mein Mandant heißt dann immer Müller. Dann habe ich, dann diktiere ich in die KI hinein und bastel mir das so zurecht, wie ich das brauche. Und dann kann ich dann in meinem Word-Dokument Müller ersetzen durch Schmidt und dann ist es eben der richtige Name sozusagen. Wenn ich eine TKÜ habe, dann brauche ich natürlich eine Software und da gibt es gerade mehrere Lösungen, die noch im Ansatz sind, die noch im Test sind, die also absolut DSGVO-konform sind, die auf deutschen Servern laufen und die auch nach Berufsordnung der Rechtsanwälte also wirklich so zu handhaben sind, dass alles in Ordnung ist für uns, dass wir berufsrechtlich auf der sicheren Seite sind. Da sind auch die großen juristischen Verlage alle mit dran und das wird sicherlich noch eine Zeit dauern, bis das alles da ist, aber die Lösungen, die ich schon mit ausprobieren darf, die sind also so gut, dass ich zum Beispiel eine Telekommunikationsüberwachung, ein Gespräch verschriften lassen kann und mir dann natürlich den wesentlichen Inhalt zusammenfassen lassen kann.

Sprecher: Aber eine Zusammenfassung von Schriftlichen, das ist ja noch keine künstliche Intelligenz, das gibt es ja schon ein paar Tage länger.

Florian Schönrock: Ja, nein. Also die Zusammenfassung von, also man muss sich so eine Telekommunikation ja so vorstellen, dass das ja nicht ist, guten Tag, jetzt nehmen wir mal ein Betäubungsmittelgeschäft, ich würde gerne 5 Gramm Kokain kaufen, ja, 5 Gramm Kokain kosten so und so viel Geld, sondern das ist in der Regel so etwas wie, hast du fünf, ja, bringe ich vorbei. Also das muss man ja auch interpretieren und das ist ja das, was Polizeibeamte machen und das ist ja auch, wo der Staat gerade ganz groß hinterher ist. Also es gibt ganz, ganz verschiedene Ansätze, auch in anderen Bundesländern, wo versucht wird, diese Datenmengen einfach besser zu analysieren und dann eben auswerten zu lassen.

Sprecher: Der wirkliche Schritt ist dann, du ziehst den Nutzen daraus?

Florian Schönrock: Also die KI macht ja dann eben genau die Überlegung, hast du fünf, heißt in dem Kontext wahrscheinlich fünf Gramm Kokain oder fünf Gramm Marihuana. Das musst du dir dann eben aus dem Kontext erkennen, ob vorher über Weißes gesprochen wurde oder über Grünes sozusagen.

Sprecher: Du bist ja richtiger Experte.

Florian Schönrock: Ich bin seit 15 Jahren Strafverteidiger. Das ist im Übrigen auch tatsächlich das, was die Polizei immer macht. Sie schreibt ihre Schlussberichte dann immer so und sagt, Weißes wäre Kokain, Grünes wäre Marihuana. Diese Analyse wird von der Polizei natürlich in riesigen Teams gemacht. Das heißt, es gibt immer Ermittlungsführer, der kann das delegieren an seine Leute. Und als Verteidiger, als Einzelanwalt bekommt man diese Daten dann in Form von Akteneinsicht und ist dann so ein bisschen allein auf weiter Flur. Entweder hat man wissenschaftliche Mitarbeiter oder man muss eben gucken, dass man das selbst irgendwie alles durcharbeitet und durchforstet.

Sprecher: Wenn du durchforstest, beziehungsweise wenn die künstliche Intelligenz für dich durchforstet, was macht die dann anders als dieses Riesenteam von Polizeiarbeit? Es bleiben ja fünf Gramm, egal, weiß, grün oder weiß.

Florian Schönrock: Genau. Ich muss ja prompten. Also wenn ich eine KI benutze, dann gebe ich einen sogenannten Prompt ein. Damit gebe ich der KI den Befehl, etwas auszuführen. Ich muss natürlich vorher mir eine Verteidigungsstrategie überlegen. Also in einem fiktiven Fall würde der Mandant mir sagen, das stimmt niemals, das habe ich nicht gemacht. Mensch, da haben wir doch nur Quatsch darüber gemacht, dieses Geschäft haben wir nie gemacht. Also könnte die Aufgabe der KI sein, zu interpretieren, ob vielleicht ein Smiley, ein Emoji, ein Emoticon eingesetzt wurde hinter der Anfrage. Und wie ist dieses Emoticon zu interpretieren? Da kann ich mir dann also gleich das zusammenstellen lassen und dann sagt mir die KI in den Fällen 17, 19, 32 und 46 wurden zwei Lach-Smilies hinter den Nachrichten verschickt. Lach-Smilies sind im allgemeinen Sprachgebrauch so zu interpretieren, dass der Verfasser dies nicht ernst meint und so wird der Fall auch hier gesehen. Diese Fälle sind schon einzustellen. Das wäre dann ein möglicher Antrag an die Staatsanwaltschaft. Jetzt mal ganz vereinfacht gesprochen. So läuft es nicht, aber so grob kann man sich das vorstellen. Und damit hast du gleich eine Lösung.

Sprecher: Den dir die KI auswirft, nachdem sie die Daten analysiert hat?

Florian Schönrock: Genau. Also ich habe die Idee, ich sage ihr, wonach sie suchen soll, und sie hilft mir dann schon, das auch auszuformulieren. Also generell ist ja im Moment noch die große Chance oder der große Vorteil der KI, dass sie ja ein Sprachmodell ist und sprachlich eigentlich dem normalen Menschen wahnsinnig überlegen ist. Und wenn ich etwas zu diskutieren habe, wenn ich etwas zu überlegen habe, dann hilft mir die KI natürlich das zu strukturieren oder das darzulegen. Ich nehme ein Beispiel, was ich auch in dem Vortrag nehme: Wenn ich jetzt, nehmen wir mal an, ich habe einen jugendlichen Mandanten, der sagt zu einem Polizeibeamten: "Yo Digga, was ist los?" So, das wäre jetzt Jugendsprache. Das wissen wir alle, dass das Jugendsprache ist. Und ich glaube, wir alle wissen auch, dass das nicht böse gemeint ist und dass das nicht in ehrverletzender Absicht geäußert ist.

Sprecher: Der Beamte sieht das etwas enger.

Florian Schönrock: Der Beamte sieht das etwas enger und stellt Strafantrag. Den braucht man bei der Beleidigung auch. Und dann kommt vielleicht ein junger Mensch zu mir, der sehr, sehr wenig Geld hat, aber der sich ungerecht behandelt fühlt und meint, es ist meins.

Und dann habe ich doch als Anwalt einfach die Möglichkeit, wirklich, und das muss man ganz klar sagen, dafür brauche ich keine Bezahlversion, dafür brauche ich keine Sandbox-Lösung, wo ich irgendwie sage, dass ich datenschutzkonform arbeite, weil ich einfach der KI den Prompt geben kann: Begründe in einer kurzen Stellungnahme, warum die Formulierung "Yo Digga" typischer Jugendslang ist und keinesfalls in ehrverletzender Absicht geäußert wird nach § 185 StGB. Und das Ergebnis, was da rauskommt, ist zu 99,9 Prozent ohne Halluzination einfach gut, weil das einfach wirklich Analyse von Sprache ist.

Sprecher: Und das hattest du früher als Textbaustein auf F5 liegen?

Florian Schönrock: Ne, genau das natürlich nicht. Also ich habe natürlich so was wie die Definition von Beleidigung, die habe ich als Anwalt natürlich, die gibt es in Anwaltssoftware, habe ich auf Textbaustein liegen. Aber ich muss natürlich den Einzelfall, den Einzelsachverhalt berücksichtigen. Und natürlich kann ich auf zwei Monitoren, sage ich mal, auf der linken Seite die Akte offen haben, den Sachverhalt schildern, datenschutzkonform. Und auf der rechten Seite hört die KI mir zu, dann gebe ich meine Interpretation zum Besten und gucke einfach, was die KI dann daraus macht.

In 60, 70 Prozent der Fälle ist das erste Ergebnis schon so brauchbar, dass ich es in ein Dokument kopieren kann und vielleicht noch mal ein bisschen umschreiben kann. Ansonsten muss man an seinem Prompt arbeiten und den verfeinern.

Sprecher: Sag mal ein bisschen was zur Zeit, also sowohl die fünf Gramm, grünes, weißes, als auch jetzt die "Yo Digga"-Beleidigung. Wie viel hast du vorher an Zeit gebraucht, wie viel brauchst du jetzt ungefähr? Also die Entlastung mal zu zeigen?

Florian Schönrock: Also die tägliche Entlastung liegt auf jeden Fall mindestens bei einer halben Stunde bis Stunde, wo ich einfach schneller geworden bin. Also deutlich schneller. Aber die richtig große Entlastung, die kann man sich eigentlich gar nicht vorstellen, weil wir Anwälte natürlich auch abends arbeiten, nach dem Abendessen oder am Wochenende.

Da sitzen wir an unseren Laptops und gucken uns eben gerade diese TKÜs an. Wir gucken uns irgendwelche Gutachten an. Wir müssen uns psychiatrische Gutachten angucken. Wir sind aber keine Psychiater, wir müssen das aber verstehen. Und wenn man sich einfach diese Passagen dann raus nimmt aus einem Gutachten, die in die KI reinkopiert oder einfach, wie gesagt, ich diskutiere immer mit der KI.

Ich habe ein Plug-in, ich arbeite mit Sprache, ich stelle dann Fragen dazu und lasse mir dann auch wieder zum Beispiel, wenn ich merke, dass ich da Hilfe brauche, Fragen auswerfen, die ich dann zum Beispiel dem Sachverständigen stellen muss, die ich dann wirklich brauche, um meinen Mandanten ordnungsgemäß zu verteidigen.

Und das kann ich in Stunden oder in Zeit überhaupt nicht bemessen. Und dann macht es tatsächlich einfach dann auch wieder mehr Spaß, wirklich in die Tiefe zu gehen, weil ich auch immer wieder neue Impulse und Ansätze bekomme, oder wenn ich einen Impuls habe, den ich selbst noch nicht so ganz fassen kann, wo ich sage, also mein Judiz, mein Gefühl sagt mir, da musst du ansetzen, dann kommt da manchmal was ganz Gutes bei raus.

Sprecher: In dem Vortrag hast du ein Grußwort mit der Stimme von Olaf Scholz simuliert. Wir hören mal rein.

Olaf Scholz: Als Oberboss dieses Landes freue ich mich sehr, Sie herzlich begrüßen zu dürfen. Das Thema des heutigen Vortrags, der Anwendung von KI in der Strafverteidigung, ist von großer Bedeutung, wirkt spannende Perspektiven.

Florian Schönrock: Das ist schon absolut richtig. Das wird beeindruckend. Das wird für Forensiker eine echte Herausforderung, dann rauszukriegen, was ist jetzt echt und was ist nicht echt im Verfahren. Es ist jetzt kein Online-Tool, wo das so einfach geht, sondern man muss die KI ja trainieren. Also das ist jetzt gar nicht so in zwei Sekunden zu bewerkstelligen. Ich will das kurz erklären.

Also ich brauche, und das ist strafrechtlich eben sehr relevant, ich brauche einen kurzen Sprachausschnitt von irgendjemandem. Also wenn du mir jetzt vorher eine WhatsApp geschickt hättest, so "ich bin in 20 Minuten bei dir und dann bringe ich noch dies oder das mit", das reicht dann schon, damit ich deine Stimme in die KI reinladen kann und dann trainieren kann.

Dann wird die KI auf deine Stimme trainiert. Dann kann ich einen Text schreiben oder noch besser von der KI schreiben lassen und diesen dann von der KI vortragen lassen. Und dann habe ich da eigentlich so Regler wie Geschwindigkeit und Stimmhöhe noch und kann das so ein bisschen anpassen und habe am Ende Ergebnisse, wo ich behaupte, das wird dann für einen Forensiker schon sehr, sehr schwer zu hören, ob das jetzt von der KI erstellt wurde oder nicht. Das ist schon absolut beeindruckend.

Sprecher: Dir geht es ja aber nicht nur darum, dass du Stimmen simulierst und möglicherweise einen WhatsApp-Chat als falsch entlarven kannst vor Gericht zum Schutz und zur Verteidigung deines Mandanten. Wie nutzt du das Sprachmodell von KI? Gib uns mal ein Beispiel.

Florian Schönrock: Ich habe hier einen Journalisten von heise meets... und der möchte mir ganz viele Fragen zur KI in der Strafverteidigung stellen. Kannst du mir diese Fragen beantworten?

KI: Klar, ich kann gerne versuchen deine Fragen zu beantworten. Was möchtest du über die ukrainische Strafverteidigung wissen.

Florian Schönrock: Jetzt halluziniert sie aber doch, oder? Sie hat mich einfach nicht richtig verstanden. Sie hat verstanden "ukrainische Strafverteidigung". Ich präzisiere mal noch mal. Was kannst du mir über die künstliche Intelligenz in der Strafverteidigung erzählen?

KI: Oh, entschuldige für das Missverständnis. Künstliche Intelligenz wird in der Strafverteidigung zunehmend genutzt. Zum Beispiel, um große Mengen an Dokumenten zu analysieren oder Muster zu erkennen, die für einen Fall relevant sein könnten. Sie kann auch dabei helfen, Vorhersagen über den Ausgang von Fällen zu treffen, basierend auf früheren Gerichtsurteilen. Ist das in etwa das, was du wissen wolltest?

Florian Schönrock: Danke, das war schon sehr gut. Vielen Dank.

Sprecher: Nochmal zurück zu Olaf Scholz. Die Sache hat ja auch einen ernsten Hintergrund.

Florian Schönrock: Also ich habe das eher jetzt einmal für den Vortrag gemacht, damit die Kollegen einfach sehen, wie einfach man auch Beweise manipulieren kann.

Also es gibt ja zum Beispiel die Messenger-Dienste und davon gibt es auch Fake-Messenger-Dienste, die man sich in den entsprechenden App-Stores herunterladen kann. Das heißt, ich könnte die ganze Kommunikation nachstellen und dann könnte ich sogar noch behaupten, ich hätte eine beleidigende oder eine bedrohende Sprachnachricht bekommen und stell dir vor, du bist Strafverteidiger und dein Mandant kommt zu dir und sagt: "Ich habe das nicht gemacht, ich habe das nicht geschrieben und ich habe das auch nicht gesagt."

Und dann holst du die Akteneinsicht und du glaubst dem eigentlich und dann hast du jetzt auf einmal die Situation, dass du, dass da ein USB-Stick dabei liegt oder eine CD-ROM, die Justiz arbeitet noch mit CD-ROMs und da ist dann eine CD-ROM, da ist dann diese Sprachnachricht drauf und dann sagst du deinem Mandanten: "Ich höre doch deine Stimme hier, das ist ja auch deine Stimme." Und dann sagt er: "Ich war das aber nicht." Da musst du ja anfangen, in diese Richtung zu denken.

Und damit die Kollegen darauf geschult werden oder damit die Kollegen das nicht aus dem Auge verlieren, wie einfach das tatsächlich ist, habe ich das mal gemacht. Also ich brauche zum Trainieren und zum Fertigstellen vielleicht 20, 25 Minuten, bis es dann ganz gut ist.

Sprecher: Wie oft kommen solche Fake-Nachrichten zustande? Wie oft hast du in der täglichen Juristpraxis schon damit zu tun?

Florian Schönrock: Da geht es, glaube ich, auseinander, was ich als Fake-Nachricht sehe und was das Gericht als Fake-Nachricht sieht. Vielleicht definierst du das einfach.

Also ich kann aus den letzten zwei Jahren von mindestens drei gravierenden Fällen berichten, wo es Fake-Nachrichten definitiv gab, wo Chat-Verläufe zusammengeschnitten wurden oder nochmal kopiert wurden, was wir dann aber natürlich nur feststellen konnten, weil wir das Gegenstück-Handy haben.

Also wenn jemand zum Beispiel in Untersuchungshaft sitzt und jemand behauptet, es gab diese Kommunikation zwischen A und B und wir haben aber das Gegenstück-Handy nicht, dann können wir das nicht beweisen. Das heißt, wir müssen dann immer gucken, dass wir die Polizeibeamten dazu motivieren, uns das Handy entweder rauszugeben oder das entsprechend auszuwerten.

Aber ja, also es kommt vor. Es kommt definitiv vor. Ich glaube, es kommt noch häufiger vor, aber es wird ganz oft nicht so gerne gesehen vom Gericht oder es wird dem nicht so eine große Bedeutung beigemessen, weil sich die Leute immer nicht vorstellen können, dass... Also viele Richter denken immer noch, das ist ja total aufwendig und kompliziert. Und dann sage ich, gucken Sie sich einen jungen Menschen an, der lädt einen Filter über irgendwas rüber und hat überhaupt gar keine Probleme damit, irgendwas zu machen auf TikTok, irgendwelche Videos zu gucken, wie Angela Merkel irgendwelche alten Schlagerlieder singt. Das haben ja Leute auch in ihrer Freizeit gemacht. Das geht sehr schnell und wenn man es kann, dann ist es kein Problem mehr.

Sprecher: Generationenfrage?

Florian Schönrock: Auch, ja natürlich. Also Generationenfrage und aber auch Medium-Konsumverhalten. Also ich kann, ich weiß noch, dass, ich muss dir das so vorstellen, also vor 13, 14 Jahren war es sehr, sehr schwer, überhaupt mit den Richtern über solche Themen zu sprechen, nicht mit allen Richtern, mit vielen Richtern, was eine Facebook-Timeline ist, also wo da was gepostet wurde. Die dachten, es ist da eine Direktnachricht und so was. Es war sehr, sehr kompliziert, das alles mal zu verfolgen.

Heute ist Facebook ja sowieso nur noch für alte Leute sozusagen. Alle Jungen sind bei Instagram. Aber damals war das wirklich noch so, dass man dann das wirklich erklären musste, so nein, das war auch öffentlich auf der Timeline einsehbar oder das war eine Privatnachricht oder nicht.

Sprecher: Zurück zu den drei Fällen, die du genannt hast, drei gravierende Fälle, wo man die Fake-Chats, wie sind die ausgegangen, kann man das so sagen?

Florian Schönrock: Zwei davon sind gut ausgegangen, gut im Sinne des Mandanten. Der eine Fall endete mit einem Freispruch, der andere Fall endete trotzdem mit einer Verurteilung. Da ging es dann quasi um die Frage, hat man die Glaubhaftigkeit der Aussage der Zeugen zerstört oder nicht. Nach der Auffassung des Gerichts war die Glaubhaftigkeit der Aussage der Zeugen nicht zerstört, obwohl sie nicht den gesamten Chatverlauf eingereicht hat oder gefälschten Chatverlauf eingereicht hat.

Sprecher: Wir stehen an der Schwelle zum neuen Jahr. Wir zeichnen im alten Jahr auf. 2025 wird unser Gespräch zu hören sein bei „heise meets …". Was erwartest du von diesem Jahr? Wird sich die Technik wieder so sprunghaft entwickeln?

Florian Schönrock: Ein großes Tool wird nicht kommen, aber es werden alle haben. Ich hoffe, dass da ganz viel passiert, ein großes Tool wird aber wohl nicht kommen. Ich weiß immer nicht, ob ich andere Firmen sagen darf... Also es gibt gerade eine neue KI von einem Grafikkartenhersteller, möchte ich sagen. Die habe ich schon mal getestet, da waren die Ergebnisse wahnsinnig gut, also von Anfang an schon so gut wie KI, die ich schon ein bisschen trainiert habe.

Es wird für alle kommen jetzt erst mal. Das ist das, was alle, also so wie die Sprachassistenten auf unserem Handy gekommen sind und für unser Zuhause, wo man sagt, stelle einen Timer auf 14:30 Uhr oder irgendwas. Das haben ja viele schon im Haushalt. Das wird sich normalisieren und es wird in allen Bereichen normalisiert.

Also ich kann auch nur generell allen Menschen, die interessiert sind, anraten, sich damit zu beschäftigen, weil es unglaublich viel einfacher wird, auch zum Beispiel komplizierte Anträge auszufüllen. Sie können ein Foto von einem Antrag machen und sagen, hilf mir beim Ausfüllen und führe mich Schritt für Schritt durch dieses Dokument. Was ist bei Frage 7 gemeint und was ist bei Frage 9 gemeint? Das verstehe ich nicht. Und da kann die KI unglaublich gut helfen.

Sprecher: Du hast vorher gesagt... Der eine Richter ist dann teilweise Generationenfrage, hat Schwierigkeiten mit der Facebook-Timeline und so weiter. Wird es nur für dich als Anwalt möglicherweise einfacher, weil du schneller Fälle bearbeiten kannst? Oder wird es generell einfacher?

Florian Schönrock: Es wird generell einfacher und es wird vor allem tatsächlich für die Justiz einfacher. Wenn man sich anschaut, was die Staatsanwaltschaften schon vorhaben und auch in Pressemitteilungen sagen, dann geht es dahin, dass einfache Verfahren auch von der KI analysiert und bearbeitet werden sollen. In den USA ist man schon so weit.

Es gibt dort schon Prognoseentscheidungen darüber, zum Beispiel ob ein Inhaftierter oder jemand, der unter Bewährung steht, ein Bewährungsversager sein wird oder nicht. Da gibt es einfach Merkmale, die die KI schneller analysieren kann als jeder Mensch.

Und es gibt Verfahren wie zum Beispiel MonoCam, das ist eine Art Handy-Blitzer mit KI. Da wird nicht analysiert, ob jemand ein Handy am Ohr hat, sondern der Fahrer wird quasi aufgenommen und es wird analysiert, ob seine Körpersprache den Schluss zulässt, dass er ein Handy benutzt, das man vielleicht gar nicht im Sichtfenster sieht. Vielleicht hat er es auf dem Schoß liegen, aber er guckt andauernd nach unten und man sieht, dass seine Schulter sich leicht bewegt. Die KI sagt dann, ich gehe davon aus, dass hier ein Handy benutzt wird während der Autofahrt. Dann guckt am Ende nur noch ein Polizeibeamter auf die Fälle drauf, die die KI ausgeworfen hat.

Aber auch das, was ich gesagt habe, wo wir als Anwälte unbedingt einsteigen und uns verbessern müssen, ist, dass wir die TKÜ auch analysieren. Das ist das, was die Polizei natürlich im ganz, ganz großen Stil machen wird. Die werden sichere Server haben, die werden das alles analysieren und Daten, die sie vorher gar nicht bewerkstelligen konnten, auswerten.

Im Moment funktioniert das ja so: Stell dir vor, du hast ein Handy einer großen, guten Marke. Das wird beschlagnahmt, irgendwie aufgemacht, die kriegen das hin, die können auf die Daten zugreifen und haben wieder mehrere Gigabyte an Daten. In der Regel wird das dann in eine forensische Handy-Analyse-Software eingeladen und dann sucht man nach den Begriffen, die man sucht, zum Beispiel Grünes, Weißes, fünf Gramm oder irgendwas. Aber wenn diese Begriffe nicht verwendet wurden, findet der Polizeibeamte die auch nicht.

Und das wird natürlich die KI in Sekunden erledigen. Die werden die ganzen Daten durchforsten, die Bilder-Datenbanken durchforsten, aus dem Kontext schließen können, ob es vielleicht um den BTM-(Betäubungsmittel) Handel ging oder nicht und den Polizeibeamten das auswerfen. Also die Justiz wird sehr, sehr daran interessiert sein, das voranzutreiben, auf jeden Fall.

Sprecher: Werden die so schnell sein wie im Fernsehkrimi und alles in 45 Minuten schaffen?

Florian Schönrock: Mit Sicherheit nicht. Dieses exponentielle Wachstum der Daten kommt ja auch wieder dazu und es ist ja auch nicht so, dass das dann immer nur von einer Seite genutzt wird. Ich wage jetzt mal die Prognose, dass auch vermeintlich Kriminelle dann die KI einsetzen würden, um wieder ihre Aktivitäten zu verschleiern oder irgendwas. Das ist jetzt eine vorsichtige Prognose, aber das war ja bisher immer so.

Sprecher: Was wird sich für mich ändern, wenn ich dann zu dir komme und mir wird vorgeworfen, ich habe ein bisschen gesprüht oder ich habe fünf Gramm davon oder wie auch immer gehabt. Was wird sich für mich ändern?

Florian Schönrock: Nach außen sichtbar erst mal nicht so viel. Es gibt im Moment wahnsinnig viele Tools für Anwaltskanzleien, auch für Ärzte und so weiter, für das Onboarding. Also wer ist der Mandant? Wie kommt der in die Software hinein? Da wird das Sekretariat jetzt digitalisiert. Da sollen Computerstimmen am Telefon sein, das soll man gar nicht mehr merken, dass man mit einer KI telefoniert.

Das ist sehr gut, dass es das gibt. Ich stelle mir das auch gerade bei Ärzten zum Beispiel sehr, sehr wichtig vor. Die haben wichtigere Sachen zu tun, als am Telefon zu sitzen. Aber beim Strafverteidiger, wo vielleicht die Ehefrau anruft, dass gerade der Mann verhaftet wurde, da bin ich dann doch sehr froh, dass ich eine sehr kompetente Sekretärin habe, die einfach genau weiß, welche Fragen sie dann stellen muss. Und da bin ich mir dann einfach sicher, dass das gewährleistet ist. Also der menschliche Kontakt wird bei mir immer an vorderster Stelle bleiben. Ich will im Hintergrund damit arbeiten.

Ich will für die Mandanten die Vorgänge optimieren, die sonst viel Zeit gebraucht haben, wo ich dann auch vielleicht hätte sagen müssen... Also nehmen wir nochmal das Beispiel eines wirklich bettelarmen Studenten oder Schülers, der einfach sagt, ich fühle mich da wirklich ungerecht behandelt, aber ich habe nur 50 Euro Taschengeld oder irgendwas im Monat. Dann kann ich durchaus sagen, ich kann dir helfen, weil mich das Ganze, den Gedanken habe ich ja im Kopf, mein Potenzial ist ja, dass ich das Wissen im Kopf habe, ich muss es aber irgendwie auf Papier bringen.

Das wird sich enorm verändern und ich werde natürlich immer effektiver und schneller. Und es gibt ja sogenannte GPTs. Die kann man programmieren und wenn das für die Anwaltschaft dann mal vernünftig läuft und alle das auch so umsetzen, dann hat man ja seine Schriftsätze, seine Musterschriftsätze da auch drin und kann dann quasi in seinem Stil die Dinge relativ schnell auswerfen, wenn man weiß, wo man hin möchte. Das juristische Wissen braucht man natürlich nach wie vor, sonst weiß ich ja nicht, was ich für einen Befehl gebe sozusagen.

Sprecher: Wenn du sagst, wenn jetzt so ein bettelarmer Student kommt und so weiter, ich weiß nicht, wie reagiert die Anwaltskammer, wenn du so eine Art Discount-Service des Anbieters anbietest?

Florian Schönrock: Also wir sind sogar verpflichtet als Anwälte, die Vermögensverhältnisse unserer Mandantschaft zu berücksichtigen. Das ist ein ganz, ganz oberstes Gebot. Ich habe einen Gebührenrahmen, in dem ich arbeiten kann und das ist völlig in Ordnung. Wenn ich dafür effizient arbeiten kann, dann kann man das anbieten.

Natürlich ist nicht die Regelgebühr, dass irgendwas nur unter 100 Euro kostet. Aber es sollte doch möglich sein, diese Sachen so effizient zu nutzen, dass wir eben auch diese Zeitersparnis, die wir haben, an die Mandanten weitergeben können. Aber auch in den Fällen, die viel, viel Geld kosten, also Wirtschaftsstrafverfahren, Betrugsverfahren mit unglaublich vielen Daten, mit unglaublich vielen Bestellvorgängen im Internet zum Beispiel.

Das kann man sich ja manchmal gar nicht vorstellen, also als ich angefangen habe, bin ich tatsächlich noch mit einem Reisekoffer ins Gericht gegangen, um die Akten abzuholen. Ich habe dann hier die Kanzlei angefangen zu digitalisieren, dass wir dann also gescannt haben, anstatt zu kopieren. Sonst ist man wirklich mit fünf, sechs, sieben Leitzordnern in eine Verhandlung gegangen und hat sich dann irgendwie eine Position rausgesucht, um über die dann zu diskutieren. Und das wird dann schon, mit der KI wird das natürlich erheblich erleichtert und das werden die Mandanten dann natürlich auch spüren.

Sprecher: Ich habe im Einstieg schon gesagt, wir haben uns kennengelernt auf einer Veranstaltung des Anwaltvereins von der Arbeitsgemeinschaft Strafrecht. Dein Pendant quasi zu dem, was du vorgetragen hast, war jemand, der den Datenschutz in den Mittelpunkt gestellt hat. Alles, was du bis jetzt erzählt hast, war... wir können, wir machen und so weiter. Du hast zwar gesagt, wir berücksichtigen den Datenschutz, aber ist er aus deiner Sicht eher ein Hemmschuh?

Florian Schönrock: Ich glaube, da bin ich nicht der richtige Ansprechpartner. Also ich weiß, dass das, was ich mache, datenschutzkonform ist, da achte ich sehr drauf. Ich würde gern noch viel, viel mehr machen. Der Traum wäre natürlich, eine komplette Ermittlungsakte, so wie sie ist, mit allen Daten, mit allen Namen, mit allen Nummern, Geburtsdaten, Polizeibeamten und alles einfach in die KI einzulesen sozusagen und dann mal in einem Frage-Antwort-Spiel durchzuarbeiten. Aber das ist datenschutzrechtlich einfach nicht möglich, weil ich dann personenbezogene Daten von anderen Personen verarbeite, und das kann ich so nicht machen.

Aber ich habe in der Akte einen Schlussbericht, den kann ich in die KI reindiktieren, da kann ich schon sagen, was mich stört oder was mich interessiert. Also ich kann damit umgehen, ja. Der Kollege, der den Datenschutz behandelt hat, hat da auch noch ganz viele Fragezeichen offen gemacht.

Er hat ja auch gesagt, das ist ja alles gar nicht geklärt. Also da ist ja auch die spannende Frage: Was passiert denn, wenn ich irgendeine Anfrage mache und auf einmal wirft mir diese KI Daten aus, personenbezogene Daten, und da stimmt irgendwas nicht. Aber diese Daten habe ich ja noch nicht mal gefüttert.

Also Florian Schönrock, Fachanwalt für Arbeitsrecht, hatte er sozusagen als Beispiel genannt. Ich bin kein Fachanwalt für Arbeitsrecht, wäre ich jetzt verpflichtet, den Kollegen darüber zu informieren, zu sagen, ich habe hier eine falsche Datenverarbeitung, Überarbeitung über dich gehabt sozusagen. Das sind noch ganz, ganz spannende Fragen, aber da darf man sich jetzt auch nicht abschrecken lassen.

Also wir sollten mit dem, was wir haben, einfach sorgsam arbeiten, so wie wir unsere Mandate immer sorgsam führen. Unsere Akten lassen wir auch nicht rumliegen in der U-Bahn oder irgendwas. Wenn wir das einfach berücksichtigen, aber wirklich die Fragestellungen, die uns beschäftigen, mit in die KI hineintragen, dann können wir doch unglaublich… Wir rufen ja auch, anderes Beispiel, unterbreche meinen eigenen Gedanken. Aber ich lese eine Akte und ich habe eine Idee...

Sprecher: Idee heißt in dem Falle, wie verteidigen wir.

Florian Schönrock: Genau, ich habe eine Idee oder ich habe eine Frage, ist das überhaupt verwertbar? Oder wie war das eigentlich nochmal? Das ist ein Rechtsrandgebiet, damit kenne ich mich gar nicht so gut aus. Steuerstrafrecht, da rufe ich dann irgendeinen Steuerberater an oder so was. Aber man hat ja immer dieses Gefühl, da könnte Musik drin sein. Und das diskutiere ich mit meiner Kollegin hier im Büro. Oder ich rufe Kollegen an und spreche das mit denen durch.

Und wenn aber jetzt mal keiner erreichbar ist oder ich bin im Auto – und im Auto denke ich immer sehr, sehr viel nach. In Berlin hat man ja sehr viel Zeit, wenn man Auto fährt, nachzudenken, weil es alles sehr lange dauert. Dann habe ich die KI tatsächlich einfach in so einem Lauschmodus in meinem Handy neben mir liegen und die fragt dann sehr freundlich, wie kann ich dir helfen? Und dann gebe ich meinen Gedankengang und dann gucke ich einfach mal, was dann weiter, was daraus passiert.

Sprecher: Ich habe dich schon zu einem Blick in die Glaskugel genötigt, indem ich nach der Prognose für 2025 gefragt habe. So wie du das alles schilderst, noch hast du das Privileg, als Anwalt über eine juristische Ausbildung zu verfügen und viele Details zu kennen, die ich beispielsweise nicht kenne oder die ein möglicher Mandant nicht kennt. Aber macht dich die KI irgendwann arbeitslos?

Florian Schönrock: Jein. Also die KI wird Dienstleister, die mit Wörtern arbeiten, irgendwann natürlich in einer gewissen Art und Weise auch ablösen. Das ist auch völlig in Ordnung, meines Erachtens. Wir haben ja auch heute kein Faxgerät mehr – auch das wieder, die Justiz hat immer noch Faxgeräte, aber wir schreiben E-Mails und E-Mails gelten ja auch schon als veraltet. Wir schreiben Nachrichten bei irgendwelchen Messenger-Diensten und so weiter, die Kommunikation verändert sich. Und so soll sich natürlich auch die KI, soll ja auch ihren Platz finden, das ist ja völlig in Ordnung.

Ich selbst, für meinen Teil, ich bin ja auch Prozessverteidiger, das heißt, ich stehe mehrmals die Woche, den Großteil der Zeit auch noch in meinem Gerichtssaal und verteidige da live vor Ort. Da muss ich schnell agieren, da muss ich präsent sein, da muss ich gut zuhören, da muss ich dann auch meine Sachen parat haben. Da sehe ich jetzt keine primäre Gefahr, da sehe ich das immer als gute Unterstützung. Wie gesagt, wenn ich einen Sachverständigen befrage, dass ich die KI nebenbei fütter mit Sachen, die der sagt und sagt, soll mir dazu mal Fragen auswerfen.

Ich glaube, dass Vertragsjuristen zum Beispiel sich da umorientieren müssen oder dass das eine Veränderung mit sich bringen wird. Ob die jetzt alle arbeitslos werden, das glaube ich jetzt wiederum nicht. Natürlich werden wieder neue Arbeitsfelder dadurch auch aufgetan oder es wird anders gearbeitet.

Man wird sagen, ja, ich überprüfe Verträge nur noch dann vielleicht im Minutentakt sozusagen, die die KI ausgeworfen hat, anstatt mich irgendwie zwei, drei Stunden mit der Erstellung des Vertrages zu beschäftigen. Das kann ja auch spannend sein, wenn man sagt, okay, ich bin das endlich los, dieses lästige Vertrag erstellen, ich prüfe ihn nur noch und sage, der ist in Ordnung so und kann mich dann wieder wirklich spannenden Fällen widmen.

Sprecher: Läuft auf Google Law hinaus, oder?

Florian Schönrock: Ja, ich weiß es ja auch nicht. Ich kann nur sagen, ich finde es gut, wenn wir damit arbeiten. Ich habe keine Angst davor, dass es uns ersetzen wird. Was die Zukunft bringt, werden wir sehen. Wir können ja die KI mal fragen, wie es in zwei, drei Jahren aussehen wird.

Sprecher: Gute Idee. Dann komme ich wieder her mit dem Podcast „heise meets …". Vielen Dank, Florian Schönrock, Strafverteidiger in Berlin.

Florian Schönrock: Sehr gerne, vielen Dank.

Sprecher: Das war „heise meets … – Der Entscheider-Talk". Sie wollen mehr erfahren? Dann besuchen Sie uns auf heise-meets.de. Wir freuen uns auf Sie.