Italien sperrt ChatGPT und wir hören den Satz: „Die spinnen, die Römer“.  Der Spruch von Gudrun Penndorf in den Asterix Heften ist längst zu einem geflügelten Ausdruck geworden. Trifft er hier zu?

Italiens Datenschutzbehörde hat die populäre KI-Software ChatGPT im Land vorläufig gesperrt. Sie verwies unter anderem darauf, dass der Betreiber OpenAI nicht ausreichend über die Verwendung von Daten informiere. „Der Punkt ist, dass ich, wenn ich nicht weiß, wer was mit meinen persönlichen Daten macht, nicht in der Lage bin, die Verwendung meiner persönlichen Daten zu kontrollieren, um meine Rechte auszuüben“, erklärt der italienische Datenschutzbeauftragte Guido Scorza im Gespräch mit ZDFheute am 31.03.2023. Weiter heißt es im vorgenannten Gespräch: Auch gebe es laut den Behörden keine Filter, die verhinderten, dass Kinder im Alter unter dreizehn (13) Jahren für sie „absolut unangebrachte“ Informationen angezeigt bekämen. Es seien Ermittlungen eingeleitet worden. Die Behörde verbot zugleich vorsorglich die Verarbeitung von Daten der Nutzer aus Italien. ChatGPT ist damit in dem Land nicht mehr anwendbar. Die Beliebtheit des Dienstes sei der Grund, der Italien dazu veranlasst habe, nicht nur eine Untersuchung einzuleiten, sondern den Dienst „zu stoppen, bevor es zu spät ist“, so Scorza. Im Wesentlichen stützt sich die Italienische Behörde somit auf fehlende Rechtsgrundlagen im Datenschutz für die Anwendung von ChatGPT und auf den Jugendschutz. 

Der Bundesdatenschutzbeauftragte Prof. Ulrich Kelber hält ein ähnliches Vorgehen in Deutschland für denkbar. Ein Sprecher des Bundesdigitalministeriums lehnte dies hingegen umgehend ab und betonte Europa müsse „zum weltweiten Vorreiter für vertrauensvolle KI“ werden (Quelle: Handelsblatt). Der frühere Datenschutzbeauftragte von Baden-Württemberg, Stefan Brink, kritisierte das italienische Vorgehen gegenüber dem „Handelsblatt“. Zwar nutze KI regelmäßig auch personenbezogene Daten zu Trainingszwecken, sagte er. „Soweit die Daten allerdings aus dem Internet bezogen werden, überwiegen regelmäßig die berechtigten Interessen der Entwickler gegenüber Schutzbedürfnissen von Betroffenen“, gab er jedoch zu bedenken (Quelle: wie vor).

Es gibt also Befürworter von ChatGPT oder ganz generell von KI und Ablehner. Aber es gibt auch noch eine dritte Gruppe, die der „Pausierer“. In einem offenen Brief haben namhafte Tech-Persönlichkeiten, wie Elon Musk und Apple-Gründer Steve Woszniak gefordert, die rasante Entwicklung von KI („Künstlicher Intelligenz“) für sechs (6) Monate pausieren zu lassen, um einen zivilisatorischen Kontrollverlust zu verhindern. Mit GPT-4 sei eine Grenze erreicht. Nun brauche es kompetente Aufsichtsbehörden und eine angepasste, zukunftsorientierte Rechtsprechung, um KI zu reglementieren. Die Bayerische Digitalministerin Judith Gerlach (CSU) hält einen derartigen Stopp einer modernen Technologie für „schwer umsetzbar“. Noch härter in der Bewertung ist Prof. Antonio Krüger, der Leiter vom Deutschen Forschungsinstitut für KI, er hält die Forderung nach pausieren oder einem Stopp für Dystopie und Panikmache.

Was sind nun die Fakten:

Rechtlich: 

Im April 2021 hat die Europäische Kommission ihren Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI), auch bekannt als KI-Verordnung, vorgelegt. Dieser Entwurf wurde im Deutschen Bundestag durchaus unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales am Montag, den 26. September 2022, deutlich. Während die einen eine Überregulierung befürchten, bewerten andere den Entwurf mit seinem risikobasierten Ansatz durchaus positiv. Wenn wir noch über den Entwurf einer Richtlinie auf EU-Basis diskutieren, sind wir von einem trittfesten nationalen Rechtsrahmen noch Jahre entfernt. Vor 2025 wird es keinen Rechtsrahmen geben. Das hat uns die Praxis gelehrt. Natürlich ist es z. B. wünschenswert, dass etwas wie eine „Kennzeichnungspflicht“ eingeführt wird, dass uns, zum großen Teil noch unerfahrene Nutzer und Konsumenten von KI, darauf hinweist, ob es sich um ein Produkt von KI handelt, wenn wir etwas konsumieren oder nutzen. Aber das wird noch Jahre dauern. Wenn Prof. Dr. Tobias Singelnstein, Inhaber des Lehrstuhls für Kriminologie an der Juristischen Fakultät der Ruhr-Universität Bochum, vorträgt: „Es gibt keine Gesellschaft ohne Kriminalität”, dann wird auch dieser KI-Bereich eine eigene Kriminalität entwickeln. Das ist bedauerlich, aber sicher vorhersehbar. Der Einsatz von ChatGPT führt zu einer Fülle von offenen Rechtsfragen, z. B. in den Bereichen Urheberrecht (Wer haftet, wenn die die KI falsche oder irreführende Informationen liefert?). Im Gegenzug: Erste Praxistests haben ergeben, dass ChatGPT in der Lage ist, plausible Antworten auf alltägliche Rechtsfragen zu liefern. Wollen wird, dass solche Antworten als rechtlich verbindlich angesehen werden? Da die Jurisprudenz nicht die Pfeilspitze der technologischen Innovation bildet, wird sie mit ihren Antworten auf sich warten lassen. Das Faktische wird die Geschwindigkeit der Entwicklung aufzeigen und nicht der Rechtsrahmen. Wenn der Rechtsrahmen steht, haben wir den Umgang mit KI vermutlich längst verstanden.

Faktisch: 

Man kann Technologie nicht mit Verboten aufhalten. Verbote führen in die Intransparenz, wie der Umgang mit Drogen zeigt. Das ChatGPT-Verbot in Italien hat dort für ein massives Interesse an VPN-Diensten gesorgt. Das war doch zu erwarten. Der Italiener ist wieder im Römischen Reich in seiner größten Ausdehnung (vermutlich: Tod Kaiser Trajans 117 n. Chr.)  angekommen. Er wählt seinen virtuellen Standort nun in den ehemaligen römischen Provinzen. Mal ist er z. B. Deutsch, mal Französisch, mal Spanisch, mal… So werden es alle machen, denen ein Verbot ins Haus steht. Nein, die spinnen nicht, die Römer. Wenn Lehrer und Professoren nun vortragen, dass die Leistungsbilder von abgegebenen Arbeiten schwierig zu überprüfen sind, fahren sie den pädagogisch falschen Ansatz. Richtig wäre dem Umgang mit ChatGPT zu lehren und die Prüfformate anzupassen.

Spätestens jetzt: 

Die Politik sollte ChatGPT und KI nicht verbieten, sondern darüber aufklären und die Anwendung sachgerecht unterstützen. Wir haben eine neue weltweite Technologie und sollten uns darüber im Klaren sein, dass KI gekommen ist, um zu bleiben. Lernen wir mit ihr umzugehen. Von der beruflichen Perspektive werden Köche, Bäcker und viele andere Handwerker (jeweils m/w/d) allerdings den Umgang mit KI gelassener angehen können als „Brainworker“. 

Wilfried Reiners, Rechtsanwalt

CEO PRW Group

München, den 19. April 2023