12 minutes
Kompensiert es einen Mangel an Intelligenz und ist es ein außergewöhnlicher wissenschaftlich-technologischer Durchbruch? Das Feuerwerk, welches seit Dezember letzten Jahres zur Künstlichen Intelligenz – kurz KI – in den Medien abgeht, sucht seinesgleichen. Im Bereich der Schreibenden Zunft, den Schulen und vielen informationsverarbeiteten Berufen, ja selbst der Kunst, wird das ehrliche Staunen dabei von gewissen Ängsten begleitet, welche Auswirkungen deren breite Durchdringung auf die eigene Arbeit haben kann und wird. Unsere Spielerei mit ChatGPT haben wir hier in der Spitzfindigkeit #101 festgehalten. Aufzuhalten ist diese Entwicklung künstlicher neuronaler Netze fraglos nicht mehr, aber: Wie viel KI darf es denn sein?
Neuer Zauber
In faz-net vom 20.1.2023 (hinter Schranke) wird mit Blick auf das Weltwirtschaftsforum in Davos folgendes festgehalten: „Als die Planungen für die Show in den Schweizer Alpen liefen, ahnte … niemand, wer der eigentliche Star der Veranstaltung sein würde: ChatGPT, die Software (des US-amerikanischen Unternehmens Open AI – JG), die Anwendungen rund um Künstliche Intelligenz (KI) auf ein völlig neues Niveau hebt und breiten Schichten zugänglich macht. Es gab kaum ein Gespräch, in dem nicht von den neuen Chancen, aber auch potentiellen Risiken die Rede war.“
Und weiter: „ChatGPT ist ein sogenannter Chatbot, der mithilfe von KI die unterschiedlichsten Anfragen beantworten kann, und er tut das mit erstaunlicher Qualität und einer Eloquenz, die einer Unterhaltung mit einem Menschen ähnelt. Die Software ist wie eine digitale Allzweckwaffe. Sie schreibt Liebesbriefe ebenso wie Programmiercode, sie verfasst Gedichte und sogar ganze Drehbücher, sie schlägt Marketingkampagnen vor, und wer will, kann sich von ihr auch Beziehungstipps geben lassen.“
GPT meint „Generative Pretrained Transformer“ und beschreibt in der KI-Fachsprache, wie die Modelle von den Entwicklern konstruiert wurden: „Mit bestimmten Lern-Algorithmen und gewaltigen Textmengen. … GPT-3 beispielsweise, ein Verwandter von ChatGPT, verfügt über 175 Milliarden Parameter, sozusagen kleinste Stellschrauben, welche die Lern- und Leistungsfähigkeit mitbestimmen.“ Nur um die Größenordnung zu unterstreichen, dies ist eine Zahl mit neun Nullen – aber lange noch nicht das Ende der Fahnenstange, selbst 1,6 Billionen Parameter sind denk- und realisierbar.
Die Stimme einer Expertin aus Davos: „ChatGPT wird das Such- und Wissensmanagement komplett revolutionieren, es wird zur Automatisierung von Wissensarbeit führen.“ Man werde darüber reden müssen, was unter diesen Umständen Kreativität und Intelligenz eigentlich bedeuten.
Sich ausbreitende Schockwellen
Die NZZ vom 26.1.2023 sieht Schockwellen durch Lehrerzimmer und Hochschulen ziehen. Die Auswirkungen für die Bildung seien noch überhaupt nicht abzuschätzen. In der Lehrerschaft gäbe es grob zwei Gruppen: die Innovativen erklären nachsichtig, es sei eigentlich nichts Neues, sondern vergleichbar mit der Einführung des Taschenrechners oder der Rechtschreibprüfung im Word-Programm. Die andere Gruppe, die den Computer nie im Schulzimmer haben wollte, sieht „… sich bestätigt, für sie ändert sich nichts. Ausser dass plötzlich alle die Hausaufgaben erledigt haben.“
Andreas Pfister, Bildungsjournalist und zugleich Deutschlehrer, urteilt wie folgt: „Das eigene Schreiben, bis anhin als genuin menschliche Tätigkeit verstanden, hat mit Chat-GPT einen mächtigen Konkurrenten erhalten. Mit einem durchschnittlichen Deutschaufsatz kann die Maschine nicht nur mithalten, sie kann ihn übertreffen. Das allein ist eine Sensation.“
Erschütterungen bei Intelligenz und Kreativen
Auf Tichys Einblick vom 1.1.2023 liefert Alexander Wendt einen lesenswerten „Jahresvorblick“ zur KI, dem ChatGPT und den langfristigen Folgen. Er prophezeit, dass dies den Journalismus und das gesamte akademische Milieu radikal umpflügen, die Öffentlichkeit aber gleichförmiger machen wird. Das Veränderungspotential für die Gesellschaft schätzt er tiefer, das heißt gravierender ein, als durch das Mobiltelefon und den Computer.
In seinem Selbstversuch – (noch) auf Englisch – will er vom ChatGPT wissen, was die Zukunft für den Journalismus bringt. Die Antwort kommentiert er wie folgt: „Wann wurde je ein Kündigungsschreiben für große Teile einer Branche so höflich verfasst? Und vor allem durch eine Maschine, die niemand dafür hassen kann?“ Auch einen Witz kitzelt er ihr heraus, ein Bedürfnis, das nach Wendts Einschätzung etwa 10 Prozent der Menschen verspüren. Bisher sei auch die beste KI an dieser Aufgabe gescheitert. Wie wahr, denn auf die Bitte nach einem klassisch-jüdischen Witz erhielt er als Antwort von ChatGPT: „Sure, here is a classic Jewish joke: Why couldn’t the bicycle stand up by itself? Because it was two-tired.“
Definitiv kein jüdischer Witz. Dafür erzählte Alexander Wendt einen, worauf sich ChatGPT höflich bedankte. Nach einem Jahr Training wird das Programm vermutlich tausend bessere Witze kennen als den mit dem müden Fahrrad. „Es wird sich allerdings erst einmal keine Witze ausdenken.“
Weitere Schwachstellen der KI
Dafür kann die KI, wie DerStandard vom 9.12.2022 festhält, in Form der massentauglichen KI-App Lensa in Bildern auch sehr sexistisch sein. Zudem ist sie eine ernsthafte Bedrohung der digitalen Kunst, die durch KI – so wie einst die Sauriere mittels Meteoriteneinschlag – laut NZZ vom 23.11.2022 auszusterben drohe. Festzustehen scheint auch, dass die KI die klassische Programmiererei verdrängt, wie in faz-net vom 30.1.2023 (hinter Schranke) herausgearbeitet wird.
Faz-net vom 5.2.2023 vergibt unter dem Titel „Nur, ist das alles richtig?“ ein Ungenügend in Mathematik. Der Mathematiker Edmund Weitz stellte ChatGPT eine Reihe von Aufgaben und nach Überprüfung fest, das System verfüge über “ … keine ernsthaften Rechenfähigkeiten“.
In der NZZ vom 9.2.2023 wird zudem ein öffentlich wahrgenommener inhaltlicher Fehler herausgestellt und als ein Schwachpunkt angesprochen, Sprach-KI mache passiv und lade dazu ein, blind zu vertrauen. „Auch das zeigt der Ausrutscher bei der Präsentation. Dass offenbar selbst bei Google das Bewusstsein dafür fehlt, ist nur auf den ersten Blick lustig. Eigentlich ist es besorgniserregend. Eine KI, die alle Fragen beantwortet, klingt praktisch. Doch sie bedeutet Entmündigung. Das Gegenteil dessen, was wir in der Informationsgesellschaft brauchen.“ So kommentiert Ruth Fulterer in der NZZ.
Fallstricke, offene Fragen und notwendige Leitplanken
Des einen Leid, des anderen Freud. DerStandard vom 2.2.2023 berichtet, dass Microsoft mit ChatGPT mehrere KI-Funktionen in seine Besprechungsplattform „Teams“ integriert. Firmen sollen die Produktivität steigern und Kosten senken können, indem damit automatische Meeting-Notizen generiert, Aufgaben empfohlen und Vorlagen leichter erstellt werden. Dieser Premium-Dienst soll ab Juni diesen Jahres für sieben Dollar pro Monat und ab Juli für zehn Dollar zu haben sein.
Laut NZZ vom 7.2.2023 hat Google unter dem Eindruck des Hypes um ChatGPT nunmehr einen eigenen Chatbot angekündigt. „Bard“ ist für vertrauenswürdige Tester geöffnet und soll in absehbarer Zeit auch der Öffentlichkeit zugänglich gemacht werden. Der Name des Dienstes – in Deutsch „Barde“ – soll übrigens eine Anspielung auf William Shakespeare sein.
Der Wettbewerb zwischen Microsoft und Google, wie auch zwischen der KI und der MI – der Menschlichen Intelligenz – generiert sich hier als Motor des Fortschritts.
Fallstricke
KI ist inzwischen überall, selbst da, wo man sie nicht erwartet – so die NZZ vom 21.2.2023. Digitalisierung und KI haben so auch in der Putz-Branche Einzug gehalten. „Der Kunde legt nicht mehr fest, wie viele Stunden wo was gereinigt werden soll, sondern erwartet am Morgen saubere Büroräume.“ Zielführend ist dabei sensorbasiertes Putzen mit elektronischem System, das anzeigt, in welchen Räumen viele Meetings waren und wo besonders viel Schmutz angefallen sein dürfte. Gereinigt wird nicht stur immer das Gleiche, sondern dort, wo es am sinnvollsten ist. KI, „… das höre sich esoterisch und fremdartig an … . Doch in dem Moment, wo man sie einsetze, gehöre sie zum Arbeitsalltag.“ So ein Konzernchef.
Auch wenn diese Schlußfolgerung nicht verallgemeinerbar ist, es ist wichtig, wie im Artikel der NZZ vom 7.2.2023 beschrieben, die Menschen an Bord zu behalten. „Fachleute mit Erfahrung, Kreativität und Analysefähigkeit braucht es weiterhin. Erodiert der Wert ihrer beruflichen Qualifikationen, sind sinkende Löhne und der Verlust von Arbeitsplätzen die logische Konsequenz. Soziale Unruhen dürften dann nur noch eine Frage der Zeit sein. Statt den Wandel und die Produktivitäts- oder Effizienzgewinne zu fürchten, müssen wir Menschen überlegen, wie wir mit der neuen Technologie sinnvoll durch die Arbeitswelt navigieren.“
Offene Fragen
Welchen Einfluß haben MI und KI auf die Kreativität? Macht KI uns Menschen gescheiter oder dümmer, und wenn ja, wen genau? Werden regelrecht Einzelkämpferinnen und -kämpfer gezüchtet und gehen dadurch Kollegialität und Teamgeist verloren? Und wie groß ist der Energieverbrauch durch die vermehrte Inanspruchnahme der KI in den Rechenzentren?
Gegenmaßnahmen und Leitplanken
Sind, wie auf der Milchtüte, Inhalts-, Haltungs- und Herkunftsangaben mit Zertifikaten denkbar? So beispielsweise: „50% KI mit einer Billion Parameter aus dem europäischen Raum“. Oder die Vorgabe für schriftliche Prüfungen jeder Art – Schule, Universität, Kammer – keinerlei KI anzuwenden. Vielleicht kommt es so wie in der Kneipe ums Eck, wo Mann/Frau auch alkoholfreie Getränke bestellen kann. Also, bitte ein KI-freies Produkt.
Die schärfste Waffe wäre ein universeller Chatbot, der sekundenschnell feststellt, ob und wenn ja in welchem Umfang das vorgelegte Ergebnis KI getrieben/beeinflußt ist. In diese Richtung argumentiert die IT-Expertin Ute Schmid in faz-net vom 19.2.2023, schränkt allerdings ein: „Das ist ein Hase- und Igel-Rennen – wenn die Erkennung besser wird, werden danach die Verschleierungstaktiken besser. Es wird auch nie zu 100 Prozent funktionieren, menschlich erstellte Texte werden teils als von Chatsystemen erstellte erkannt. An der Universität überlegen wir gerade, ob wir die eidesstattlichen Erklärungen, dass auf keine nicht angegebene fremde Hilfe zurückgegriffen wurde, verallgemeinern – damit die Tools auch sicher mit darunterfallen. Es wäre ja teilweise in Ordnung, Sprachgeneratoren zu nutzen, wenn es offengelegt wird.“
In diese Richtung zielt die geplante KI-Verordnung der EU. Wenn ein KI-System und nicht ein Mensch etwas generiert hat oder gerade mit einem interagiert, soll dies transparent gemacht werden. Wenn ein KI-System einen Termin ausmacht, sollte das auch kenntlich sein. Bei automatischer Berichterstattung der Hinweis gegeben werden, dass der Text automatisch generiert ist. „Aber auf jeder Webseite Hinweise wie ‚Achtung, Ironie, Achtung, Ironie‘? Das wäre wohl nicht praktikabel.“ So Ute Schmid.
Gesetzgebungsnotwendigkeit
Faz-net vom 16.2.2023 (hinter Schranke) läßt einen ausgewiesenen Medienrechtler nach Brüssel schauen. „Die DSGVO wird aktuell um eine KI-Regulierung ergänzt. Nach dem Entwurf der EU, der bis zum Frühjahr 2024 geltendes Recht sein soll, soll der Mensch die Letztentscheidung nach der Maschine haben. Ob es sich bei Chatbots auf Basis künstlicher neuronaler Netze um Risikoanwendungen handelt, die der KI-Verordnung unterfallen, das ist bis zu deren Verabschiedung offen. Die KI-Verordnung stellt bei der Risikoermittlung auf den Zweck der Anwendung ab. Verboten ist der Einsatz von KI-Systemen, um das Verhalten einer Person zu beeinflussen. Der Gesetzgeber will also verhindern, dass Maschinen Steuerungsfunktionen über die Gedanken von Menschen übernehmen oder Handlungsdruck erzeugen.“
Und weiter: „In der anstehenden Regulierung neuronaler Netzwerke geht es für die Gesetzgeber in Europa und in aller Welt darum, schnell, umsichtig, klug und entschlossen den Weg für eine ethisch und rechtlich gute Nutzung von KI zu ebnen.“ Prof. Rolf Schwartmann, Leiter der Forschungsstelle für Medienrecht an der TH Köln, bezieht sich dabei auf den israelischen Nobelpreisträger Daniel Kahneman, der daran arbeitet, „… wie man bei der Entwicklung von Algorithmen nach logischen Regeln erkennbare Fehlerquellen …. einer Programmierung und unspezifische und verdeckte Fehlerquellen von Computerentscheidungen …“ vermeiden kann. Die neue Technik dürfe nicht in eine Dystopie münden, das heißt, dass der Mensch seine Selbstbestimmung an die Maschine abgibt. Die simulierten Gedanken neuronaler Netzwerke müßten von unseren eigenen echten Gedanken unterscheidbar sein.
Pro Grundregeln für die KI
Faz-net vom 17.2.2023 weiß, dass auch der Microsoft-Vizechef Brad Smith für die zügige Einführung von Grundregeln für die KI plädiert. „Wenn Menschen nicht auf Basis von Hautfarbe oder Geschlecht diskriminieren dürfen, dann sollten das Künstliche Intelligenzen auch nicht tun dürfen.“ Weitere Regeln müssten mit der Zeit aufgrund der Erfahrungen, wie auch Experimenten mit der neuen Technik hinzukommen. Die Gesetze sollten sicherstellen, dass jeder/jede sich an diese Regeln hält. Wem es aufgefallen ist: Microsoft hat seinen Brad und Google nun seinen Bard.
Ganz ohne Humor geht es nicht
Lustige Gleichsetzung von KI und Politikern/Politikerinnen – wir hüpfen dazu zum faz-net Beitrag ganz am Anfang zurück. Dort erkennt ein KI-Pionier folgende Parallele: „Ich vergleiche ChatGPT … gerne mit Politikern. Politiker können meist gut reden, und zu beliebigen Fragen flott druckreife Antworten liefern. Dabei kombinieren sie Parolen, die sie schon in vielen früheren Reden verwendet haben, auf immer wieder neue Weisen, sodass keine zwei Antworten wirklich identisch sind. Trotzdem kommen dabei oft Plattitüden ohne allzu viel neuen Tiefgang heraus.“
Ehrlich, wer denkt da nicht sofort an unsere famose Außenministerin, an diverse Verdreher und -sprecher in ihrer Mutter-, aber auch der englischen Sprache. Annalena Baerbock könnte zweifelsohne eine doppelte Portion KI vertragen.
Widmung
Meinem Vater Georg posthum gewidmet. Er war eine Kämpfernatur, zugleich jemand der Gemeinschaft liebte und mit Humor durchs Leben schritt. Vor genau einem Jahr hat er seine letzte Ruhestätte bezogen. Ohne ihn ist schon viel Zeit vergangen, unsere Gedanken jedoch halten ihn fest!
Und hier geht es weiter, muss es weiter gehen zur nächsten Spitzfindigkeit.
#PreppoKompakt
Wie viel KI darf es denn sein? Diese Frage sollte unvoreingenommen diskutiert werden. In der Folge sind akzeptable Leitplanken – nicht zu verwechseln mit Verboten – für die Nutzung der KI zu entwickeln und verbindlich zu machen. Wie auch jene Menschen an dem Zugewinn beteiligt werden können, die zu den „Verlierern“ dieser Entwicklung gehören, ist eine weitere zentrale Frage, für die es Antworten zu finden gilt. Nur zur Klarstellung: dieser Beitrag wurde ohne KI erstellt – garantiert.
