KI: Ein hohes Tempo und viele neue Fragen | Ethius Invest

Dank ChatGPT wird generative KI intensiv gesellschaftsweit diskutiert. Die ethisch-nachhaltige Tragweite erreicht Politik und Rechtsprechung. Wie es diesbezüglich um die Anbieter, Zulieferer und Investoren steht, ist schwerer auszumachen.

Seit Ende November 2022 ist mit ChatGPT eine Anwendung Generativer KI der breiten Öffentlichkeit kostenfrei zugänglich. Es handelt sich um ein Dialogsystem, das mit Nutzern und Nutzerinnen über Textnachrichten kommunizieren kann. GPT steht dabei für Generative Pre-trained Transformer. Wer sich dort registriert und anmeldet, kann in ein einfaches Textfenster alle erdenklichen Fragen und Bitten eingeben. Die Anwendung erzählt auf Anfrage Witze, schreibt Gedichte, Anekdoten oder Programmcodes und erteilt im Stile kurzer Essays Auskunft zu allen möglichen Themen. Dahinter steht das US-amerikanische Unternehmen OpenAI, das unter anderem den umstrittenen Unternehmer Elon Musk zu seinen Geldgebern zählt. Im Januar dieses Jahres gaben der ChatGPT-Entwickler und Microsoft eine Partnerschaft bekannt. 

Eine weniger bekannte, aber ähnliche Anwendung, ist Perplexity. Ein Plus gegenüber ChatGPT ist hierbei, dass zu den generierten Informationen die jeweiligen Quellen angegeben werden. Zudem gibt es eine Reihe an Diensten, die anstatt Texten Bilder generieren:¹ Hierzu zählt Dall-E. Es ist wie ChatGPT eine Anwendung von OpenAI und zugleich das bekannteste Programm dieser Art. Je nach Eingaben zu Aspekten wie Stil, Stimmung oder Lichteinfall kann damit eine große Bandbreite an Bildern generiert werden. Ab einer bestimmten Anzahl ist der Dienst kostenpflichtig. Erwähnenswert ist zudem Midjourney mit Sitz in San Francisco. Wer sich dort anmeldet, ist sodann angehalten, ein Profil bei der Social Media-Anwendung Discord anzulegen. Danach folgt eine Einladung zum Midjourney-Server, wo gemäß Texteingaben Bilder generiert werden können. Stable Diffusion ist ein weiterer Dienst zum Erzeugen von Bildern, der zu den bekannteren zählt. Neben Texten und Bildern gibt es außerdem Anwendungen, die beispielsweise Musikstücke, Klänge, Videos oder Programmiercodes erzeugen.

Was ist nun also das Besondere an Generativer KI? Es ist die Fähigkeit, selbst neue Daten erzeugen zu können. Dies ist ein Unterschied zu anderen KI-Anwendungen, die beispielsweise Daten analysieren oder dafür programmiert sind, bestimmte Probleme zu lösen oder Entscheidungen zu treffen. Bei Generativer KI kommen maschinelle Lernmodelle zum Einsatz, die durch Trainings Software befähigen, Muster und Strukturen in Daten zu erkennen. Für die Trainings werden große Datenmengen benötigt. Dies sind bei ChatGPT sehr umfangreiche Textquellen – bei Anwendungen zur Bildgenerierung entsprechend Fotos, Illustrationen oder Gemälde. Auf dieser Basis und nach erfolgreich absolviertem Training inklusive Finetuning können dann neue Texte und Bilder – oder eben auch Musikstücke, Klänge, Videos oder Code – mit ähnlichen Eigenschaften erzeugt werden. 

Chancen und Möglichkeiten 

Während auf der einen Seite fast schon eine Art Euphorie rund um die Vorteile und Möglichkeiten Generativer KI zu beobachten ist, gibt es auch Herausforderungen und sogar Schreckensszenarien bis hin zu Weltuntergangsfantasien. Dabei werden potenzielle Risiken meist mit Blick auf die Anwendungen selbst thematisiert. Jedoch könnten für die Anbieter und Entwickler ebenso neue Hürden am Horizont auftauchen. Aber eines nach dem anderen. 

Als Einstieg sei zunächst ein Blick auf die Chancen und Möglichkeiten geworfen. Hier wird ein großes Potenzial darin gesehen, die menschliche Kreativität zu fördern oder gar zu verbessern. Als weiterer Vorteil ist die Fähigkeit Generativer KI zu nennen, bei einfachen und repetitiven Aufgaben zu unterstützen und damit für Menschen mehr Zeit für kompliziertere und differenziertere Aufgaben freizuschaufeln. Zudem könnten neue Erkenntnisse leichter gewonnen werden, weil Generative KI möglicherweise Zusammenhänge aufzudecken vermag, die Menschen nicht oder nicht so schnell sehen.² Aus kommerzieller Perspektive ist auf eine Vielfalt an Anwendungsmöglichkeiten, etwa im Marketing, Kundenservice, der IT oder Unterhaltung und bei Weiterbildungen, zu verweisen.³ 

Weltuntergangsszenarien aus Kalkül?

Die düstersten Szenarien hingegen kommen ausgerechnet von denjenigen, die seit Jahren KI-Lösungen vorantreiben. Dies mag überraschen. Doch tatsächlich veröffentlichten Ende Mai dieses Jahres KI-Fachleute und Personen des öffentlichen Lebens, darunter OpenAI-CEO Sam Altman, Bill Gates und Skype Mitgründer Jaan Tallinn, ein Statement, in dem sie fordern, dem Risiko des Aussterbens durch KI solle neben anderen Risiken wie Pandemien und Atomkrieg global Priorität eingeräumt werden.

Diese Warnung erntete jedoch auch an der einen oder anderen Stelle Spott. Und die KI-Ethikerin Dorothea Baur vermutet gar Taktik dahinter: Die Initiatoren des Statements jagten der Öffentlichkeit Angst vor der Auslöschung der Menschheit durch KI ein, um sich selbst dann als diejenigen zu präsentieren, die den hypothetischen Schaden abwenden können. Dabei sei die Voraussetzung, ihnen hierfür die Macht, das Geld und ihre marktbeherrschende Stellung zu überlassen. Anstatt auf das Hier und Jetzt zu fokussieren, würden vage Weltuntergangsszenarien verbreitet, fasst die KI-Ethikerin zusammen. Wichtig sei vielmehr, bestehende gravierende ethische Probleme wie Überwachung, Diskriminierung und Urheberrechts-Verletzungen zu thematisieren.⁴ 

Verletzt Generative KI die Rechte von Urhebern?

Diese Anregung soll gerne angenommen werden, beginnend mit Fragen rund um das Copyright.
Hierfür ist ein am 18. Mai 2023 vom höchsten Gericht in den USA gefälltes Urteil⁵ sehr erhellend – auch wenn es darin gar nicht um Generative KI ging. Gegenstand war ein Rechtstreit zwischen der Andy Warhol Foundation und dem Fotografen Lynn Goldsmith. Dieser hatte in den achtziger Jahren den Popstar Prince fotografiert und das resultierende Foto wiederum war die Grundlage für eine Illustration von Andy Warhol. Goldsmith machte Jahrzehnte später Urheberechte geltend und konnte damit sieben der neun Richterinnen und Richter überzeugen.⁶

Diese argumentierten, eine gegenteilige Entscheidung könnte möglicherweise dazu führen, dass eine Reihe von kommerziellen Fotokopien zugelassen werden, die wiederum für Zwecke verwendet werden könnten, die weitgehend denen der Originale entsprächen. Urheberrechtsverletzungen würden Tür und Tor geöffnet. Die Richterin und der Richter in Minderzahl gaben dagegen zu bedenken, das Urteil werde neue Kunst, Musik und Literatur behindern, den Ausdruck neuer Ideen und die Erlangung neuen Wissens vereiteln und unsere Welt insgesamt ärmer machen.⁷ 

Mögliche Implikationen des Urteils für Generative KI sind enorm. Schließlich werden für die Trainings dieser Anwendungen massenhaft auch urhebergeschützte Werke herangezogen. Und auf deren Basis entstehen dann neue Texte, Bilder, Lieder und Filme. Sind dies originär neue Kreationen oder immer noch die Werke der Menschen, auf deren Basis sie entstanden sind? 

In jedem Fall gibt es Künstlerinnen und Künstler, die auf Letzteres pochen. In den USA sind aktuell Klagen anhängig, die sich gegen die Anbieter von Bilderzeugungs-KI Stability AI und Midjourney sowie DeviantArt, eine Online-Kunst-Community, richten. Die drei Unternehmen machten zwar für sich geltend, dass keine Verletzungen der Urheberrechte nachzuweisen seien, doch der Ausgang des Rechtstreits ist noch offen.⁸ Auch gegen OpenAI, GitHub, ein Dienst zur Unterstützung bei Software-Entwicklungsprojekten, und seinen Mutterkonzern Microsoft laufen Klagen wegen Urheberrechtsverletzungen.⁹ 

Urheberrechte für KI-Werke?

Während die Gerichtsurteile mit Spannung abzuwarten bleiben, gibt es noch eine weitere interessante Frage: Sollen durch KI erzeugte Werke selbst Urheberrechte für sich in Anspruch nehmen können? Zunächst liegt der Sinn des Schutzes von Urheberrechten darin, einen Anreiz zur Neuschöpfung von Werken schaffen. Einer Incentivierung bedarf jedoch KI nicht. Und ganz abgesehen davon würden Copyrights für KI-Werke das Urheberrecht selbst ad absurdum führen. Denn Generative KI hat die Fähigkeit, alle möglichen Variationen von Texten, Bildern und Musikstücken zu kreieren. Werden hier umgehend Rechte geltend gemacht, stünden Künstlerinnen und Künstler bei Neuschöpfungen im Ergebnis stets im Risiko, mit dem Urheberrecht in Konflikt zu geraten.¹⁰ Folgerichtig hat das Amt für Urheberrecht in den USA unlängst entschieden, dass Kunst, die ausschließlich von KI geschaffen wurde, nicht urheberrechtlich geschützt werden kann.¹¹

Überwachung und Manipulationen 

Neben der Überwachung des Menschen durch KI treiben darüber weit hinausgehende Möglichkeiten der Manipulation kritische Stimmen wie den Computer-Wissenschaftler Louis Rosenberg um.¹² Er sieht die zunehmende Möglichkeit, derzeit verfügbare KI einzusetzen, um Individuen mit extremer Präzision und Effizienz zu überwachen, zu steuern und zu manipulieren. Dies könne, so schreibt er, auch in großem Maßstab von Unternehmen, staatlichen Akteuren oder Diktatoren mit dem Ziel eingesetzt werden, breite Bevölkerungsschichten zu beeinflussen. Diese Gefahr sieht er insbesondere bei KI, die direkt mit Menschen über Kommunikation interagiert – wie ChatGPT.

Louis Rosenberg zufolge werden bestimmte KI-Systeme zudem bald in der Lage sein, Emotionen in Echtzeit zu analysieren, über Webcam-Aufnahmen Gesichtsausdrücke, Augenbewegungen und Pupillenerweiterungen zu verarbeiten, um all dies dann in Strategien zur individuell abgestimmten Manipulation einfließen zu lassen. Der Computer-Wissenschaftler mahnt daher an, Regulierungsbehörden sollten sich unverzüglich mit diesem Thema befassen und den Einsatz solch gefährlicher KI-Systeme zu verhindern suchen.¹³ 

Falschinformationen, Vorurteile und Diskriminierung

Vor diesem Hintergrund erscheint das Risiko der Falschinformation, das von Generativer KI ausgehen kann, fast harmlos. Im Fachjargon wird von „Halluzinationen“ gesprochen. Damit sind durch Generative KI wie ChatGPT fabrizierte unwahre, irreführende, scheinbare oder völlig frei erfundene Fakten gemeint.¹⁴ Wer derartige Dienste nutzt, ist daher angehalten, die durch KI generierten Informationen stets kritisch zu prüfen. 

Mehr noch: Es ist wichtig, sich dessen bewusst zu sein, wie diese Informationen entstehen. Nämlich auf Basis von bestehenden Quellen, die ihrerseits auf einer bestimmten und durchaus nicht zwingend transparenten Auswahl beruhen, falsch sein sowie Vorurteile und Verzerrungen enthalten können. Dies alles wird durch Generative KI am Ende reproduziert und kann daher dazu führen, Vorurteile und Diskriminierungen zu verstärken und bestehende Ungleichheiten zusätzlich zu befördern. 

Die physische Basis 

Neben soeben skizzierten Risiken der Anwendungen sollte die Abhängigkeit von der physischen Welt nicht ausgeblendet werden. Denn ohne seltene Erden, weitere Rohstoffe, der daraus hergestellten Hardware und die damit bestückten Rechenzentren und Serverfarmen gibt es keine KI.

Entsprechende Kapazitäten und das Geld, diese einzukaufen, können tatsächlich für Anbieter und Entwickler von Anwendungen eine große Hürde darstellen. Denn Rechenleistung ist das Lebenselixier Generativer KI. So ergeht es zum Beispiel Aleph Alpha aus Heidelberg. Das Unternehmen verfolgt das hoch gesteckte Ziel, das „deutsche OpenAI“ zu bauen, muss dabei jedoch mit läppischen 28 Millionen Euro auskommen. Damit lässt sich kaum ausreichend Rechenleistung einkaufen bzw. zumindest ziemlich wenig im Vergleich zum großen US-Vorbild, dem Microsoft laut aktuellen Berichten zusätzlich in Milliardenhöhe unter die Arme greift.¹⁵ 

Anbieter und Entwickler von KI – insbesondere Generativer KI – brauchen also das ganz große Geld. Und zwar zunächst für sehr viele Hochleistungschips. Als Messlatte gilt derzeit der 10.000 US-Dollar teure A100 von Nvidia. Diese Chips wiederum sind Bestandteile von Grafikprozessoren (GPU) für die Rechner in den Serverfarmen, wo die die Trainings der Anwendungen Generativer KI stattfinden. Diese nehmen häufig die gesamte Rechenleistung eines Computers in Anspruch, manchmal sogar über Stunden oder Tage. Zum Vergleich: Um eine Webseite bereitzustellen, wird Rechenleistung in Stößen von Mikrosekunden benötigt.¹⁶

Mit einem geschätzten Marktanteil von 95 Prozent ist Nvidia bei entsprechenden GPU bzw. den dafür erforderlichen Chips der unangefochtene Primus. Aber auch AMD und Intel haben Ähnliches im Angebot.¹⁷ Wie Bloomberg berichtet, soll Microsoft mit AMD zudem an der Expansion des Chipgeschäfts in den Bereich künstlicher Intelligenz arbeiten.¹⁸ Darüber hinaus ist zu lesen, dass Tech-Riesen wie Google und Amazon eigene, speziell für rechenintensive KI-Anwendungen ausgelegte Chips entwickeln.¹⁹ In diesem Kontext soll nicht unerwähnt bleiben, dass Google einen eigenen KI-Chatbot namens Bard basierend auf dem Sprachlernmodell Lamda angekündigt hat.²⁰

Ökonomisches Potenzial und ethisch-nachhaltige Herausforderungen

Nicht nur für Tech-Unternehmen, sondern ebenso für Chip- bzw. Halbleiterhersteller wie Nvidia, AMD oder Intel, hält Generative KI damit große ökonomische Chancen bereit. Aber das Geschäftsmodell birgt auch Risiken, etwa mit Blick auf das Urheberrecht und die weiteren oben beschriebenen Herausforderungen. Hinzukommt der massive Energieverbrauch aufgrund der hohen Rechenintensität und der Rohstoffbedarf für die Hardware. 

Generative KI heizt also den Klimawandel mit an und steht durch den Bedarf an Metallen sowie seltenen Erden potenziell auch mit Umweltzerstörung und Menschenrechtsverletzungen im Zusammenhang. Zudem ist die Generative KI selbst auf menschliche Arbeit angewiesen, beispielsweise um gewalttätige, sexistische und rassistische Inhalte zu klassifizieren und herausfiltern zu können. Dies kann für die Beschäftigten sehr belastend sein kann. Zudem gibt es Beispiele, wo für diese Arbeiten sehr geringe Löhne gezahlt wurden.²¹

Ob die Treibhausgasemissionen aufgrund des hohen Energiebedarfs der Generativen KI durch dessen Klimaschutzpotenziale aufgewogen werden können, lässt sich nicht unmittelbar beantworten. Sicher können KI-Anwendungen helfen, den Ressourcenverbrauch weiter zu optimieren, innovative nachhaltige Lösungen möglicherweise schneller zu entwickeln und die Klimaforschung und -modellierung zu unterstützen. Insbesondere diejenigen, die neben technischen Lösungen stets die soziokulturelle und politische Dimension einer nachhaltigen Entwicklung betonen, dürften bezüglich einer positiven Klima- und Nachhaltigkeitsbilanz Generativer KI jedoch skeptisch bleiben.

Ausblick

Die Rolle von ethischen Anforderungen, Rechtsprechung und Politik ist bereits angeklungen. In diesem Zusammenhang soll beispielhaft auf die Grundsätze für den ethischen Einsatz von KI der Vereinten Nationen und den aktuell im Abstimmungsprozess befindlichen EU-Rechtsrahmen für KI verwiesen werden (siehe Textkästen). Allerdings bestehen Zweifel, dass die Politik mit den rasanten Entwicklungen im Bereich der KI überhaupt Schritt halten kann. Der EU-Rechtsrahmen wird voraussichtlich nicht vor 2026 in Kraft treten.²² Und bis dahin kann sehr viel passieren.

Mit Blick auf Unternehmen, die in der Wertschöpfungskette von KI eine Rolle spielen oder diese selbst anbieten und entwickeln, wird spannend bleiben, wie sie sich weiter aufstellen, wann sie neue Anwendungen auf den Markt bringen und welche Position sie zu den Debatten und möglicherweise auch ganz neuen Herausforderungen in Sachen Ethik und Nachhaltigkeit einnehmen. Ein wichtiger Beitrag von Investoren kann hier sein, diese Themen im Rahmen von Dialogstrategien auf die Agenda zu setzen und im Idealfall die relevanten Fragen zum richtigen Zeitpunkt zu stellen.

Fußnoten:

¹ Die folgenden Ausführungen zu den Bildgenerierungsprogrammen sind hauptsächlich entnommen: Ruth Fulterer und Gioia da Silva: Dall-E, zeichne mir ein Schaf: Künstliche Intelligenz macht jeden zum Illustrator (NZZ vom 22. Oktober 2022).
² Movement for a better Internet: Generative AI at MozFest 2023 1.0, Seite 2ff.
³ McKinsey Digital: Exploring opportunities in the generative AI value chain, Seite 8.
⁴ Dorothea Baur: Klimakatastrophe oder Killer-KI: Welche Apokalypse hätten wir denn gerne? (elleXX vom 15. Juni 2023).
⁵ SUPREME COURT OF THE UNITED STATES: ANDY WARHOL FOUNDATION FOR THE VISUAL ARTS, INC. v. GOLDSMITH ET AL.
⁶ Daniel Pereira: Andy Warhol and Prince are the Future of Generative AI and Copyright Law (Odda Original im Mai 2023).
⁷ Ebenda.
⁸ Blake Brittain: AI companies ask U.S. court to dismiss artists' copyright lawsuit (Reuters am 20. April 2023). Zu dem Rechtsstreit Andersen v. Stability AI Ltd. (3:23-cv-00201) District Court, N.D. California können hier Updates eingesehen werden. 
⁹ Will Knight: This Copyright Lawsuit Could Shape the Future of Generative AI (WIRED am 21. November 2022).
¹⁰ Daniel Pereira: Andy Warhol and Prince are the Future of Generative AI and Copyright Law (Odda Original im Mai 2023).In dem Beitrag wird mit diesen Äußerungen Ryan Merkley zitiert, der unter anderem im Vorstand der Flickr Foundation tätig ist.
¹¹ Federal Register: Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence (A Rule by the Copyright Office, Library of Congress on 16. März 2023).
¹² Louis Rosenberg: The profound danger of conversational AI (4. Februar 2023 in VentureBeat).
¹³ Ebenda.
¹⁴ Lance B. Eliot: Some Insist That Generative AI ChatGPT Is A Mirror Into The Soul Of Humanity, Vexing AI Ethics And AI Law (Forbes am 29. Januar 2023).
¹⁵ Ann-Kathrin Nezik: KI in Deutschland – Armer Erfindergeist (Die Zeit vom 17. Februar 2023). 
¹⁶ Kif Leswing: TECH – Meet the $10,000 Nvidia chip powering the race for A.I. von Kif Leswing (CNBC am 23. Februar 2023). 
¹⁷ Ebenda.
¹⁸ Microsoft helping finance AMD's expansion into AI chips, Bloomberg reports (Reuters, 4. Mai 2023). 
¹⁹ Kif Leswing: TECH – Meet the $10,000 Nvidia chip powering the race for A.I. von Kif Leswing (CNBC am 23. Februar 2023). 
²⁰ Zoe Kleinman: 'Google killer' ChatGPT sparks AI chatbot race (BBC News vom 6. Februar 2023). 
²¹ Ein Beispiel ist ein Dienstleister in Kenia, wo Stundenlöhne unter zwei US-Dollar gezahlt wurden. Siehe Billy Perrigo: Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic (TIME 18. Januar 2023).
²² Ann-Kathrin Nezik: KI-Gesetz der EU – Wir sind auch noch da (Die Zeit vom 23. Juni 2023).