KI-elgeholt
KI-elgeholtSei es die Nutzung von Google, sei es der Anruf bei irgendwelchen Firmen, bei denen Chatbots im Kundenservice auftauchen, sei es Lernen online, das fast völlig von KI-Tutoren übernommen werden kann.
Auch in den Bereich Kunst und Kultur greift KI ein, und da sind wir wieder bei der Frage, warum der VDS gegen Netflix aktiv geworden ist. Es geht darum, was passiert, wenn menschliche Kreativität zur trainierbaren Ressource wird.
Bilder, Musik, Videos können ohne eine einzige reale Person generiert werden, wenn ein Unternehmen (in dem Fall Netflix) die Stimme oder die Gestalt der entsprechenden Person aufgezeichnet und analysiert hat. Ein Beispiel dafür, wie einfach dies geschehen kann, hat Loxagon in seinem Artikel "Die Toten erheben sich in TV-Serien - KI sei Dank!" beschrieben.
Der VDS erläutert, wie das Problem inzwischen deutlich tiefer geht als bisher ... so weit, dass wir an einen Punkt gelangen, dass tatsächlich nicht mehr zu unterscheiden sein wird, ob eine reale Person oder eine KI einen Text gesprochen hat. Die menschliche Stimme ist kein austauschbares Werkzeug. Sie ist Persönlichkeit, Wiedererkennungsmerkmal, Identität.
Technisch ist das Szenario längst realistisch: Aus vorhandenen Aufnahmen lassen sich Sprechrhythmus, Klangfarbe und Ausdruck analysieren und synthetisch reproduzieren. Ist diese Schwelle überschritten, kann eine Stimme unbegrenzt vervielfältigt werden – kostengünstig, jederzeit verfügbar, ohne erneute Mitwirkung der ursprünglichen Sprecherin oder des Sprechers.
Der VDS schreibt: "Netflix kann aus den Tonaufnahmen charakteristische Merkmale wie Stimmfärbung, Spielweise und Sprechrhythmus ableiten. Auf dieser Grundlage ließe sich eine synthetische Stimme so kalibrieren, dass sie diese Merkmale reproduziert und die Sprecher:innen ersetzt. Ein solches Szenario ist technisch möglich und wirtschaftlich naheliegend."
Da genau liegt der Punkt: Gewinnmaximierung für Unternehmen, indem der menschliche Speicher obsolet wird.
Einen anderen Weg beschreitet der Bundesverband Schauspiel (BFFS). Dieser beschreibt, er verstehe "angesichts der rasanten Entwicklung von KI die nachvollziehbare Sorge, langfristig ersetzt zu werden. Der Bundesverband Schauspiel (BFFS) kämpft seit Jahren durch intensive politische Lobbyarbeit auf nationaler und europäischer Ebene für einen bestmöglichen Schutz von (Synchron-)Schauspieler*innen.
Zu diesem Zweck wurde zwischen dem BFFS und Netflix eine Vereinbarung getroffen. Diese bilde einen "Rechtsrahmen" und solle so ein "Fundament für künftige Kollektiv-Vereinbarungen" darstellen.
In dieser Vereinbarung geht es vor allem um jene Sprecher*innen, deren Stimmen genutzt wurden und werden, um die KI zu trainieren. Für diese sollen Vergütungen ausgehandelt werden. "Die Vereinbarung regelt aber erstmals, in welchem Rahmen künstlerische Beiträge von Synchronschauspieler*innen in Netflix-Produktionen zum Training einer KI-Technologie von Netflix genutzt werden können."
Wohlgemerkt "Training", nicht "Nutzung".
Das ist ein wichtiger Schritt – aber auch ein bezeichnender. Denn er zeigt, wie stark der Druck bereits ist. Wer sich einer solchen Vereinbarung verweigert, riskiert schlicht ersetzt zu werden. Die Verhandlungsmacht verschiebt sich spürbar zugunsten der Plattformen.
Dem VDS geht dies nicht weit genug, sie sehen an einigen Stellen sogar die Rechtswirksamkeit bedroht bis hin zur rechtlichen Unwirksamkeit. "Unsere Adressatin ist Netflix, und deren Vorgehen lassen wir jetzt von offizieller Stelle auf seine Rechtmäßigkeit überprüfen.“ (Anna-Sophia Lumpe, Vorstand des VDS)
David Wagner, Rechtsanwalt bei Spirit Legal auf der VDS-Seite bei Instagram dazu: „Netflix lässt Stimmaufnahmen in KI-Modelle einfließen. Diese Aufnahmen erlauben die eindeutige Wiedererkennung und synthetische Reproduktion der Sprecher:in; sie sind damit biometrische Daten und besondere Kategorien personenbezogener Daten..."
Dies ist in der Vereinbarung des BFFS mit Netflix nicht einbezogen. Netflix müsse nicht vorab offenlegen, mit welchem konkreten Ziel das KI-Training durchgeführt würde. Die Auseinandersetzung der beiden Interessensvertretungen wird hart geführt.
Außerdem gibt es über Netflix hinaus auf der Produzentenseite natürlich national und international Interessensverbände (für Deutschland zum Beispiel die Produktinsallianz) und große Global Player (zB Disney), mit denen ähnliche Themen diskutiert werden müssen.
Während dies diskutiert wird, sind die Auswirkungen auf Kunstschaffende bereits enorm (zB der Bericht eines Synchronsprechers im Zeit Video)
Hier offenbart sich das Grundproblem: Selbstregulierung funktioniert nur, solange wirtschaftliche Interessen und Schutzinteressen parallel laufen. Im Fall von KI tun sie das nicht. Die ökonomische Logik ist eindeutig: Ein synthetischer Sprecher verursacht nach dem Training nahezu keine Kosten mehr.
Die Bereiche, in denen die Entwicklung von KI uns heute betrifft und beeinflusst, sind schier grenzenlos. Man begegnet KI generierten Photos, bei denen nicht mehr sofort erkennbar ist, ob sie echt sind oder nicht, inzwischen frage ich mich bei jedem Foto, jeder Meldung, die mir in den Sozialen Medien angeschwemmt wird, ob das real ist oder KI, welchen Quellen traut man? Eine schier endlose Zahl neuer Autoren mit angeblich wunderbaren Stoffen und Büchern machen für sich Werbung... sind die echt ist KI? Wieviel Text in deren Büchern ist generiert und was ist schriftstellerische Eigenleistung? Ist das Cover des Heftromans tatsächlich noch von einem Grafiker, oder nicht doch bereits künstlich geschaffen?
Unsere Welt verändert sich rasant, dies ist nichts, was noch kommen wird, es ist bereits da, mit unabsehbaren Auswirkungen. Gerne wird der Vergleich mit der Industriellen Revolution gezogen.
Wenn ich KI frage, welche Auswirkungen ihr Einsatz auf den Feldern Grafik, Sprecher, Autoren hat, fällt oft der Begriff des "Menschen als Kurator". Er schafft nicht mehr zwangsläufig selbst, sondern er überwacht und prüft die Ergebnisse. Schreibe einen entsprechenden Prompt, in dem die notwendigen Vorgaben passend formuliert sind, und du kannst fast alles erzeugen: Texte im Stil von Fontane oder Lovecraft, Musik im Stil von Bach oder Rap, Bilder im Stil von van Gogh oder ... und so weiter.
Elon Musk sprach einmal davon, durch KI könnte quasi ein goldenes Zeitalter entstehen, in dem der Mensch nicht mehr arbeiten müsse um seinen Lebensunterhalt zu verdienen ... das gilt allenfalls für jene, die es schaffen, nicht Opfer der Entwicklung zu sein, und da werden über die nächsten Jahre hinweg sicher nicht der Arbeiter sein, der jeden Tag an sein Band geht, sicher nicht der Synchronsprecher, dessen Stimme längst ersetzt werden kann.
Oft wird argumentiert, freiwillige Kennzeichnung oder freiwillige Vergütung könnten ausreichen. Doch genau hier liegt die Schwäche dieses Ansatzes: Freiwilligkeit endet dort, wo Wettbewerb beginnt. Wenn einzelne Unternehmen sich zurückhalten, andere aber nicht, entsteht ein ökonomischer Nachteil. Langfristig setzt sich deshalb fast immer der kostengünstigere Weg durch.
Die Frage lautet also nicht mehr, ob KI in kreativen Branchen eingesetzt wird. Sie lautet, unter welchen Regeln sie eingesetzt wird.
Die Frage lautet also nicht mehr, ob KI in kreativen Branchen eingesetzt wird. Sie lautet, unter welchen Regeln sie eingesetzt wird.
Ich möchte nicht in einen kollektiven Angststrudel geraten und KI verteufeln, aber es ist längst nicht alles so locker flockig. Wir müssen lernen, KI generierte Inhalte zu erkennen, zu bewerten, zu entscheiden, was der Realität entspricht und was uns KI erzählen möchte.
Der Streit zwischen VDS und BFFS zeigt deshalb vor allem eines: Die Verantwortung wird derzeit auf Verbände und Einzelverträge ausgelagert. Doch diese können eine grundlegende Regulierung nicht ersetzen.
Kunst, in allen ihren Varianten, ist ein Urausdruck der menschlichen Schöpfungskraft und Kreativität. Dies ist meiner Ansicht nach ein schützenswertes Gut, das dem Streben nach Optimierung des monetären Unternehmenserfolges nicht geopfert werden darf. Wenn Kunst und Kreativität Teil der kulturellen Identität einer Gesellschaft sind – und daran besteht kaum Zweifel –, dann ist ihr Schutz keine Nischenfrage, sondern eine politische Aufgabe.
Kunst, in allen ihren Varianten, ist ein Urausdruck der menschlichen Schöpfungskraft und Kreativität. Dies ist meiner Ansicht nach ein schützenswertes Gut, das dem Streben nach Optimierung des monetären Unternehmenserfolges nicht geopfert werden darf. Wenn Kunst und Kreativität Teil der kulturellen Identität einer Gesellschaft sind – und daran besteht kaum Zweifel –, dann ist ihr Schutz keine Nischenfrage, sondern eine politische Aufgabe.
Noch ist Zeit, Regeln zu definieren. Doch dieses Zeitfenster schließt sich schnell.
Denn wenn Stimmen erst zu Datensätzen geworden sind, wird es sehr schwer, sie wieder zu Persönlichkeiten zu machen.
Denn wenn Stimmen erst zu Datensätzen geworden sind, wird es sehr schwer, sie wieder zu Persönlichkeiten zu machen.
Kommentare
Diese Technologie revolutioniert ja nicht nur die Arbeitswelt, sie sorgt wohlmöglich auch dafür, dass Arbeitsplätze für den Menschen verloren gehen. Das betrifft sogar Schauspieler, Drehbuchautoren und Filmkomponisten, die alle ihre Jobs in Gefahr sehen.
Oder schauen wir uns an was im schulischen Bereich passiert. Jetzt können Schüler ihre Hausaufgaben per KI erstellen - z.b. damit Aufsätze schreiben ect..ect. Ich will sagen, dass keine geistigen Anstrengungen mehr nötig sind, weil die KI das alles erledigt.
Nicht zu vergessen, dass KI auch als politisches Werkzeug mißbraucht werden - oder für andere, kriminellle Zwecke,
KI in den richtigen Händen kann ein Segen sein, oder ein echter Fluch, wenn so etwas zum Beispiel gegen ein demokratisches System o.a. genutzt wird.
Ich denke auch KI ist wie das Internet Fluch und Segen. Man wird da einige Zeit der Entwicklung abwarten müssen. Dem synchronisieren von Filmen und schreiben von Büchern mit KI sehe ich ebenfalls skeptisch entgegen.
Experten warnen zum Beispiel vor ähnlich weltumspannenden Risiken wie Pandemien oder sogar Atomkrieg. Dagegen wäre eine durch das Fernsehen ausgelöste Kinokrise für die Welt wohl eher weniger unheilvoll.
Es ist überhaupt kein Problem einen Text im Stil eines ganz bestimmten Autoren verfassen zu lassen. Was entsteht sind neu verfasste Texte, die typische Merkmale der jeweiligen Autoren aufgreifen.
Ich habe zum Spaß mal folgenden Prompt (= Befehl) an eine KI gegeben:
schreibe den Satz "Als ich morgens zur Arbeit ging, war die Straße gesperrt" im Stil folgender Autoren_ 1) Franz Kafka 2) Terry Pratchett 3) Agatha Christie 4) Johann Wolfgang von Goethe
Das Ergebnis war folgendes:
Franz Kafka: Als ich am Morgen zur Arbeit gehen wollte, fand ich die Straße gesperrt. Weder war ersichtlich, wer die Sperre veranlasst hatte, noch aus welchem Grund sie bestand. Die wenigen Passanten schienen davon zu wissen, doch ihre Auskünfte verwirrten mich nur noch mehr. ***
Terry Pratchett: Als ich morgens zur Arbeit ging, war die Straße gesperrt. Das war an sich nichts Ungewöhnliches; Straßen entwickelten gelegentlich die merkwürdige Angewohnheit, genau dann unpassierbar zu werden, wenn jemand es eilig hatte. Diesmal allerdings bewachte ein Mann die Absperrung, der aussah, als hätte er seinen Beruf erst vor wenigen Minuten erfunden. ***
Agatha Christie: Als ich morgens zur Arbeit ging, stellte ich fest, dass die Straße gesperrt war. Einige Menschen hatten sich bereits versammelt, und ein Polizist hielt die Neugierigen zurück. Offenbar war etwas geschehen – etwas, das die ruhige Ordnung der Nachbarschaft empfindlich gestört hatte. ***
Johann Wolfgang von Goethe: Als ich des Morgens meinen Weg zur Arbeit nahm, fand ich die Straße verschlossen. Verwundert hielt ich inne und betrachtete das unerwartete Hindernis, das sich meinem gewohnten Gange entgegenstellte, als habe das Schicksal selbst den Pfad für diesen Tag verändert.
Wohlgemerkt ... keine Zitate.
Ich habe mir, auch zum Spaß, den Handlungsfaden von Romanen erstellen lassen zB Krimis ... und es kamen Geschichten heraus, die ich gerne gelesen hätte.
Du schreibst weiter, dass sich jmd, der KI nutzt, eigentlich nicht mehr Schriftsteller oder Autor nennen darf. Wie ist es, wenn man KI nutzt, um eine Geschichte inhaltlich abzurunden, sich über Handlungslöcher hinweghelfen zu lassen, logische Löcher zu finden (... mal ganz davon abgesehen, dass man sich die Handlung komplett erstellen, den Text erstellen, glätten etc lassen kann). Ist das auch in dem Moment kein Autor mehr? Wo beginnt und wo endet diese Bewertung? Es fällt mir in dem Bereich wirklich schwer, eine Grenze zu ziehen - so gerne ich das auch tun würde.
Ich finde es selbst sehr befremdlich, wie selbstverlegende Autoren seit der Weitverbreitung von KI aus dem Boden springen und nehme mal an, dass die meisten von ihnen komplett KI generiert oder aber zumindest stark unterstützt sind - das ohne jeglichen Beweis natürlich.
Wie sagt das eine Sprichwort ... "mögest du in interessanten Zeiten leben" - ich finde gerade in Bezug auf KI die Zeit gerade unglaublich interessant, und dazu auch irgendwie bedrohlich, weil "Wildwuchs" in großem Stil möglich ist.
ist das doch eigentlich kein persönliches Werk mehr - es steckt irgendwie kein richtiges "Herzblut" des jeweiligen Autors mehr drin.
Allerdings habe ich in dieser Hinsicht auch (noch) zu wenig Erfahrung - bisher habe ich KI noch nicht genutzt. Im anderen Fall wäre meine Sichtweise ja vielleicht eine andere..
Könntest du eventuell den (ersten ?) KI-Artikel hier irgendwie verlinken? Ich finde das gerade nicht; es ging um TV-Serien und Stimmen (und mehr) von Verstorbenen, z.B. Hans Clarin/Pumuckl etc.
Eine Verlinkung ist einfacher als eine 1:1-Kopie von Kommentaren, die auch hierhin passen würden.
Danke.
Genau hier liegt das eigentliche Problem (wenn man das so nennen will).
Nach meiner Auffassung ist es (zumindest auf mittlere Sicht ... auf lange Sicht sowieso) Aufgabe eines Autors, einen für den Leser interessanten Plot zu entwickeln ... aber nicht, den Text bis in die letzten Einzelheiten auszuformulieren.
Wenn man der KI Handlungsabläufe vorgibt, was dann zu einem lesbaren, interessanten Text zu entwickeln ist, kann (und darf) man sich als Autor bezeichnen.
Wenn man aber die Entwicklung des Plots der KI überlässt, dann ist man eben kein Autor mehr.
Um ein Beispiel zu nennen: eine meiner Lieblingsserien sind die "Black Widowers" von Isaac Asimov (wer das nicht kennt und englische Originale lesen kann: Pflichtlektüre). Diese Stories leben davon, dass "Henry the Waiter" den Plot auflösen kann ... aber sie sind nur deshalb lesbar, weil Asimov in einem unverkennbaren, süchtig machenden Stil schreibt.
Das gilt in gleicher Weise für Arthur Conan Doyles Sherlock Holmes, für Erle Stanley Gardners Perry Mason, für Rex Stouts Nero Wolfe und viele andere mehr.
Lesegenuss entsteht, wenn man diese Geschichten auf sich wirken lässt ... und zwar auch dann, wenn man sie zum wiederholten Mal liest (also die Auflösung des Plots schon kennt).
Das ist nur auf den ersten Blick ein Widerspruch zu meiner These, dass der Plot das wichtigste Element einer Story (und damit die eigentliche Aufgabe eines Autors) ist. Der Plot ist die Pflicht ... die Ausarbeitung ist die Kür. Eine gute Kür kann man auch mehrfach genießen ...
Nach meiner Auffassung spricht also überhaupt nichts dagegen, eine KI mit einem Handlungsgerüst zu "füttern" ... aber sehr viel dagegen, der KI die Entwicklung der Handlung zu überlassen.
Wenn man eine interessante Story anbieten will, muss man (als lebender Autor) sich die Mühe machen, einen Plot zu entwickeln. Danach kann man dann die (hoffentlich ausgereifte) KI machen lassen.
Für nicht mehr lebende Autoren gilt etwas anderes (wobei ich jetzt bewusst die aktuelle Urheberrechtslage ausklammere): man kann (und sollte) der KI einen Plot geben und diesen dann "im Stil von X" ausführen lassen. Es kann aber auch interessant sein, die Entwicklung des Plot der KI zu überlassen ... die möglicherweise eine Serie besser "weiterdenken" kann als ein neuer Autor.
"Mögest du in interessanten Zeiten leben" ist eher eine Verfluchung als ein Sprichwort .. aber wörtlich genommen passt es hier gut. Warten wir (ohne Vorurteile) ab, was auf uns zukommt.
Es gibt jetzt schon sehr zuverlässige Tools um Rechner-generierte (von wirklicher KI sind wir noch weit entfernt) Inhalte oder Bilder zu erkennen. Wir befinden uns aber noch in einer Übergangsphase, wo diese Werkzeuge noch nicht konsequent eingesetzt werden. Es wird also die Zeit kommen, in der auch Geschichten, Bücher, Essays, etc. grundsätzlich gekennzeichnet werden, oder sogar gekennzeichnet werden müssen (wie bereits im öffentlich rechtlichen Rundfunk).
Bei Romanen ist dies im Moment sicherlich unangenehm und unübersichtlich. Allerdings sollte auch die Leserschaft berücksichtigt werden, welche eine Nicholas-Sparks-Schmonzette oder Hobbit-Epigone wirklich nur aus Zeitvertreib am Strand konsumieren will (wie es in der eigenen Familie und Bekanntenkreis einige gibt). Denen ist es schlichtweg egal, wer oder wie das Buch geschrieben ist. Ich habe selbst versucht mit penibel ausgesuchter ‚anspruchsvoller‘ Literatur in Geschenkform Einfluss auf die Lesequalität dieser betroffenen Personen zu nehmen. Es fruchtet nicht.
An erster Stelle darf man allerdings den bedeutendsten Aspekt nicht aus den Augen verlieren: Die meisten Autor/innen WOLLEN schreiben, sie MÖCHTEN sich mit dem Wort auseinandersetzen, sie MÜSSEN an Geschichte und Sprache tüfteln.
Wie Mainstraim ja schon erwähnte, gibt es bereits Hilfmittel, um derart generierte Texte zu erkennen, und es wird in Zukunft auch da wohl noch viel fortschrittlicher werden.
Was würde es mir als "Autor" dann bringen, wenn jemand mein Roman oder Sachbuch "XY" später als reines KI-Ergebnis entlarven würde. Ich gehe mal stark davon aus, dass diese Karriere dann schnell beendet wäre - udn das meiner Ansicht nach völlig zu Recht.
Der Artikel heißt "Die Toten erheben sich in TV-Serien - KI sei Dank!" (Link: www.zauberspiegel-online.de/index.php/off-topic-2/42950-die-toten-erheben-sich-in-tv-serien-ki-sei-dank)
Viele Grüße,
Bettina