Die Innovationen im Bereich Künstliche Intelligenz zeigen aktuell schier unendliche Möglichkeiten, Arbeitsprozesse und das alltägliche Leben zu vereinfachen. Besonders der Sprachbot Chat-GPT vom US-Unternehmen OpenAI wird als Alleskönner gehandelt. Doch so faszinierend diese Technologie auch ist, so kritisch sollte man mit kreativen KI-Werkzeugen und ihren generierten Inhalten umgehen. Hier erfährst du, worin die Gefahren bestehen und wie du die Tools verantwortungsvoll nutzen kannst.
Dass Maschinen menschenähnliche Verhaltensweisen zeigen können, ist nichts Neues. Künstliche Intelligenz wird seit vielen Jahren auch für den Alltagsgebrauch entwickelt und eingesetzt – von den klassischen Sprachassistenten Alexa oder Siri über KI-gesteuerte Lichtkonzepte im Haushalt zu auf Algorithmen basierenden Suchmaschinen im Internet. Der aktuelle KI-Hype erklärt sich eher daraus, dass virtuelle Assistent*innen den Markt erobern, die jederzeit sowie einfach verfügbar sind und darüber hinaus überraschende, schnell produzierte Ergebnisse liefern.
Besondere Aufmerksamkeit bekommt diese Technologie durch den textgenerierenden Chatbot Chat-GPT, der seit Ende November 2022 für jeden frei zugänglich und kostenlos ist. Die Reaktionen darauf sind nicht nur positiv: Laut einer Untersuchung schreibt Chat-GPT überzeugende Falschinformationen. Italien hatte das KI-Tool wegen des Verdachts auf Datenschutz-Verstöße vorübergehend gesperrt. Europol warnt vor dessen Missbrauch. Gerade vor diesem Hintergrund ist es wichtig, sich mit dieser Technologie und ihren Möglichkeiten näher auseinanderzusetzen.
Sie sehen gerade einen Platzhalterinhalt von Standard. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf den Button unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Weitere InformationenChat-GPT, Midjourney und Co sind kreative KI-basierte Werkzeuge. Mit ihnen ist sogar ein dialogbasierter Austausch möglich, der wie eine ungezwungene Unterhaltung zwischen zwei Menschen anmutet. Diese Werkzeuge basieren auf sogenannten generativen KI-Systemen, kurz GenAI. Solche Systeme sind in der Lage, Texte und Bilder zu erstellen, die es bisher noch nicht gab. Vielleicht hast du schon von der Formulierung „halluzinierende KI“ gehört. Das meint nichts anderes als die grundsätzliche Jobbeschreibung dieser KI. Sie stellen etwas völlig Neues her, und das scheint für Menschen dann vielleicht unsinnig. Damit es überhaupt so weit kommen kann, müssen Nutzer*innen Sätze oder Schlagwörter in das KI-Tool eingeben. Im Fachjargon heißt dieser Eingabevorgang Prompting beziehungsweise Prompt.
Im Hintergrund werden dann sogenannte generative Modelle aktiv, etwa große Sprachmodelle, die mit Datensätzen aus dem Internet trainiert wurden. Die Datensammlung ist nicht aktuell. Bei Chat-GPT reicht sie bis September 2021 und umfasst eine gigantische Menge an Worten. Laut einer wissenschaftlichen Untersuchung macht beispielsweise Wikipedia etwa drei Prozent davon aus. Darüber hinaus stellen die Chat-GPT-Entwickler*innen Plugins zur Verfügung, mit denen du Informationen aus dem Internet abrufen kannst.
Es ist immer der Zufall beteiligt, wenn KI-Tools synthetische Inhalte erzeugen. Die KI-Systeme werden nämlich in einem stochastischen Modus betrieben. Die KI würfelt quasi aus, welche Antwort sie gibt. Deshalb werden auch nie dieselben Ergebnisse erzielt, wenn derselbe Prompt geschrieben wird.
Um auf die Anwendungen im Browser zuzugreifen, musst du dich auf den Websites der Anbieter*innen registrieren – zumeist mit deiner Email-Adresse oder Telefonnummer. Bei den beliebten KI-Tools Chat-GPT und You.com, Dall-E und Stable Diffusion funktioniert das auf diese Weise. Für Midjourney benötigst du einen Discord-Account. Nutzer*innen können anschließend mit Testversionen arbeiten, die in der Regel kostenlos sind. App-Versionen sind von den größeren Anbieter*innen zumeist noch nicht verfügbar.
Da die Qualität der künstlich hergestellten Inhalte immer besser wird, sind die Ergebnisse auf den ersten Blick kaum von menschlich kreierten Inhalten zu unterscheiden. Zudem sind Tools wie Chat-GPT, Midjourney und Co aufgrund ihres technischen Unterbaus fast uneingeschränkt auf der ganzen Welt verfügbar. Weil die Konsequenzen für den Alltag schwer greifbar sind, haben wir die wichtigsten Risiken und Besonderheiten für dich zusammengestellt.
Vielleicht kennst du die folgende Szene aus Science-Fiction-Filmen: Der Protagonist fühlt sich zu einem Roboter emotional hingezogen und beschließt, eine Beziehung mit ihm einzugehen. Warum ist das so? Man neigt grundsätzlich dazu, unbelebten Dingen menschliche Eigenschaften zuzuschreiben. Erstmals nachgewiesen hat diesen Effekt 1966 der Informatiker Joseph Weizenbaum mit dem ersten Chatbot Eliza.
„Gerade bei Chat-GPT sind Menschen versucht, in die Antworten, die das System liefert, viel mehr hineinzuinterpretieren als eigentlich drin ist. In dem Moment, wo man mit der KI konfrontiert wird, können Sympathien oder Angstgefühle wach werden, weil man den Eindruck bekommt, einer echten Persönlichkeit gegenüber zu sitzen,“ erklärt Bernhard Nessler, Forschungsleiter Deep Learning am Software Competence Center Hagenberg.
Gerade bei Chat-GPT sind Menschen versucht, in die Antworten, die das System liefert, viel mehr hineinzuinterpretieren als eigentlich drin ist.
Diese Reaktion beginne damit, dass man Bitte und Danke sagt, und führe dann dazu, dass Äußerungen von Chatbots plötzlich persönlich genommen werden oder Mitgefühl entwickelt wird, so der Experte. In diesem Zusammenhang ist dir das Tamagotchi-Fieber vielleicht ein Begriff. Das Kultspielzeug aus den 1990er Jahren – ein virtuelles Küken in einem Plastikgehäuse – verlangt nach Essen, Trinken und Zuwendung. Eine Erfolgsformel, um persönliche Bindung und Vertrauen zu den Nutzer*innen aufzubauen.
Wichtig ist zu verstehen, dass gegenwärtige kreative KI-Tools eher dazu dienen, den eigenen Einfallsreichtum zu unterstützen. Zwar ist etwa Chat-GPT darauf trainiert, sich in natürlicher Sprache zu unterhalten. Das schließt aber nicht mit ein, dass die KI stets Wahrheiten, das gesellschaftlich Akzeptierte, parat hat. Zudem gilt es zu beachten, dass diese KI-Tools zusätzlich händisch von sogenannten Clickworkern trainiert worden sind. Entsprechend werden bestimmte als kritisch oder anstößig eingestufte Inhalte aus den Antworten ausgefiltert, etwa sexuelle und gewalttätige Handlungen.
„ChatGPT sollte man auf gar keinen Fall nutzen, um sich irgendwelche Fakten geben zu lassen. Das ist kein Wikipedia, sondern beruht auf einem probabilistischen Modell. Es lernt aus einer Fülle von Daten und mithilfe von selbstlernenden Algorithmen generiert es daraus etwas Neues. Die wahrscheinlichste Antwort, die ChatGPT gibt, ist also nicht immer der Fakt,” sagt Agnieszka Walorska, Co-Host des Tech-Podcasts Zurück zur Zukunft.
ChatGPT sollte man auf gar keinen Fall nutzen, um sich irgendwelche Fakten geben zu lassen.
Überprüfen lässt sich diese Beobachtung durch ein einfaches Experiment: Frag nach neuesten Statistiken zu einem aktuellen Nischenthema oder lass dir eine komplizierte Matheaufgabe berechnen. Du wirst feststellen: Die Ergebnisse variieren und sind nicht immer korrekt.
Wer KI-Tools benutzt, sollte sich bewusst sein, dass persönliche Daten wie auf einem Tablett serviert werden. Das fängt schon an, wenn du einen Prompt schreibst. Deine eingegebenen Daten werden über Schnittstellen im Internet verarbeitet, auf denen beispielsweise die eigene Festplatte mit dem KI-Werkzeug verbunden wird. Diese Schnittstellen heißen Application Programming Interface, kurz API. Für Mitarbeiter*innen der KI-Firmen bringt das den Vorteil, Datenströme untersuchen und gezielt Informationen zu deinem Prompt herausfiltern zu können.
Außerdem ist zu berücksichtigen, dass die KI-Systeme in Echtzeit weiter trainiert werden. Und zwar mit den Daten, die die Nutzer*innen in die Bildgeneratoren oder Chatbots einpflegen. Somit besteht das Risiko, dass deine persönlichen Daten in den generierten Texten und Bildern anderer Nutzer*innen wieder auftauchen.
Technologische Werkzeuge sind hilfreich, aber welchen Einfluss haben sie auf die eigenen Fähigkeiten, die dadurch weniger trainiert werden? Während Taschenrechner und Rechtschreibkontrollen uns Arbeit abnehmen, ist es vorteilhaft, simples Zahlenrechnen und Rechtschreibregeln dennoch selbst zu beherrschen.
Philosophisch betrachtet, gibt es durchaus Positionen, die der menschlichen Schöpfung einen höheren ideellen Wert zuschreiben. „Wir sollten das Schreiben von Texten oder Malen von Bildern nicht ganz aufgeben. Ich halte es für bedenklich, wenn wir etwa das Gefühl verlieren würden, welche Texte man in jedem Fall persönlich schreiben muss, wie einen Kondolenzbrief, ein Dankesschreiben oder einen Liebesbrief. Das wäre meiner Meinung nach ein Zeichen sozialer Verwahrlosung,“ sagt die Informatikerin Ute Schmid von der Universität Bamberg.
Zudem seien ein umfangreicher Wortschatz und Ausdruck bei Sprachbots generell ein Manko, so Schmid. „Verschachtelte Sätze oder Passivformulierungen werden bei Chat-GPT selten generiert, weil ja prinzipiell bestimmten Sprachmustern gefolgt wird. Bestimmte grammatische Konstruktionen und selten verwendete Worte verschwinden also.“
In diesem Zusammenhang ist allerdings zu bedenken, dass technische Entwicklungen in der Menschheitsgeschichte stets mit einer gesellschaftlichen Skepsis verbunden sind. So befürchteten Kritiker*innen des Buchdrucks etwa, dass die wirklich wertvollen Schriften durch das Überangebot kaum noch gefunden würden. Bei der Fotografie gab es Sorgen, dass Porträtmaler*innen arbeitslos würden. Das volle wirtschaftliche Potenzial dieser Erfindungen wurde in unserer Gesellschaft erst später nachweisbar.
Um die Chancen und Risiken abzuwägen, die mit der Nutzung kreativer KI-Tools Hand in Hand gehen, ist Verantwortungsbewusstsein wichtig. Wir haben daher hilfreiche Tipps zusammengestellt:
Informiere dich: Stärke dein Wissen und fördere deine Kompetenzen. Expert*innen aus dem Fachbereich empfehlen, sich grundlegend mit den neuen Technologien auseinanderzusetzen. Du solltest nachvollziehen können, auf welcher Basis KI-Systeme Entscheidungen treffen. Wie und von wem werden sie trainiert? Bereits jetzt gibt es zahlreiche kostenlose Online-Angebote, die du ausprobieren kannst. Beispiele von Kursen und Games: der Onlinekurs Elements of AI, die Lernplattform KI-Campus, die Plattform Moral Machine, die Ideensammlungen AI Unplugged und Experiments with Google.
Sei achtsam: Gibt dir Zeit, um dich mit den Tools und den Logiken von KI-Systemen vertraut zu machen. Probiere dich aus, aber teile nichts unbedacht, denn auch du trägst Verantwortung.
Mach einen Faktencheck: Mach dir bewusst, dass insbesondere Chatbots keine Nachschlagewerke sind. Behalte im Hinterkopf, dass diese Werkzeuge Wahrscheinlichkeiten berechnen. Daher: Prüfe jeden Fakt in dem generierten Text, den du dem Chatbot nicht selbst gegeben hast. Die künstlich hergestellten Daten, Zahlen, Namen, Quellen können falsch sein.
Formuliere deine Eingaben präziser: Du kannst gezielt Anfragen an Chatbots oder Bildgeneratoren stellen. Diese Prompts können Sätze, Fragen oder Schlüsselwörter sein. Wenn du das beherrschst, sind sinnvolle Antworten der KI zu erwarten. Übe dich also im Prompting. Nützliche Lektüre findest du bei der Hochschule Augsburg oder beim Schweizer Unternehmen KMU Digitalisierung.
Sei sparsam mit deinen Daten: Achte beim Schreiben von Prompts oder dem Hochladen von Fotos darauf, lediglich solche Informationen zu deiner Person preiszugeben, die wirklich notwendig sind. Das betrifft auch vertrauliche Daten, wenn du beruflich Inhalte mit der KI erstellen willst. Bedenke, dass deine Daten zu Trainingszwecken verwendet werden. Entsprechend könnten andere Personen darauf zugreifen. Es ist ratsam, die Benutzer*innen-Einstellung des KI-Tools zu checken und gegebenenfalls anzupassen.
Mache KI-Inhalte kenntlich: Sei transparent, wenn du Chatbots oder Bildgeneratoren bei deiner kreativen Arbeit nutzt. Sonst läufst du Gefahr, andere zu täuschen und womöglich das Urheberrecht zu verletzen. Wenn du hingegen einen Text ohne die Zuhilfenahme von KI-Tools selbst geschrieben hast, dann kann es durchaus sinnvoll sein, diesen „kreativen Akt“ deutlich zu machen. Behaupte es aber nie, wenn das Gegenteil der Fall ist. Bei der Verwendung von Bildgeneratoren bietet es sich an, den Hinweis „KI-generiert“ anstelle des Copyrights zu geben und den Namen des KI-Tools zu nennen.
Grundsätzlich gibt es in Deutschland noch kein Gesetz, das den Umgang mit KI-Tools regelt. Die Europäische Union ist aber gerade dabei, den Einsatz KI-basierter Systeme erstmals in rechtliche Bahnen zu lenken. Das Paket, das gerade verhandelt wird und EU-weit gelten soll, heißt Gesetz über Künstliche Intelligenz oder auf Englisch Artifical Intelligence Act, kurz AI-Act. Demnach sollen beispielsweise KI-Systeme in mehrere sogenannte Hochrisiko-Kategorien unterteilt und Pflichten für Anbieter*innen eingeführt werden. Der AI-Act wird nach jetzigem Verfahrensstand frühestens 2025 in Kraft treten.
Mit KI sind weitreichende Veränderungen in unserer Gesellschaft verbunden. Gerade die neuen KI-Tools wie Chat-GPT und DALL-E sind faszinierende Erfindungen, mit denen du deine eigene Kreativität beflügeln kannst. Es gehört aber auch zu den Risiken und Gefahren, dass KI in der Lage ist, überzeugende Falschinformationen zu erstellen. Mit unseren Tipps an der Hand kannst du solche KI-Inhalte kritischer betrachten und besser einordnen. Letztlich geht es ja auch darum, KI-Tools unabhängig von Updates der Entwickler*innen guten Gewissens zu verwenden und die persönliche Verantwortung der produzierten Inhalte im Blick zu haben.
* Dieser Artikel ist menschliche Schöpfung ohne Zuhilfenahme von KI.
Überblick zu den relevantesten KI-Anwendungen:
https://doc.clickup.com/25598832/d/h/rd6vg-14247/0b79ca1dc0f7429/rd6vg-12207
KI-Bilder:
https://www.dw.com/de/faktencheck-wie-erkenne-ich-ki-generierte-bilder/a-65252413
Bildquellen: Screenshot, Twitter, erstellt mit Midjourney, Bearbeitung: MvonS, Bernhard_Nessler, privat
Victoria Graul ist freie Journalistin und engagiert sich auf vielen Ebenen mit eigenen Workshops und Vorträgen zu den Themen Faktencheck, Desinformation und Medienkompetenz. Sie betreibt den Podcast „Digga Fake – Fake News & Fact-Checking“. Davor arbeitete sie als Online-Redakteurin, unter anderem für die Freie Presse und das RND RedaktionsNetzwerk Deutschland.
Man neigt grundsätzlich dazu, unbelebten Dingen menschliche Eigenschaften zuzuschreiben. Erstmals nachgewiesen hat diesen Effekt 1966 der Informatiker Joseph Weizenbaum mit dem ersten Chatbot Eliza.
Die Innovationen im Bereich Künstliche Intelligenz zeigen aktuell schier unendliche Möglichkeiten, Arbeitsprozesse und das alltägliche Leben zu vereinfachen. Besonders der Sprachbot Chat-GPT vom US-Unternehmen OpenAI wird als Alleskönner gehandelt. Doch so faszinierend diese Technologie auch ist, so kritisch sollte man mit kreativen KI-Werkzeugen und ihren generierten Inhalten umgehen. Hier erfährst du, worin die Gefahren bestehen und wie du die Tools verantwortungsvoll nutzen kannst.
Dass Maschinen menschenähnliche Verhaltensweisen zeigen können, ist nichts Neues. Künstliche Intelligenz wird seit vielen Jahren auch für den Alltagsgebrauch entwickelt und eingesetzt – von den klassischen Sprachassistenten Alexa oder Siri über KI-gesteuerte Lichtkonzepte im Haushalt zu auf Algorithmen basierenden Suchmaschinen im Internet. Der aktuelle KI-Hype erklärt sich eher daraus, dass virtuelle Assistent*innen den Markt erobern, die jederzeit sowie einfach verfügbar sind und darüber hinaus überraschende, schnell produzierte Ergebnisse liefern.
Besondere Aufmerksamkeit bekommt diese Technologie durch den textgenerierenden Chatbot Chat-GPT, der seit Ende November 2022 für jeden frei zugänglich und kostenlos ist. Die Reaktionen darauf sind nicht nur positiv: Laut einer Untersuchung schreibt Chat-GPT überzeugende Falschinformationen. Italien hatte das KI-Tool wegen des Verdachts auf Datenschutz-Verstöße vorübergehend gesperrt. Europol warnt vor dessen Missbrauch. Gerade vor diesem Hintergrund ist es wichtig, sich mit dieser Technologie und ihren Möglichkeiten näher auseinanderzusetzen.
Sie sehen gerade einen Platzhalterinhalt von Standard. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf den Button unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Weitere InformationenChat-GPT, Midjourney und Co sind kreative KI-basierte Werkzeuge. Mit ihnen ist sogar ein dialogbasierter Austausch möglich, der wie eine ungezwungene Unterhaltung zwischen zwei Menschen anmutet. Diese Werkzeuge basieren auf sogenannten generativen KI-Systemen, kurz GenAI. Solche Systeme sind in der Lage, Texte und Bilder zu erstellen, die es bisher noch nicht gab. Vielleicht hast du schon von der Formulierung „halluzinierende KI“ gehört. Das meint nichts anderes als die grundsätzliche Jobbeschreibung dieser KI. Sie stellen etwas völlig Neues her, und das scheint für Menschen dann vielleicht unsinnig. Damit es überhaupt so weit kommen kann, müssen Nutzer*innen Sätze oder Schlagwörter in das KI-Tool eingeben. Im Fachjargon heißt dieser Eingabevorgang Prompting beziehungsweise Prompt.
Im Hintergrund werden dann sogenannte generative Modelle aktiv, etwa große Sprachmodelle, die mit Datensätzen aus dem Internet trainiert wurden. Die Datensammlung ist nicht aktuell. Bei Chat-GPT reicht sie bis September 2021 und umfasst eine gigantische Menge an Worten. Laut einer wissenschaftlichen Untersuchung macht beispielsweise Wikipedia etwa drei Prozent davon aus. Darüber hinaus stellen die Chat-GPT-Entwickler*innen Plugins zur Verfügung, mit denen du Informationen aus dem Internet abrufen kannst.
Es ist immer der Zufall beteiligt, wenn KI-Tools synthetische Inhalte erzeugen. Die KI-Systeme werden nämlich in einem stochastischen Modus betrieben. Die KI würfelt quasi aus, welche Antwort sie gibt. Deshalb werden auch nie dieselben Ergebnisse erzielt, wenn derselbe Prompt geschrieben wird.
Um auf die Anwendungen im Browser zuzugreifen, musst du dich auf den Websites der Anbieter*innen registrieren – zumeist mit deiner Email-Adresse oder Telefonnummer. Bei den beliebten KI-Tools Chat-GPT und You.com, Dall-E und Stable Diffusion funktioniert das auf diese Weise. Für Midjourney benötigst du einen Discord-Account. Nutzer*innen können anschließend mit Testversionen arbeiten, die in der Regel kostenlos sind. App-Versionen sind von den größeren Anbieter*innen zumeist noch nicht verfügbar.
Da die Qualität der künstlich hergestellten Inhalte immer besser wird, sind die Ergebnisse auf den ersten Blick kaum von menschlich kreierten Inhalten zu unterscheiden. Zudem sind Tools wie Chat-GPT, Midjourney und Co aufgrund ihres technischen Unterbaus fast uneingeschränkt auf der ganzen Welt verfügbar. Weil die Konsequenzen für den Alltag schwer greifbar sind, haben wir die wichtigsten Risiken und Besonderheiten für dich zusammengestellt.
Vielleicht kennst du die folgende Szene aus Science-Fiction-Filmen: Der Protagonist fühlt sich zu einem Roboter emotional hingezogen und beschließt, eine Beziehung mit ihm einzugehen. Warum ist das so? Man neigt grundsätzlich dazu, unbelebten Dingen menschliche Eigenschaften zuzuschreiben. Erstmals nachgewiesen hat diesen Effekt 1966 der Informatiker Joseph Weizenbaum mit dem ersten Chatbot Eliza.
„Gerade bei Chat-GPT sind Menschen versucht, in die Antworten, die das System liefert, viel mehr hineinzuinterpretieren als eigentlich drin ist. In dem Moment, wo man mit der KI konfrontiert wird, können Sympathien oder Angstgefühle wach werden, weil man den Eindruck bekommt, einer echten Persönlichkeit gegenüber zu sitzen,“ erklärt Bernhard Nessler, Forschungsleiter Deep Learning am Software Competence Center Hagenberg.
Gerade bei Chat-GPT sind Menschen versucht, in die Antworten, die das System liefert, viel mehr hineinzuinterpretieren als eigentlich drin ist.
Diese Reaktion beginne damit, dass man Bitte und Danke sagt, und führe dann dazu, dass Äußerungen von Chatbots plötzlich persönlich genommen werden oder Mitgefühl entwickelt wird, so der Experte. In diesem Zusammenhang ist dir das Tamagotchi-Fieber vielleicht ein Begriff. Das Kultspielzeug aus den 1990er Jahren – ein virtuelles Küken in einem Plastikgehäuse – verlangt nach Essen, Trinken und Zuwendung. Eine Erfolgsformel, um persönliche Bindung und Vertrauen zu den Nutzer*innen aufzubauen.
Wichtig ist zu verstehen, dass gegenwärtige kreative KI-Tools eher dazu dienen, den eigenen Einfallsreichtum zu unterstützen. Zwar ist etwa Chat-GPT darauf trainiert, sich in natürlicher Sprache zu unterhalten. Das schließt aber nicht mit ein, dass die KI stets Wahrheiten, das gesellschaftlich Akzeptierte, parat hat. Zudem gilt es zu beachten, dass diese KI-Tools zusätzlich händisch von sogenannten Clickworkern trainiert worden sind. Entsprechend werden bestimmte als kritisch oder anstößig eingestufte Inhalte aus den Antworten ausgefiltert, etwa sexuelle und gewalttätige Handlungen.
„ChatGPT sollte man auf gar keinen Fall nutzen, um sich irgendwelche Fakten geben zu lassen. Das ist kein Wikipedia, sondern beruht auf einem probabilistischen Modell. Es lernt aus einer Fülle von Daten und mithilfe von selbstlernenden Algorithmen generiert es daraus etwas Neues. Die wahrscheinlichste Antwort, die ChatGPT gibt, ist also nicht immer der Fakt,” sagt Agnieszka Walorska, Co-Host des Tech-Podcasts Zurück zur Zukunft.
ChatGPT sollte man auf gar keinen Fall nutzen, um sich irgendwelche Fakten geben zu lassen.
Überprüfen lässt sich diese Beobachtung durch ein einfaches Experiment: Frag nach neuesten Statistiken zu einem aktuellen Nischenthema oder lass dir eine komplizierte Matheaufgabe berechnen. Du wirst feststellen: Die Ergebnisse variieren und sind nicht immer korrekt.
Wer KI-Tools benutzt, sollte sich bewusst sein, dass persönliche Daten wie auf einem Tablett serviert werden. Das fängt schon an, wenn du einen Prompt schreibst. Deine eingegebenen Daten werden über Schnittstellen im Internet verarbeitet, auf denen beispielsweise die eigene Festplatte mit dem KI-Werkzeug verbunden wird. Diese Schnittstellen heißen Application Programming Interface, kurz API. Für Mitarbeiter*innen der KI-Firmen bringt das den Vorteil, Datenströme untersuchen und gezielt Informationen zu deinem Prompt herausfiltern zu können.
Außerdem ist zu berücksichtigen, dass die KI-Systeme in Echtzeit weiter trainiert werden. Und zwar mit den Daten, die die Nutzer*innen in die Bildgeneratoren oder Chatbots einpflegen. Somit besteht das Risiko, dass deine persönlichen Daten in den generierten Texten und Bildern anderer Nutzer*innen wieder auftauchen.
Technologische Werkzeuge sind hilfreich, aber welchen Einfluss haben sie auf die eigenen Fähigkeiten, die dadurch weniger trainiert werden? Während Taschenrechner und Rechtschreibkontrollen uns Arbeit abnehmen, ist es vorteilhaft, simples Zahlenrechnen und Rechtschreibregeln dennoch selbst zu beherrschen.
Philosophisch betrachtet, gibt es durchaus Positionen, die der menschlichen Schöpfung einen höheren ideellen Wert zuschreiben. „Wir sollten das Schreiben von Texten oder Malen von Bildern nicht ganz aufgeben. Ich halte es für bedenklich, wenn wir etwa das Gefühl verlieren würden, welche Texte man in jedem Fall persönlich schreiben muss, wie einen Kondolenzbrief, ein Dankesschreiben oder einen Liebesbrief. Das wäre meiner Meinung nach ein Zeichen sozialer Verwahrlosung,“ sagt die Informatikerin Ute Schmid von der Universität Bamberg.
Zudem seien ein umfangreicher Wortschatz und Ausdruck bei Sprachbots generell ein Manko, so Schmid. „Verschachtelte Sätze oder Passivformulierungen werden bei Chat-GPT selten generiert, weil ja prinzipiell bestimmten Sprachmustern gefolgt wird. Bestimmte grammatische Konstruktionen und selten verwendete Worte verschwinden also.“
In diesem Zusammenhang ist allerdings zu bedenken, dass technische Entwicklungen in der Menschheitsgeschichte stets mit einer gesellschaftlichen Skepsis verbunden sind. So befürchteten Kritiker*innen des Buchdrucks etwa, dass die wirklich wertvollen Schriften durch das Überangebot kaum noch gefunden würden. Bei der Fotografie gab es Sorgen, dass Porträtmaler*innen arbeitslos würden. Das volle wirtschaftliche Potenzial dieser Erfindungen wurde in unserer Gesellschaft erst später nachweisbar.
Um die Chancen und Risiken abzuwägen, die mit der Nutzung kreativer KI-Tools Hand in Hand gehen, ist Verantwortungsbewusstsein wichtig. Wir haben daher hilfreiche Tipps zusammengestellt:
Informiere dich: Stärke dein Wissen und fördere deine Kompetenzen. Expert*innen aus dem Fachbereich empfehlen, sich grundlegend mit den neuen Technologien auseinanderzusetzen. Du solltest nachvollziehen können, auf welcher Basis KI-Systeme Entscheidungen treffen. Wie und von wem werden sie trainiert? Bereits jetzt gibt es zahlreiche kostenlose Online-Angebote, die du ausprobieren kannst. Beispiele von Kursen und Games: der Onlinekurs Elements of AI, die Lernplattform KI-Campus, die Plattform Moral Machine, die Ideensammlungen AI Unplugged und Experiments with Google.
Sei achtsam: Gibt dir Zeit, um dich mit den Tools und den Logiken von KI-Systemen vertraut zu machen. Probiere dich aus, aber teile nichts unbedacht, denn auch du trägst Verantwortung.
Mach einen Faktencheck: Mach dir bewusst, dass insbesondere Chatbots keine Nachschlagewerke sind. Behalte im Hinterkopf, dass diese Werkzeuge Wahrscheinlichkeiten berechnen. Daher: Prüfe jeden Fakt in dem generierten Text, den du dem Chatbot nicht selbst gegeben hast. Die künstlich hergestellten Daten, Zahlen, Namen, Quellen können falsch sein.
Formuliere deine Eingaben präziser: Du kannst gezielt Anfragen an Chatbots oder Bildgeneratoren stellen. Diese Prompts können Sätze, Fragen oder Schlüsselwörter sein. Wenn du das beherrschst, sind sinnvolle Antworten der KI zu erwarten. Übe dich also im Prompting. Nützliche Lektüre findest du bei der Hochschule Augsburg oder beim Schweizer Unternehmen KMU Digitalisierung.
Sei sparsam mit deinen Daten: Achte beim Schreiben von Prompts oder dem Hochladen von Fotos darauf, lediglich solche Informationen zu deiner Person preiszugeben, die wirklich notwendig sind. Das betrifft auch vertrauliche Daten, wenn du beruflich Inhalte mit der KI erstellen willst. Bedenke, dass deine Daten zu Trainingszwecken verwendet werden. Entsprechend könnten andere Personen darauf zugreifen. Es ist ratsam, die Benutzer*innen-Einstellung des KI-Tools zu checken und gegebenenfalls anzupassen.
Mache KI-Inhalte kenntlich: Sei transparent, wenn du Chatbots oder Bildgeneratoren bei deiner kreativen Arbeit nutzt. Sonst läufst du Gefahr, andere zu täuschen und womöglich das Urheberrecht zu verletzen. Wenn du hingegen einen Text ohne die Zuhilfenahme von KI-Tools selbst geschrieben hast, dann kann es durchaus sinnvoll sein, diesen „kreativen Akt“ deutlich zu machen. Behaupte es aber nie, wenn das Gegenteil der Fall ist. Bei der Verwendung von Bildgeneratoren bietet es sich an, den Hinweis „KI-generiert“ anstelle des Copyrights zu geben und den Namen des KI-Tools zu nennen.
Grundsätzlich gibt es in Deutschland noch kein Gesetz, das den Umgang mit KI-Tools regelt. Die Europäische Union ist aber gerade dabei, den Einsatz KI-basierter Systeme erstmals in rechtliche Bahnen zu lenken. Das Paket, das gerade verhandelt wird und EU-weit gelten soll, heißt Gesetz über Künstliche Intelligenz oder auf Englisch Artifical Intelligence Act, kurz AI-Act. Demnach sollen beispielsweise KI-Systeme in mehrere sogenannte Hochrisiko-Kategorien unterteilt und Pflichten für Anbieter*innen eingeführt werden. Der AI-Act wird nach jetzigem Verfahrensstand frühestens 2025 in Kraft treten.
Mit KI sind weitreichende Veränderungen in unserer Gesellschaft verbunden. Gerade die neuen KI-Tools wie Chat-GPT und DALL-E sind faszinierende Erfindungen, mit denen du deine eigene Kreativität beflügeln kannst. Es gehört aber auch zu den Risiken und Gefahren, dass KI in der Lage ist, überzeugende Falschinformationen zu erstellen. Mit unseren Tipps an der Hand kannst du solche KI-Inhalte kritischer betrachten und besser einordnen. Letztlich geht es ja auch darum, KI-Tools unabhängig von Updates der Entwickler*innen guten Gewissens zu verwenden und die persönliche Verantwortung der produzierten Inhalte im Blick zu haben.
* Dieser Artikel ist menschliche Schöpfung ohne Zuhilfenahme von KI.
Überblick zu den relevantesten KI-Anwendungen:
https://doc.clickup.com/25598832/d/h/rd6vg-14247/0b79ca1dc0f7429/rd6vg-12207
KI-Bilder:
https://www.dw.com/de/faktencheck-wie-erkenne-ich-ki-generierte-bilder/a-65252413
Bildquellen: Screenshot, Twitter, erstellt mit Midjourney, Bearbeitung: MvonS, Bernhard_Nessler, privat
Victoria Graul ist freie Journalistin und engagiert sich auf vielen Ebenen mit eigenen Workshops und Vorträgen zu den Themen Faktencheck, Desinformation und Medienkompetenz. Sie betreibt den Podcast „Digga Fake – Fake News & Fact-Checking“. Davor arbeitete sie als Online-Redakteurin, unter anderem für die Freie Presse und das RND RedaktionsNetzwerk Deutschland.
Man neigt grundsätzlich dazu, unbelebten Dingen menschliche Eigenschaften zuzuschreiben. Erstmals nachgewiesen hat diesen Effekt 1966 der Informatiker Joseph Weizenbaum mit dem ersten Chatbot Eliza.
Sie sehen gerade einen Platzhalterinhalt von X. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen