Skip to content

KI – Heilsbringer oder Gefahr für die Welt

Künstliche IntelIigenz (KI) ist zurzeit das Schlagwort schlechthin – egal, wohin man auch schaut. Das Tempo der Entwicklung dieser Technologie ist rasant und macht nicht wenigen Angst. Was kommt auf uns zu? Sind wir in Schule und Gesellschaft darauf vorbereitet?

Grund genug, dass wir uns darüber mit Prof. Katharina Zweig unterhalten. Als renommierte Expertin leitet sie u. a. an der TU Kaiserslautern das Algorithm Accountability Lab und ist Autorin mehrerer Bücher. So erscheint im September ihr neuer Titel „Die KI war’s!: Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz.“

Der Begriff KI ist aktuell in aller Munde. Was verbirgt sich hinter diesem Begriff? Kann man ihn in wenigen Worten erläutern?

Im Moment versteht man unter KI vor allem solche Systeme, die aus Daten der Vergangenheit lernen, um Entscheidungen für die Zukunft zu treffen. So kann man zum Beispiel in Daten von Kreditnehmern nach Mustern für Risiken suchen, die dazu führen, dass ein Kredit nicht zurückgezahlt wird. Mit dem Muster kann man dann über neue Kreditanträge entscheiden.

Was müssen wir „Nicht-ITler“ über und von KI verstehen?

Aktuell wird KI oft als Heilsbringer missverstanden, als magische Zutat, um die komplexe Welt endlich verständlich zu machen. Dabei hängt der Erfolg des Lernens aber stark von der Menge und Qualität der Daten ab – und wie genau sie trainiert wird bzw. wie genau die Maschine lernt. Das Trainieren der Maschine umfasst dabei alles, was der Mensch tut, damit die Maschine „lernt“.

Prof. Katharina Zweig, Professorin für Informatik RPTU Kaiserslautern

Was die KI lernt

Wie kann man sich das Trainieren der KI vorstellen?

Bei der Bilderkennung ist das am einfachsten zu erklären: Man sucht viele Bilder zusammen, die möglichst auch eine Beschreibung haben. Bei flickr werden Nutzer:innen beispielsweise gebeten, Bilder zu labeln, also Stichworte zu geben, die beschreiben, was auf dem Bild zu sehen ist. Mit diesen Bildern und ihren Labeln kann eine Maschine dann trainiert werden, d. h., sie versucht mit mathematischen Methoden Muster auf diesen Bildern zu finden, die nach „Pferd“ oder „Hund“ aussehen. Technisch gesehen bedeutet „lernen“ dabei, dass die Maschine gewichtet, welche Bildinformationen besonders wichtig sind. Wenn die Beispiele gut genug sind, kann das System dann später auf anderen Bildern ebenfalls Pferde und Hunde erkennen.

Lassen Sie uns nun konkreter mit dem ChatBot ChatGPT beschäftigen. Was kann diese KI?

ChatGPT ist eine generative KI. Unter diesem Begriff versteht man KI-Systeme, die Neues schaffen. Im Falle von ChatGPT wird aus einer Anfrage, einem sogenannten prompt, ein neuer Text generiert. Andere Beispiele generativer Systeme sind bild- oder videogenerierende KI-Systeme. Auch diese starten mit einem Prompt und erzeugen dann das entsprechende Medium.

Das zugrundeliegende Sprachmodell GPT (generative pre-trained transformer) ist eine spezielle Art von neuronalem Netzwerk, das enorme Mengen von Texten im Training verarbeitet hat.

Dabei wurde immer wieder ein Wort weggenommen und die Maschine sollte lernen, dieses Wort zu erraten. Das macht unser Gehirn auch ständig, wenn wir miteinander sprechen: Wir ahnen das nächste Wort vorher.

Die Maschine ist sehr gut darin geworden, in fast beliebigen Kontexten Wörter zu erraten, die mit diesem Kontext zusammenhängen. So kann ChatGPT passende Texte zu Prompts erstellen. Fakten sind ihm dabei aber egal, da es keine dahinterliegende Wissensdatenbank gibt. ChatGPT würde z. B. den Satz „Der aktuelle Kanzler in Deutschland ist Robert Habeck“ produzieren können, weil die Wörter „Robert Habeck“ oft im Kontext von „Kanzler von Deutschland“ zu lesen sind. Dass Habeck der Vizekanzler ist, „weiß“ ChatGPT nicht.

© frimufilms auf Freepik

Lügt ChatGPT?

Also, dass ChatGPT nicht faktentreu ist, ist ja auf jeden Fall klar. Aber lügen kann es nicht, da es kein Mensch, kein Wesen ist. ChatGPT assoziiert Texte zusammen – die oft richtig sind, es aber nicht sein müssen. Das ist keine Lüge, sondern ein Unvermögen. Wenn man ChatGPT zum Beispiel fragt, ob ein Xavier Yang Rodriguez eine Wikipediaseite hat, dann kreiert die Software eine URL, die so aussieht wie die von Wikipedia – die Seite selbst gibt es aber gar nicht.

Was die KI kann

Welche Chancen bietet uns ihr Einsatz? Wie können positive oder auch entlastende Nutzungsszenarien aussehen?

Ich persönlich finde es entlastend, wenn meine Studierenden damit ihre (selbst geschriebenen) Texte polieren: Dann stimmt jedes Komma und die Grammatik auch. Man kann damit auch hervorragend Ideen generieren lassen: „Generiere mir 10 Titel für meinen nächsten Artikel“. Das geht auch für Hausaufgaben: „Generiere mir 10 Multiplikationsaufgaben für Viertklässler“. Aber korrigieren kann ChatGPT die Antworten darauf natürlich nicht. Es „versteht“ nicht, was eine Multiplikation ist, aber weiß, dass auf zwei Zahlen mit einem Multiplikationszeichen ein Gleichheitszeichen kommt und dann eine weitere Zahl. Wie die zusammenhängen, weiß es allerdings nicht.

Könnten Sie kurz noch ein wenig genauer erläutern, was genau sie eben nicht kann?

Die Maschine hat kein Bewusstsein, kein Weltwissen – sie hat gezählt, wann welche Wörter in welchem Kontext sehr wahrscheinlich zu finden sind. Damit kann man großartige Dinge tun, aber eben nichts, wo es auf einen faktisch korrekten Text ankommt. Das kann sie nicht. Zudem würde ich ChatGPT aus psychologischen Gründen nicht für sehr emotionale Texte verwenden – einen Trauerbrief vollständig von ChatGPT schreiben zu lassen, fände ich persönlich respektlos. Sich inspirieren zu lassen, hingegen nicht. Der Übergang ist da natürlich fließend.

Welche Risiken sehen Sie?

Ich lese immer wieder in den Medien Sätze wie: „ChatGPT kann Hausaufgaben erledigen“, „ChatGPT kann Texte bewerten“. Beides stimmt so nicht! Richtig ist aber, dass bei Anfragen solcher Art Texte herauskommen, die auf den ersten Blick sehr überzeugend wirken können. Hier ist es wichtig, dass Lehrer:innen genauso wie ihre Schüler:innen über die zugrundeliegende Technologie aufgeklärt werden. Dann ist auch klar, was sie kann und was sie nicht kann.

Lässt sich aus Ihrer Sicht prognostizieren, welche mittelfristigen gesellschaftlichen Folgen der Einsatz von KI haben wird? Werden z. B. Jobs in ganzen Branchen wegfallen? Neue dafür entstehen?

Solange wir über „die KI“ sprechen, ist es schwierig, sich vorzustellen, was alles passieren könnte. Es ist einfacher, wenn man einmal nur über eine der vielen Technologien nachdenkt, die KI ermöglicht: z. B. die spontane Übersetzung von allen EU-Mitgliedssprachen. Was heißt das, wenn man nach Mallorca in den Urlaub fliegt und plötzlich auf Spanisch mit jedem sprechen kann? Wie viele neue Geschäftsmodelle sind damit möglich, wie groß ist der neue Markt für kleinere Unternehmen in Deutschland? Brauchen wir dann weniger Übersetzer oder eher mehr, weil sich plötzlich ganz viele Geschäfte trauen, ihre Webseiten in alle möglichen Sprachen zu übersetzen – um dann gezielt Hilfe zu erbitten bei der Übersetzung von AGBs und anderen, rechtlichen Texten? Hier, im Kleinen, sieht man besser, was alles passieren könnte. Und man erkennt auch, dass jegliche Vorhersagen auf sehr vielen Annahmen beruhen. Aber ich bin insgesamt optimistisch und glaube, dass mehr Arbeitsplätze entstehen.

KI im Unterricht

© lookstudio auf Freepik

Thema Schule: Welche Kompetenzen im Einsatz von KI benötigen Lehrer:innen? Was muss den Schüler:innen vermittelt werden? Thema Nutzungskompetenz

Lehrer:innen brauchen aus meiner Sicht eine Einführung in „Das kleine ABC der Informatik“: von A wie Algorithmus über B wie Big Data zu C wie Computerintelligenz, also KI. Dann würden sich auch viele Ängste erledigen, denn Lehrer:innen sind bis auf Weiteres nicht ersetzbar. Wir führen solche Workshops vielfach in anderen Berufen durch und danach ist die Sicht auf KI viel realistischer.

Wie könnten Einsatzszenarien in der Schule aussehen?

Ich persönlich habe das Gefühl, dass man mit den Systemen relativ gut Sprachen lernen kann, sobald man eine gewisse Basis hat.

Die Systeme sind geduldig, sprechen fast immer fehlerfrei und können sprachliche Fehler oftmals korrigieren. Man kann sich mit ihnen über sein jeweiliges Lieblingsthema unterhalten: der eine über Fußball, die andere über Programmierung, der nächste über Tiere. Lehrer:innen können sie aber auch für die Vorbereitung von Unterrichtsmaterialien nutzen: „Erstelle einen Multiple-Choice-Test zum Thema XY“ oder man lässt mit der KI einen faktisch fehlerhaften Text erstellen, in dem die Schüler:innen die Fehler finden sollen.

Lässt es sich überprüfen, ob Hausaufgaben oder eine Hausarbeit mit der KI geschrieben wurde?

Ja – daran, dass plötzlich die Grammatik und Zeichensetzung stimmt. Nein, im Ernst: Es lässt sich nicht verlässlich, und schon gar nicht gerichtsfest, erkennen, ob eine Hausaufgabe mit einem solchem System geschrieben wurde. Das geht bei einem Rechenergebnis ja auch nicht: Ob nun der Taschenrechner geholfen hat oder nicht, finden wir genauso wenig heraus. Hier hilft nur Aufklärung bei den Schüler:innen, wann sie mit solchen Systemen sinnvoll arbeiten können.

Dürfen Maschinen entscheiden

Nochmals zurück zu den Einsatzszenarien der KI. In nicht wenigen Zusammenhängen wird sie auch verwendet, um automatisiert Entscheidungen zu treffen. Könnten Sie uns hier bitte ein-zwei Beispiele geben.

KI-Systeme werden in den USA an manchen Stellen vor Gericht verwendet, um vorherzusagen, ob ein Krimineller oder eine Kriminelle rückfällig werden wird. Andere Systeme sollen helfen, Verdächtige auf Fotos zu identifizieren. Damit wurde beispielsweise fälschlich der Familienvater Robert Williams des Uhrendiebstahls bezichtigt.

Wie problematisch wird es, wenn Maschinen entscheiden?

Es wird dann problematisch, wenn sie Berechnungen anstellen, die nicht auf anderem Wege verifiziert werden können.  Robert Williams hatte glücklicherweise ein wasserfestes Alibi und konnte zu dem Zeitpunkt nicht an dem Ort des Diebstahls gewesen. Die Rückfälligkeitsprognose gehört aber zu diesen Fällen, wo es schwierig wird, die Behauptung zu bewerten. Zusätzlich verändert das Ergebnis der Maschine unter Umständen die Zukunft der beurteilten Person: Wird sie aufgrund einer zu hohen Risikoberechnung eingesperrt, kann sie nicht beweisen, dass sie NICHT wieder rückfällig geworden wäre. Tatsächlich verschlechtert sich ihre Lebenslage enorm, sodass sie vielleicht nach der Entlassung wieder rückfällig wird, gerade weil sie eingesperrt wurde. Bei solchen Fragen müssen wir also sehr gut evaluieren, ob hier Menschen oder Maschinen bessere Entscheidungen treffen.

Wie sollte hier eine Regulierung aussehen? Ist sie notwendig?

Aus meiner Sicht sollten risikoberechnende Systeme nur mit wissenschaftlicher Evaluation eingesetzt werden dürfen – so sieht es die kommende europäische KI-Verordnung auch vor. Wenn sie wirklich besser sein sollten als menschliche Entscheider, sollte man sich aber auch fragen: Woran liegt das? Wo liegt die Information, die Menschen bisher nicht oder nicht richtig beachtet haben? Denn dann könnten wir daraus lernen und vielleicht auch als Menschen bessere Entscheidungen treffen.

Oft liest man, dass – wenigstens sprachlich – der KI ein „Bewusstsein“ zugesprochen wird. Auch wenn ich mir sicher bin, dass Sie dies nicht unterschreiben, fordern Sie ein neues Wissenschaftsfeld, das mit angepassten Methoden aus Verhaltensforschung und Psychologie das Verhalten von Computern untersucht. Warum brauchen wir dies?

Bisher hat aus meiner Sicht kein KI-System Bewusstsein – ich will aber nicht ausschließen, dass es das in Zukunft geben könnte. Nichtsdestotrotz erzeugen KI-Systeme Verhalten, dass sich uns nicht mehr direkt durch ihre Programmierung erschließt. Sie machen auch Fehler – manche ähnlich zu unseren, andere sind von ganz anderer Natur. Da wir diese Verhaltensfehler nicht über die Programmierung verstehen und korrigieren können, müssen wir sie beobachtend analysieren – ähnlich wie bei Tieren und Menschen.

Als Ausblick: Welche Kompetenzen brauchen wir und sollten wir den Schüler:innen in Schulen  vermitteln, damit die Beziehung Mensch – KI in Zukunft erfolgreich gelingen kann?

Zuallererst brauchen alle ein Verständnis dafür, was diese neue Technologie kann und was nicht. Genau dafür habe ich meine Bücher geschrieben, um dieses Grundlagenwissen zu vermitteln. Danach muss man sich überlegen, ob in einer bestimmten Situation wirklich eine KI-Technologie die bestmögliche Wahl ist oder nicht doch ein klassisches Softwaresystem. Denn die klassischen Lösungen erlauben es, das Verhalten des Systems von der Programmierung her zu verstehen. KI-Systeme müssen dagegen beobachtend in ihrem Verhalten analysiert werden – da bleiben also mehr Fragen zu ihrer Zuverlässigkeit offen.

Das Gespräch führte Jörg Schmidt.

Die KI war's!

Informationen zum neuen Buch von Katharina Zweig und eine Bestellmöglichkeit findest du hier.

Am 18. Oktober 2023 wird Prof. Dr. Katharina Zweig beim #excitingedu Kongress in Berlin eine Keynote zum Thema „Schule ohne Lehrkräfte? – Was KI leisten kann (und was nicht)!“ halten.
Alle Informationen zum Kongress findest du unter excitingedu-kongress.de.

Beitrag teilen:

Facebook
Twitter
LinkedIn
Pinterest
XING
WhatsApp
Email

Ähnliche Beiträge

(269979)_2021-Norwegen-Elche---(c)Michi-Gandl-3083-web-c-Michael-Gandl-WWF
Gesponserte Inhalte
12. Februar, 2024
Am 3. März ist internationaler Tag des Artenschutzes! Nutzen Sie die Gelegenheit und feiern Sie den Tag mit Hilfe der WWF - Lehrkräftehandreichung „DIE KÖNIGE DES WALDES - WISENT UND ELCH KEHREN ZURÜCK“ im Unterricht.
8
24. Januar, 2024
Am 17. Januar 2024 hat die Kultusministerkonferenz in Deutschland durch ihre Ständige Wissenschaftliche Kommission (SWK) ein Impulspapier - Large Language Models und ihre Potenziale im Bildungssystem ¬ zur Nutzung von textgenerativer KI wie ChatGPT in Schulen veröffentlicht. Die SWK als beratendes Organ der KMK betont, dass KI immer wichtiger wird und das Potenzial von KI zur Unterstützung von Lehr-/Lernprozessen genutzt werden sollte. Gleichzeitig aber weist die SWK darauf hin, dass ein hoher Fortbildungsbedarf für Lehrkräfte besteht, nicht zuletzt da Schätzungen davon ausgehen, dass um die 20 Prozent der Schüler:innen ChatGPT nutzen.
Header_MZ Blogbeitrag_04-2023 (8)
16. Januar, 2024
Negative Emotionen gegenüber Schüler*innen lassen sich kaum vermeiden. Dabei können sie sich nicht nur negativ auf unsere Gesundheit auswirken, sondern auch unsere Beziehung zu den betroffenen Schüler*innen negativ prägen. Doch was können wir als Lehrkraft dagegen tun?
Header_MZ Blogbeitrag_04-2023 (7)
16. Januar, 2024
Durch die Corona-Pandemie haben sich Anzahl und Schwere sowohl psychischer Auffälligkeiten wie Ängste, Niedergeschlagenheit oder Essstörungen als auch körperlicher Probleme wie Kopf- und Bauchschmerzen oder drogeninduzierte Psychosen bei Schüler*innen zwischen 11 und 17 Jahren von 18 auf 30 Prozent erhöht. Wenn sich Schüler*innen unangemessen im Unterricht verhalten, liegt das meist daran, dass es ihnen schwerfällt, es ohne Hilfe besser zu machen. Doch wie können wir als Lehrkraft helfen? Hier ein paar Ansätze.
Header_Entdeckt_02-2023 (25)
13. Dezember, 2023
Plastik ist ein Material mit vielseitigen Einsatzmöglichkeiten und aus unserem Alltag kaum noch wegzudenken. Ebenso wenig ist aber zu übersehen, dass vor allem Wegwerfartikel Probleme machen, denn Plastikmüll findet sich nicht nur in Stadt und Land, sondern auch in Flüssen und Meeren. Bevor die Müllteile allmählich zerfallen oder sinken, können sie in den Ozeanen zirkulieren und dauerhaft riesige Plastikwirbel bilden. Es entsteht eine regelrechte Plastiksuppe im oberen Wasserbereich, in der sich spezialisierte Lebewesen ansiedeln. Sie sind hier Gefahren ausgesetzt, finden aber auch neuen Lebensraum. Mit einer schwimmenden Unterlage können gebietsfremde Arten in entfernte Meeresteile gelangen oder an fremden Küsten angespült werden. Die ökologischen Folgen einer solchen Einwanderung sind noch weitgehend unklar.
Header_Entdeckt_02-2023 (22)
6. Dezember, 2023
Die aktuellen Nachrichten sind düster: weitere Angriffe auf die Ukraine, Bodeninvasion im Gazastreifen, Sturmfluten wegen des Klimawandels, Armutsmigration, Inflation. Was für Aussichten für unsere Schüler*innen. Generation Dauerkrise. Die Themen beeinflussen unsere Gespräche, sie dominieren – neben Katzenvideos – das Internet, die sozialen Medien und nicht selten auch den Unterricht.
ORP_TeachEconomy_Header1_20220422
Gesponserte Inhalte
6. Dezember, 2023
Die Online-Plattform www.teacheconomy.de stellt eine Fülle lehrplanrelevanter Unterrichtseinheiten mit digitalen Ergänzungen bereit, die zeitgemäßen Wirtschaftsunterricht in Gesamtschulen und Gymnasien der Sekundarstufen I und II unterstützen. Ein neues Highlight ist die Filmreihe zur Berufsorientierung, bei der TikTokerin Selma einen Blick hinter die Kulissen von Digitalisierung, New Work und Co. wirft.
Header_Entdeckt_02-2023 (13)
7. November, 2023
Mit den gängigen Werkzeugen CO2-Steuer und dem EU-Emissionshandelssystem (EU-ETS) werden wir nicht in ausreichendem Maße CO2-Emissionen reduzieren, um die Klimaziele einhalten zu können. Eine effektive Alternative bieten persönliche, handelbare Emissionsbudgets.
Header_Entdeckt_02-2023 (11)
24. Oktober, 2023
Die Klimakrise ist nicht länger eine ferne Bedrohung, sondern eine existenzielle Herausforderung, die unsere Welt und unsere Gesellschaft unmittelbar betrifft. Es ist daher an der Zeit, dass wir kollektiv Verantwortung übernehmen und konkrete Schritte unternehmen. Dafür ist es erforderlich, dass wir alle gut über die aktuelle Situation und vor allem über die vorhandenen Lösungsansätze zum Klimaschutz informiert sind. Grund genug also, das Thema in die Schulen zu bringen. Wie das geht, erfahren Sie im zweiten Teil unserer Minireihe zum Thema Klimaschutz.
pexels-skightv-12111230
17. Oktober, 2023
Die Klimakrise ist wissenschaftlich gut verstanden – der Treibhauseffekt wurde immerhin bereits vor 200 Jahren beschrieben. Obwohl also entschlossenes Handeln dringend erforderlich ist und obwohl wir sowohl über das Wissen als auch über die Technologie und die finanziellen Mittel verfügen, um Klimaneutralität zu erreichen, werden die notwendigen Maßnahmen immer noch zu spät und zu zögerlich ergriffen. Mit der richtigen Kommunikation ließe sich das ändern. Wie das geht, erfahren Sie im ersten Teil unserer Minireihe zum Thema Klimaschutz.
Header_Entdeckt_02-2023 (6)
10. Oktober, 2023
Seit 2022 ist „Journalismus macht Schule“ (JmS) ein eingetragener, gemeinnütziger Verein. JmS unterstützt Lehrkräfte bei der Vermittlung von Informations- und Nachrichtenkompetenz. Mit Tipps und Tools für den Klassenraum soll die Nachrichtenkompetenz der Schüler*innen verbessert und durch Unterrichtsbesuche von Journalist*innen authentisch vermittelt werden.
Header_Entdeckt_02-2023 (2)
Gesponserte Inhalte
27. September, 2023
Zeitgemäßer Unterricht funktioniert optimal, wenn alle Schüler*innen mit einem einheitlichen digitalen Endgerät ausgestattet sind. Deshalb bietet die Gesellschaft für digitale Bildung (GfdB) das iPad schoolTab-Bundle an, das allen Schüler*innen eine digitale Teilhabe ermöglicht. Dank seiner Leistungsfähigkeit, seiner Langlebigkeit und seinen flexiblen Einsatzmöglichkeiten ist das iPad für den Schulalltag bestens geeignet.