Künstliche Intelligenz: ja, aber „man muss am eigenen Denken festhalten“

Künstliche Intelligenz verlangt von uns allen „scharf nachzudenken“, so Birgit Aschemann, Bereichsleiterin für Digitale Professionalisierung bei CONEDU. Das Bildungsnetzwerk Steiermark sprach mit der Expertin darüber, inwieweit und wie bald die neue KI in der Erwachsenenbildung Einzug halten wird, ob „avatarisierte“ Lehrkräfte denkbar sind, welche Auswirkungen Künstliche Intelligenz generell auf unsere Gesellschaft hat und warum sie eine Denkaufgabe für uns alle ist und lange bleiben wird.

Brauchen wir Künstliche Intelligenz in der Erwachsenenbildung?
Wir hätten Künstliche Intelligenz in der Erwachsenenbildung vielleicht nicht erfunden, aber sie ist da. Wenn ich sage, ich brauche die KI nicht, dann ziehe ich mich zurück in eine Enklave. Das kann ich machen, aber dann biete ich nicht gleichzeitig ein Serviceangebot für alle hier lebenden und arbeitenden Menschen. Damit verweigere ich in der Erwachsenenbildung meinen gesellschaftspolitischen Auftrag, Menschen in der Welt, in der wir leben zu begleiten, auszubilden, weiterzubilden, zu unterstützen. Was wir dringend brauchen, ist die Auseinandersetzung mit KI, denn sie hat so vieles verändert.

Wie lange dauert es, bis man mit der Künstlichen Intelligenz umgehen und arbeiten kann?
Das grundlegende Funktionswissen ist relativ schnell erklärt. Aber zur KI-Kompetenz gehört nicht nur Bedienungsknowhow, sondern auch – auf gut steirisch – ganz viel scharf nachdenken. Medienkompetenz und kritisches Denken sind wesentliche Voraussetzungen für den Umgang mit der generativen KI*, die uns Texte und Bilder, Powerpoints und Videos schaffen lässt. Viele KI-Tools spiegeln uns etwas vor, auf das wir hereinfallen. Auch Maschinengläubigkeit ist da ein Thema. Menschen tendieren dazu, etwas das eine Maschine errechnet hat, als objektiver und besser zu betrachten. Wissen wie es funktioniert und eine Wachheit, sich nicht von KI-Services einlullen zu lassen, sind wichtig. Da muss man widerständig sein und an seinem eigenen Denken festhalten und sich fragen: Kann das überhaupt stimmen? „Habe Mut, dich deines eigenen Verstandes zu bedienen!“, dieser Leitspruch der Aufklärung gilt noch immer. Wir sind und bleiben also in Verantwortung.

Wie werden die Tools aktuell angenommen?
Die generative Künstliche Intelligenz polarisiert recht stark und wird von verschiedenen Gruppen unterschiedlich angenommen. Ich erlebe viel an ziemlich unreflektierter Begeisterung und viel an ziemlich unreflektierter Abwehr, und nicht ganz so viel dazwischen. Wenn ich KI-Tools zeige, kann ich fast sicher sein, dass das bei einigen Empörung wegen Urheberrecht oder Datenschutz auslöst, auch wenn es datenschutzfreundliche Tools sind. Da sind wir wieder bei einem Denkfehler, dem Bestätigungsfehler: Man sieht vor allem das, was die eigene Meinung bestätigt. Andere wieder sehen nicht, wo sie bei KI-Tools aufpassen müssen. Der digitale Gap geht also mitten durch die Erwachsenenbildung. Die generative KI zeigt, wie groß der Unterschied ist zwischen denen, die Digitales eher als Bedrohung empfinden und jenen, die es begeistert aufgreifen.

Wird im Bereich der Erwachsenenbildung mit der Künstlichen Intelligenz eigentlich auch „geschwindelt“?
Wir haben in der Erwachsenenbildung keine so ausgeprägte Schreib- bzw. Prüfungskultur wie in der Schule oder Hochschule. Viele Angebote schließen mit Teilnahmezertifikaten ab. Wenn man nicht gerade von einem nachgeholten Pflichtschulabschluss oder einer Berufsreifeprüfung spricht, gibt es das Schummeln daher nicht. Ich sehe jetzt allerdings – auch für Schulen und Universitäten – die große Chance, stärker auf Entstehungsprozesse von schriftlichen Arbeiten zu schauen, und nicht so sehr auf die Produkte. Statt des WAS steht nun das WIE stärker im Vordergrund.

Welche Gefahren und Risiken sehen Sie im Umgang mit Künstlicher Intelligenz?
Es gibt viele. Ich zitiere gerne das sogenannte „Dagstuhldreieck“: Es braucht das Knowhow zur Anwendung, zur Funktion und zu den gesellschaftlich-kulturellen Folgen, um mit der generativen KI richtig umzugehen. Wichtig ist, sich die Frage zu stellen, was das heißt: das Tool generiert etwas. Also es errechnet das Ergebnis und es sucht nicht, es recherchiert nicht und versteht nicht. Was die Künstliche Intelligenz so sehr von unseren bekannten digitalen Tools unterscheidet, ist, dass man diese nicht so leicht falsch verwenden konnte. Bei KI-Tools ist technisch ganz viel möglich, was sachlogisch der totale Unfug ist. Unsachgemäße Verwendung führt zu falschen Informationen. Mit den Textgeneratoren kann man auch davon ausgehen, dass wesentlich mehr oberflächliches BlaBla entsteht, das auch veröffentlicht wird. Bei der Technologie, die „avatarisierte“ Lehrkräfte verwendet, ist wiederum die Fälschungsgefahr groß – die Funktionsweise ist ja die gleiche wie bei DeepFakes.

Vertrauen wir der Künstlichen Intelligenz zu sehr?
Wir haben beim sogenannten Anthropomorphismus noch einen großen Lernbedarf. Das bedeutet, dass wir uns ständig täuschen, womit wir es zu tun haben, wenn wir KI-generierte Antworten lesen. ChatGPT ist optimiert für eine menschliche Sprache, dafür haben zwei Programmierschritte gesorgt. Die erste als Fine-Tuning, damit ChatGPT mit uns kommunizieren kann, und die zweite ist ein Reward-Modell, das nenne ich gerne den „Weichspüler“. Diese Höflichkeitsmasche mit Phrasen wie „Was kann ich noch für dich tun?“ bringt uns dazu zu glauben, wir hätten ein nettes einfühlsames Gegenüber, das in kürzester Zeit sachverständig antworten kann. Aber es sind rein errechnete Antworten und diese Rechenmaschine weiß nicht, was sie sagt. Sie kennt die Welt nicht, das Leben nicht, es steckt kein Sinnverständnis dahinter. Das können wir nur ganz schwer begreifen, denn wir beziehen uns auf unsere Erfahrung und die spiegelt uns etwas vor, was nicht gegeben ist.

Welche Tools empfehlen Sie persönlich?
Im Moment empfehle ich vor allem Tools, für die man sich nicht anmelden muss. Damit meine ich nicht nur, dass sie kostenlos sind, sondern auch, dass man keine E-Mailadresse und keinen Namen angeben muss. Diese Tools sind datenschutzfreundlich. Noch mehr Kontrolle über die eigenen Daten gibt es erst, wenn wir lokale KIs auf unseren Rechnern laufen haben, was technisch schon sehr nahe ist. Für eine KI-gestützte Internetrecherche finde ich perplexity sehr empfehlenswert, You.com ist als ChatGPT-Alternative nützlich. Es gibt außerdem das deutsche Tool ChatPDF von der ChatPDF GmbH. Hier wird darauf hingewiesen, dass man keine urheberrechtlich geschützten Texte eingeben soll. Wir stellen diese Tools übrigens auch auf erwachsenenbildung.at vor.

Ist der Vergleich Künstliche Intelligenz und Wikipedia zulässig?
Wenn ich eine Aussage über den Klimawandel lese, ist es ein Unterschied, ob die Aussage von Global 2000 oder von der Autoindustrie stammt. Bei Wikipedia gibt es Quellen, auf die verwiesen wird, und es gibt eine gegenseitige Kontrolle. Quellen waren schon immer ein Stück Qualitätskriterium für Wissen. Der KI ist das egal, sie generiert aus allen Trainingsdaten die sie bekommen hat. Mit KI-Sprachmodellen verabschieden wir uns von der Rückverfolgbarkeit von Aussagen – das ist schon ein Paradigmenwechsel. Insofern kann man KI-Tools und Wikipedia nicht gut vergleichen.

Welche Einflüsse hat die Künstliche Intelligenz auf die Gesellschaft?
Es geht alles viel schneller, das ist das große Versprechen der KI, das auch eingehalten wird. Wir haben jetzt also quasi alle einen Ferrari in der Garage, und da kann man sagen: „Da steige ich nicht ein, Teufelszeug!“, oder man steigt ein und gibt Gas. Dann ist man sehr schnell dort – wo man vielleicht gar nicht hinwollte. Die Künstliche Intelligenz ist effizient, aber der Druck am Arbeitsmarkt steigt, denn wenn die Konkurrenz Künstliche Intelligenz verwenden kann, komme ich in Zugzwang und muss das auch machen. Das genaue Hinschauen wird wohl in vielen Bereichen verschwinden und das führt dann zu Qualitätsverlusten. Es ist belegt, dass seit dem Taschenrechner die Kopfrechenfähigkeit abnimmt, also das Gefühl für Größenordnungen, und seit Google Maps der Orientierungssinn. Die generative KI tut, als könnte sie uns Denkaufgaben abnehmen. Das ist schon etwas, das mir Sorgen macht. Es geht sehr darum, wie wir damit umgehen und ob wir die KI als Herausforderung an unser eigenes Denken begreifen, was sie eigentlich ist. Dann ist sie supernützlich, dann bringt sie uns dazu, genauer zu reflektieren, warum wir diese oder jene Schritte setzen bei diversen kognitiven Leistungen und Aufgaben. Das hat Potenzial. Aber wir wissen auch, dass viele Menschen unter Druck stehen und sich servicieren lassen wollen.

Welche wirtschaftlichen Auswirkungen sehen Sie aufgrund dieser Entwicklungen?
Die Künstliche Intelligenz ist ein Geschäft, bei dem unglaublich viel Geld dahintersteckt. KI verschlingt aber auch wahnsinnig viel Strom. Wenn wir immer umfangreichere KI-Modelle bauen, lässt sich das mit den Nachhaltigkeitszielen nicht vereinbaren. Auch „avatarisierte“ Lehrkräfte sind da ein Thema, denn man kann inzwischen jeden Vortragenden „avatarisieren“. Für uns fällt das noch ein bisschen unter Uncanny Valley Effekt, den sogenannten Gruselgraben. Dieser Effekt belegt, dass man Roboter oder Avatare gruselig findet, wenn sie Menschen ziemlich ähnlich sehen, aber noch nicht zu 100 Prozent menschlich wirken. David Röthler hat vor Kurzem in der VHS-Zeitschrift den Artikel „Die künstliche Intelligenz als Erwachsenenbildnerin“ publiziert und meint darin am Ende, dass das die Zukunft sei. Ich hoffe es nicht, weil wir dann die Beziehungsarbeit, das Beziehungslernen, aufgeben. Und ich kann mir nicht vorstellen, dass wir da in der Erwachsenenbildung so schnell mitmachen. Es wird viel Widerstand dagegen geben. Aber „avatarisierte“ Lehrkräfte sind natürlich billiger als Menschen. Inzwischen gibt es auch schon Live-Chats mit menschlich wirkenden Avataren, die in Echtzeit antworten. Und auf iMoox bietet Martin Ebner mit seinem Team im MOOC „Societech“ eine komplette KI-generierte Vorlesung, deren Entstehung genau dokumentiert und für Kritik zugänglich gemacht wurde.

Wie steht es um die Daten- und Informationskompetenz?
Es muss mitgedacht werden, was die generative KI mit der Gesellschaft macht. Wir reden da gerne von „Datenkompetenz“, weil es wirklich darum geht zu wissen, wie Datensammlungen oder Datenprofile in einem ganz normalen Alltag eine Rolle spielen, wie sie uns beeinflussen und wie sie entstehen. Wir sollten uns unseres Datenschattens einfach alle bewusst sein. Auch die grundlegende Informationskompetenz ist ein relevantes Thema: Wie entsteht Information? Woher kommt sie? Wie bewerte ich etwas, das ich irgendwo lese? Das alles hat mit KI zu tun. Und wir alle sind die Zielgruppe für diese Weiterbildungen, denn wer von uns kann schon sagen, er hätte die Künstliche Intelligenz schon in der Schule gehabt?

Brauchen wir neue, niederschwellige Bildungsangebote in diesem Bereich?
Ich glaube, dass die Künstliche Intelligenz für die Erwachsenenbildung ein großer neuer Auftrag ist. Mit der KI ist die Gefahr verbunden, dass noch mehr in Technikerhänden landet, was eigentlich pädagogische Aufgaben sind. Es müsste uns gelingen uns einzubringen.
Es bräuchte spezifische pädagogische Anwendungen, die auch von Pädagoginnen und Pädagogen gestaltet werden. Dazu benötigen wir KI-Knowhow. Und es braucht ganz sicher mehr niederschwellige Angebote für alle. Auch kritisches Denken ist grundlegend, wobei dieser Begriff unbeliebt ist, weil niemand sich unterstellen lassen möchte, dass er nicht kritisch denken kann. Kritisches Denken bedeutet aber nicht, dass man grundsätzlich alles kritisiert, sondern eigenständiges Denken und Urteilen. Es gibt dazu übrigens einen guten Beitrag von Nele Hirsch und auch ein kleines Reclam Büchlein zum Thema „Kritisches Denken“ von Jonas Pfister.

Wird es in Zukunft mehr Online-Weiterbildung geben?
Ich bin sicher, dass es ein Mehr an Weiterbildung zu digitalen Themen geben muss. Es gibt mit KI viele schnell erzeugte Online-Inhalte, das ist auch nicht teuer, und das spricht für mehr Online-Angebote von unterschiedlicher Qualität. Aber es gab schon vor der generativen KI einen Trend in Richtung Online-Selbstlern-Angebote. Gerade nach der Pandemie hatte man sich daran gewöhnt, dass man daheimsitzen und lernen kann. Online-Weiterbildung ist also seit 2020/21 und nicht erst seit der generativen KI im Jahr 2023 ein größeres Thema geworden.

Wie sieht Ihre Zukunftsprognose aus?
In der Erwachsenenbildung wird nicht so heiß gegessen wie gekocht, wir lassen gerne alles ein bisschen abkühlen. Ich weiß noch nicht so recht, was sich durchsetzen wird. Um in Europa im großen Stil datenschutzfreundliche KI-Umgebungen zur Verfügung zu stellen, brauchen wir wohl die Möglichkeiten von Open Source KIs für die lokale Installation. Ein Beispiel dafür ist Mistral, das kann man schon bei uns installieren. Ich kann aber auch mit Tools ohne Anmeldung weit kommen. Es könnte auch in Richtung „avatarisierter“ Lehrender gehen, was ich eher nicht glaube, weil wir die Beziehungsaspekte nicht so schnell aufgeben werden. Man wird sehen, ich bin selbst schon gespannt.

Weiterführende Informationen

*Der Begriff generative KI bezeichnet KI-Tools, „die ohne direktes menschliches Eingreifen neue Inhalte wie Bilder, Texte, Musik, Videos, Spiele, Code, Prompts oder ganze virtuelle Umgebungen erzeugen können“. Diese Definition und weitere Erklärungen zu den wichtigsten Begriffen der Künstlichen Intelligenz für den Bildungsbereich finden sich hier.

Mehr über KI erfährt man auf Veranstaltungen, MOOCs und Blogs und bei Diskussionen. Birgit Aschemann empfiehlt einen netten Comic-Essay über die KI-Grundlagen, auf Deutsch kann dieser als Print bestellt werden, auf Englisch steht er als Download zur Verfügung.

Zum Thema KI finden sich am Weiterbildungsnavi Steiermark aktuell Bildungsangebote in verschiedenen Bereichen. CONEDU, der Verein für Bildungsforschung und -medien, bietet zum Beispiel eine aus insgesamt zehn kostenlosen Online-Modulen bestehende Weiterbildungsreihe an.

Auch viele weitere Organisationen (z. B.: bifeb, tecTrain, WIFI, VHS …) beschäftigen sich mit Künstlicher Intelligenz, aktuelle Kurse sind unter hier zu finden.