Nachlese zum Science Talk > Künstliche Intelligenz - worauf vertrauen wir noch?
Links zur Mediendatenbank des BMBWF:
Science Talk: Künstliche Intelligenz will gelernt sein
Wien (APA/APA-Science) - Viel diskutiert werden derzeit Chancen durch Künstliche Intelligenz (KI), aber auch Risiken. So auch Montag Abend bei einer Podiumsdiskussion unter dem Titel "Künstliche Intelligenz - worauf vertrauen wir noch?", zu der das Bundesministerium für Bildung, Wissenschaft und Forschung geladen hatte. In einer Sache waren sich alle einig: Pädagogen und Pädagoginnen stehen vor großen Herausforderungen.
Disruptive Revolution mit Vorsicht zu genießen
"Der Grund, warum wir heute hier sitzen und warum wir seit Anfang des Jahres dieses große mediale Interesse gesehen haben, ist ChatGPT", sagte Clemens Heitzinger, "weil es in der Geschichte der KI das erste System ist, das wirklich gut mit menschlicher Sprache umgehen kann", so der Co-Direktor des fakultätsübergreifenden "Center for Artificial Intelligence and Machine Learning" an der Technischen Universität (TU) Wien.
Es gibt derzeit kaum ein Gespräch, bei dem ChatGPT nicht ein Thema ist. Das Programm kann Texte verschiedener Genres schreiben, komponieren, rechnen, malen. Auch im Publikum sitzt ein junger Herr, der es "jeden Tag verwendet". Stefan Strauß von der Österreichischen Akademie der Wissenschaften (ÖAW) warnte jedoch auch vor den Mängeln, die es noch gibt: "Dass es eine disruptive Revolution ist, dem würde ich nicht widersprechen wollen, und dass es einen wirklichen Qualitätssprung bedeutet, das ist völlig unumstritten, aber es gibt eine Reihe von Beispielen, die zeigen, dass es nicht so gut funktioniert, wie man vielleicht glauben möchte. Es gibt einen schönen Fall aus der Rechtsecke, in dem man einfach Urteile erfunden hat." Das sei auch "ein wesentlicher Knackpunkt in Bezug auf den Untertitel der Veranstaltung, also Vertrauen", so der Wirtschaftsinformatiker weiters. Es stellt sich für ihn die Frage: "Wie vertrauensvoll kann dieses System sein, wenn da auch frei erfundene Dinge drinnen stehen?"
Von einem "Bruch" sprach auch die Medienwissenschafterin Eugenia Stamboliev. Als Technikphilosophin stellt sie sich auch die Frage: "Verwenden wir diese Technologie oder verwendet sie uns?" Als ChatGPT herauskam, hielt sie eine Lehrvorlesung an der Universität Wien und hat den Studierenden erlaubt, das Programm in ihren Arbeiten zu verwenden. "Das Ergebnis war ein wenig erschreckend. Bequemlichkeit ist etwas sehr Mächtiges und sobald man einen Prozess von Anstrengung kürzer machen kann, werden sich die Menschen dessen bedienen. Insofern ist das ein großer Umbruch, was das Thema Wissensaneignung betrifft."
Sind Deep Fakes gefährlich? Jein.
Auch in Bezug auf die Wahlen in Europa und den USA im nächsten Jahr gibt es Bedenken. Eine KI kann mit dem Aussehen und der Stimme eines Menschen ein fiktives Video erstellen. Ob das eine reale Gefahr darstellt, darüber ist man sich allerdings uneins.
Eugenia Stamboliev zeigte sich besorgt. "Deep Fakes könnten eine Quelle so simulieren, dass wir nichts mehr vertrauen können. Es geht dann gar nicht mehr um Wahrheit oder Lüge, sondern dass es unmöglich sein wird, an Informationen zu kommen. Ich glaube, das könnte zu einer Wissens- und Vertrauenskrise führen."
Matthias C. Kettemann vom Institut für Theorie und Zukunft des Rechts an der Universität Innsbruck hält Deep Fakes hingegen für "irrelevant". "Deep Fakes spielen gesellschaftlich überhaupt keine Rolle. In keinem Desinformationskonflikt wurden sie bisher effektiv eingesetzt und werden das in Zukunft auch nicht tun. Ich denke, dass die völlig legalen Lügen eines Johnson und eines Trump einen viel größeren Einfluss haben auf das Wahlverhalten von Menschen als Künstliche Intelligenz. Die KI macht vieles falsch, aber nicht alles. Sie ist ein schöner Sündenbock."
Stefan Strauß sieht durchaus auch ein Problem. Im Fall von Cambridge Analytica seien schließlich 87 Millionen User-Daten missbraucht worden, um gezielt beeinflussende Werbung zu schalten. "Gleichzeitig gibt es auch harte Indizien dafür, dass Cambridge Analytica nicht nur eine wichtige Rolle bei den Wahlen in den USA, sondern auch beim Brexit gespielt hat. Also ich glaube, das geringste Problem ist, dass der Papst in einer Daunenjacke abgebildet wird."
Kritische Medienkompetenz ein Muss
"KI muss Bildungsinhalt sein", betonte Matthias C. Kettemann. "Meine Schwester ist Lehrerin und sie erzählt mir: Was sich verändert, ist die Art und Weise, wie man unterrichtet. Es kommt eine neue Kultur der Mündlichkeit. Referate werden stärker werden. KI ist Teil unseres Lebens, und wir müssen die jungen Menschen darauf vorbereiten."
Wenn eines an diesem Abend klar wurde, dann dass der Umgang mit Künstlicher Intelligenz in Zukunft ein fester Bestandteil von Bildung sein sollte, um die Möglichkeiten und Grenzen dieser Systeme zu verstehen. "Es ist wesentlich, dass man im Umgang mit KI eine kritische Medienkompetenz entwickelt", betonte Stefan Strauß. Denn KI stellt uns vor gesellschaftliche, wirtschaftliche und auch rechtliche Fragen, die nicht alle an einem Abend gelöst werden können.
"Mindestens 95 Prozent aller Studierenden und Schüler und Schülerinnen verwenden es mittlerweile", sagte Clemens Heitzinger über ChatGPT. "Das heißt, wir müssen uns als Gesellschaft darüber im Klaren werden, was das Grundwissen ist, das jeder haben sollte, um diese Inhalte, die auf uns zusteuern, richtig einordnen zu können."
"Man sollte die Welt ja auch erfahren", betonte Eugenia Stamboliev: "Man denkt, man ist effizienter, aber man nimmt sich sehr viel Erfahrung."
frm/asc
SCI0014 2023-09-26/13:15
261315 Sep 23