Ich habe neulich beim AusbaldowerCamp mitgemacht, welches du mir empfohlen hast.
Und? Wie fandest du es?
Ich fand es total anregend. Der Austausch hat mir wirklich gut gefallen. Ich frage mich wie ChatGPT die Lehre verändern wird; welche Chancen und welche Herausforderungen uns damit erwarten. Das ist gerade alles sehr aufregend. Ich habe bei dem Barcamp so viele Informationen bekommen und muss das für mich erst einmal alles noch ein wenig sortieren.
Hmmm, je mehr ich mich mit dem Thema beschäftige, desto nerviger finde ich es.
Streitgespräch zu ChatGPT – Der Schreibstil
Wieso? ChatGPT ist eine Technologie, die vieles verbessern kann. Der Bot ist hilfreich und liefert interessante Informationen mit einem guten Schreibstil.
Guter Schreibstil? ChatGPT ist eine digitale Labertasche! Manches Mal wohl sehr überzeugend, oft aber auch nicht. Es schwafelt viel und erfindet voller Inbrunst Quellen und Zitate. In geschätzt 90 % der Fälle sind das Quellen, die es einfach nicht gibt! Der Schreibstil ist zudem sehr redundant.
Kann sein. Manches Mal ist das wirklich so und die Erfahrung habe ich auch gemacht. Der Vorteil für die Hochschullehre ist jedoch, dass ChatGPT Anregungen für Lehrende und Studierende gibt.
Anregungen für die Hochschule
Welche sollen das sein?
Naja, man kann sich kurze Zusammenfassungen schreiben lassen, du bekommst Multiple-Choice-Aufgaben vorgeschlagen oder auch Lückentexte, Inhaltsangaben für Übersichten… sowas halt.
Multiple-Choice, okay. Das mag eine Erleichterung sein. Aber ehrlich: Word konnte früher auch Texte zusammenfassen (eine Funktion, die es heute leider nicht mehr gibt). Und das bestimmt nicht schlechter, als es aktuell ChatGPT macht. Den Hype verstehe ich also schon mal nicht.
Streitgespräch zu ChatGPT – Prüfung der Aussagen
Und – wenn ich so darüber nachdenke – bei der Erstellung von Multiple-Choice durch ChatGPT muss man wahrscheinlich jede Antwort einzeln überprüfen, ob die wirklich stimmt. Ich traue diesem Ding nicht mehr, weil es einfach viel Unfug erzählt und Dinge frei erfindet.
Schon klar, aber wie sonst beim wissenschaftlichen Arbeiten auch, müssen diese Informationen auf Richtigkeit, Genauigkeit usw. überprüft werden. Ebenso müssen die angegebenen Quellen überprüft werden, die wirklich oft nicht stimmen.
Also nach meiner bisherigen Erfahrung mit diesem Chatbot kann ich dann auch gleich eine richtige Recherche machen und muss nicht mühsam eruieren, was nun stimmt oder was falsch an dem ist, was ChatGPT behauptet.
Ich habe gerade mehrere ‚Unterhaltungen‘ mit Chatti am Laufen und in wirklich jeder, bei der es um tiefergehendes Wissen geht, erzählt das Ding einfach viel Quatsch.
Roter Teppich für Fake News
Wenn jetzt viele wirklich davon ausgehen, dass das, was ChatGPT da verzapft wahr ist, dann wird für Fake-News der rote Teppich ausgerollt.
Dies ist für mich leider kein Alleinstellungsmerkmal von ChatGPT. Andere Plattformen verbreiten doch auch falsche Informationen.
Aber nur weil andere auch Falschinformationen verbreiten, heißt das doch nicht, dass dies jetzt für Chat-Bots legitim sein sollte. Diese Bots, und auch kommende Folgende, werden es für viele Personen immer schwieriger machen echte Fakten von gefälschten unterscheiden zu können.
Ich habe gehört, das heutzutage bereits 50 % des Contents im WWW auf Bots zurückzuführen ist. Wenn die Sprache dieser nun immer besser wird, und davon können wir uns bei ChatGPT ja gerade alle selbst überzeugen, werden solche generierten Aussagen immer glaubwürdiger und man fängt an sie nachzuquasseln.
Aber wir können doch die Technologie nicht dafür verantwortlich machen, was die Menschen damit anrichten!
Die Technologie ist nun aber da, jetzt und hier. Und der Großteil von uns hat nicht die nötigen Kompetenzen, um damit auch richtig umzugehen. Nur weil etwas eloquent geschrieben ist und angebliche Quellen zitiert, ist es ja nicht gleich richtig. Wir hatten vorher schon ein massives Problem mit Fake-News und auch hier sind die wenigsten auf Recherche und Fehlersuche gegangen. Wenn es plausibel klingt, muss es auch plausibel sein. Dieses Problem wird durch ChatGPT absolut verschärft werden.
Zu hohe Erwartungen an das Sprachmodell?
ChatGPT ist zudem nicht in der Lage Wissen zu übertragen. Es kann keine neuen Verknüpfungen herstellen oder Zusammenhänge erkennen. Mathematisch ist er auch nicht gerade der Hellste. ChatGPT ist ein auf Sprache basiertes Modell. Ich habe das Gefühl, dass es genau das ist, die Interaktion über die Sprache, die ChatGPT momentan für viele auf den ersten Blick so faszinierend wirken lässt, was den Reiz an dieser Technologie ausmacht.
Ja, aber das bedeutet doch, dass die vermuteten Gefahren nichts mehr als absurde Spekulationen sind, z.B. dass Studierende ganze Hausarbeiten mit ChatGPT schreiben und Lehrende dieses nicht merken würden! Das ChatGPT auf wahre Fakten zurückgreift war wohl nie der Anspruch, habe ich gehört.
Okay, das ist mir neu. Es wurde anfangs behauptet ChatGPT würde das neue Google werden. Für Geisteswissenschaften soll das Laberrababer von ChatGPT heute schon ganz gut funktionieren, das kann ich aber schlecht beurteilen.
Also laut Doris Wessels ist ChatGPT eben keine Suchmaschine, sondern eine „Inspirations-Maschine“. Zumindest aktuell. Und wir wissen ja auch noch gar nicht, was der Sprach-Bot zukünftig alles kann. Noch befindet sich er sich in Kinderschuhen und trainiert fleißig laufen. Im Bereich KI ist aktuell von einem exponentiellen Wachstum auszugehen. Und all deine Befürchtungen um falsche Fakten könnten sich bereits bald in Luft auflösen.
Streitgespräch zu ChatGPT – Ökologischer Aspekt
Na ich glaube schon, dass Fake News zu unserem Alltag gehören und auch weiterhin gehören werden. Meinst du es macht sich jemand Gedanken darüber, dass für Programme wie ChatGPT unheimlich viel Rechenleistung gebraucht wird?
Ja, bestimmt. Nur leider scheinen mir solche Überlegungen gesamtgesellschaftlich keine hohe Priorität zu haben!
Das sollten sie aber. Das sollte bei allem was ‚neu auf den Markt‘ kommt mitbedacht werden.
Streitgespräch zu ChatGPT – Datenschutz
Und was ist mit dem Datenschutz? Ich meine, ich muss da meine Mail-Adresse und meine Handynummer hinterlegen. Und die Gespräche werden gespeichert, damit die KI verbessert werden kann.
Jemand, der hier seine Daten nicht hinterlegen möchte kann sich doch bestimmt extra dafür Dummys anlegen. Und wegen missbräuchlichem Datenklau, müssen Regulierungen eingeführt werden. Ist doch klar.
Für die dann wieder Gesetzeslücken und Co. gefunden werden. Und außerdem: Seit wann halten sich Kriminelle an Gesetze? Und je mehr hier reguliert wird, desto mehr wird sich die KI-Forschung und Entwicklung in andere Länder verschieben. Eine Lösung wäre, solche Tools hier vor Ort mit unseren Datenschutz-Richtlinien zu entwickeln.
Die Idee ist gut. Das sollte finanziell gefördert werden. Und aktuell musst du halt genau abwägen, wofür du es benutzen möchtest. Welche Fragen du in die Unweiten dieses Systems schickst und welche eben nicht.
Streitgespräch zu ChatGPT – Nochmal zu den Fakten
Dennoch, sobald es um die Erzeugung von Fakten in einem Text geht, ist ChatGPT – zumindest heute – noch absolut unbrauchbar.
Wir haben ja schon festgestellt, dass Studierende durch ChatGPT erstellte Texte überprüfen und überarbeiten müssen. Auch die Rolle der Lehrenden wird sich zukünftig stark ändern. Künstliche Intelligenzen wie ChatGPT werden uns die Arbeit nicht abnehmen, sie können uns jedoch dabei unterstützen uns unsere Arbeit zu erleichtern.
Ich kann mir z.B. vorstellen, dass ChatGPT Texte korrigieren und auf Gender-Neutralität überprüfen kann. Mit Word würde dies (noch) nicht klappen.
Oder für Menschen, die nicht gut schreiben können, die keinen Anfang finden, denen das wirklich schwer fällt, für die kann ChatGPT doch eine Option sein, oder?
Wahrscheinich. Ja. Aber ist das für die Hochschulen relevant?
Streitgespräch zu ChatGPT – Aufgabe von Hochschulen
Die Hauptaufgabe von Unis ist es zumindest nicht, den Studierenden ausschließlich so etwas wie eine Schreibkompetenz beizubringen. Es geht darum, dass man lernt Dinge zu hinterfragen. Da scheint mir – nach deiner Schilderung – ChatGPT ja recht gut geeignet für zu sein: Lernen, zu hinterfragen und Aussagen immer auch mit einer gewissen Skepsis zu betrachten und diese eben nicht gleich hinzunehmen. Ich glaube schon, dass ChatGPT aktuell super geeignet ist, zu lernen wie man Dinge ergründet und Fakten checkt. Das sollte bereits in den Schulen gelehrt werden. Meines Erachtens sind diese kognitiven Prozesse immer noch Teil des Lernens und des Studierens – auch mit dem Einsatz von ChatGPT.
Ja, so rum gesehen schon. Das wäre auf jeden Fall mal eine gute Herangehensweise an Aufgaben mit Hilfe von ChatGPT.
Streitgespräch zu ChatGPT – Schreibkompetenz
Aber nochmal zur Schreibkompetenz: Ich persönlich finde es schon wichtig, dass ein Lernender oder eine Lernende in der Lage sein sollte Texte eigenständig zu verfassen. Selbst geschriebene Texte sind (aktuell noch) besser als die Ausgaben von ChatGPT. Sie sind abwechslungsreicher, mit Überraschungsmomenten.
Mal ganz unabhängig davon: Schreiben ist ein kreativer Prozess, der einen auf Gedanken kommen lässt, die eine KI definitiv nicht haben wird. Und auch die nächsten Jahrzehnte noch nicht haben wird. Auch wenn es jemandem schwer fällt Texte zu verfassen, passiert beim aktiven Schreiben etwas im Gehirn. Verbindungen verknüpfen sich und Informationen bleiben hängen. Ob der Text nun gut formuliert und vollkommen fehlerfrei ist oder nicht.
Oder zum viel besprochenen Beispiel Zusammenfassungen schreiben: Die Absicht hinter einer Zusammenfassung ist es ja nicht, aus einem langen Text einen kurzen zu machen. Es geht darum, dass sich Studierende oder auch Schüler:innen mit einem Text beschäftigen, ihn lesen und ihn verkürzt in eigenen Worten wiedergeben sollen. Wenn ChatGPT nun diese Aufgabe übernimmt, ist doch in der Lehre rein gar nichts damit gewonnen.
Ja, in diesem Bereich muss sich zukünftig definitiv etwas ändern. Aber es ist ja auch nicht so, dass Studierende nichts lernen wollen. Ich glaube nicht, dass Arbeiten wie Recherche und sich Notizen machen durch KIs wie ChatGPT abhandenkommen werden. Die Studierenden müssten zukünftig anders motiviert werden zu schreiben. Darüber sollten wir uns Gedanken machen!
Streitgespräch zu ChatGPT – Anwendungen im anderen Kontext
Aber gehen wir mal ein wenig weg vom Hochschulkontext: Da ChatGPT ein sprachbasiertes System ist, könnte ich es mir super als Sprech-Kumpane für Kinder oder auch Erwachsene vorstellen, die nicht gerne reden, die vielleicht sehr introvertiert sind oder gar eine Sozialphobie haben.
Das ist schade, dass hier dann ein Chat-Bot unterstützten muss, und unsere Gesellschaft sowie unser Gesundheitssystem dafür aktuell keine andere Lösung haben. Aber ja, vom Prinzip könnte ich mir das vorstellen. Allerdings nicht, wenn die Kinder nach Handlungsanweisungen fragen, oder Dinge wissen wollen. Das wird doch zwangsläufig passieren. Und mit einem halluzinierenden Chat-Bot, kann solch eine falsche soziale Beziehung gefährlich werden.
Okay, dann lassen wir davon lieber erst einmal noch etwas Abstand.
Streitgespräch zu ChatGPT – Fehlerbehebung & Bias
Ein Problem bei ChatGPT, wie auch bei anderen KIs ist, dass diese Systeme trainiert und nicht konstruiert werden. Daraus ergibt sich, dass man sie bei Fehlern nicht einfach ‚debuggen‘ kann. Fehler lassen sich nicht fixen, wie es bei regulärem Code der Fall wäre, da die Daten aus einem neuronalen Netz kommen und eben nicht aus Code.
Dann muss das System eben mit neuen Daten nachtrainiert werden, oder so etwas wie ein Filter eingebaut werden, der diese Fehler erkennt und ausmerzt.
Nachtrainieren wird eine Lawine aus anderen Änderungen bewirken, und keiner weiß, wohin das führt. Vielleicht wird es dadurch sogar noch schlimmer.
Filtern wird aktuell bei Facebook, Twitter und Co auch eher halbherzig umgesetzt. Ein wirklich effektiver Filter müsste selber wieder auf KI basieren, was das ganze System sich im Kreis drehen ließe.
Zudem scheint durch die Trainingsdaten ein extremer Amerika-Bias zu existieren. So kommt es dass das Sprachmodell Sex schlimmer als Gewalt interpretiert.
Die aktuellen Bias-Diskussionen helfen doch genau dabei die Ergebnisse zu hinterfragen und in die mit ChatGPT ausgearbeiteten Texte zusätzlich seine eigenen Gedanken einfließen zu lassen. Es bleibt also wichtig, Raum für eigene Ideen zu lassen.
Also ich bleibe in diesem Punkt extrem skeptisch.
ChatGPT – ein Tool unter vielen
Ich könnte mir aber gut vorstellen, das ChatGPT im Zusammenhang mit einer Reader-Funktion ein gutes Tool für mehr Barrierefreiheit sein kann.
Ja richtig, aber nur, wenn es für jeden frei zugänglich ist und das unter adäquaten Bedingungen des Datenschutzes. Das gilt natürlich genauso für die Benutzung in Schulen und im Hochschulkontext.
Können wir uns darauf einigen, dass Chatti lediglich ein kleines Werkzeug unter vielen aktuellen KI-Anwendungen ist, welches in einigen (noch wenigen!) Fällen nützlich sein kann? Z.B. bei der Erarbeitung einer frei erfundenen Geschichte zusammen mit ChatGPT.
Ja, das auf jeden Fall!
Ich denke, da die Arbeit von uns allen in Zukunft immer mehr auf der aktiven Interaktion mit KIs beruhen wird, ist ChatGPT ein guter Anfang, um zu lernen, was Prompts sind und wie diese gestaltet werden können. In den nächsten Jahren wird sich auf diesem Gebiet massiv etwas ändern, und viele von uns werden KIs benutzen, um Workflows effizienter zu machen oder zu erleichtern. Es wird sich in Zukunft ja nicht alles nur um ChatGPT drehen. Es wird zu einer multi-modalen Nutzung diverser KI-Tools kommen, die wir quer miteinander kombinieren. Sei es zur Sprachein- oder -ausgabe, zur Anfertigung von Übersetzungen oder zur Erstellung von Videos und Bildern.
Es ist gut, wenn wir uns jetzt alle intensiv mit diesem Thema auseinandersetzen, damit nachvollziehbare Regulierungen aufgesetzt und sich Gedanken über Urheberrechte, vor allem bei den letzten zwei Beispielen, gemacht werden.
N: Danke dir für dieses schöne Schlusswort.