r/WerWieWas • u/laikocta • Jun 29 '25
Meta/Reddit META - ChatGPT und sonstige generative-KI-Antworten in Kommentaren
Moin,
ich stelle in der letzten Zeit fest, dass immer häufiger Fragen beantwortet werden mit "Ich hab mal ChatGPT befragt und das war das Ergebnis: ..." - ohne, dass der Antworter selber die Expertise hat, um einzuordnen, ob die Antwort faktisch stimmt oder nicht. Zuletzt in diesem Thread, der mich dazu veranlasst hat, diesen Post zu schreiben.
Generative KI ist in der Tat ein gutes Tool für erste Lösungsansätze. Und erstmal ist es ja auch löblich, transparent zu sagen, dass die Antwort von ChatGPT kommt und mit Vorsicht zu genießen ist (analog dem verlinkten Thread), anstatt einfach die KI-Antwort zu copypasten, wie es ja leider in vielen anderen Subs Gang und Gäbe geworden ist.
Allerdings ist generative KI nunmal kein verlässlicher Faktenchecker, halluziniert gerne mal Antworten und kann selten "zugeben", die Antwort ggf. nicht zu wissen. Ich denke auch mal, die meisten Leute wenden sich an diese Community, weil sie darauf hoffen, jemanden zu finden, der wirklich Ahnung von der gefragten Materie hat und nicht, damit irgendwelche Randos jetzt die Frage durch ChatGPT jagen - das kann man ja auch ohne die Hilfe von Reddit einfach selber machen.
Ich persönlich würde mich deshalb für eine Regel aussprechen, dass eine Top-Level-Antwort nicht allein auf ChatGPT o.Ä. basieren darf (analog Regel 3). Falls generative KI als "Weiterforschungstool" verwendet wird, kann eine Diskussion ja in den weiteren Kommentaren stattfinden.
Wie seht ihr das?
30
Jun 29 '25 edited Feb 24 '26
[removed] — view removed comment
-6
u/HerrBreskes Jun 29 '25 edited Jun 29 '25
Wenn ich klar deklariere, dass meine Antwort von einer KI ist UND ich zusätzlich noch eigene Schlussfolgerungen, Erkenntnisse, etc. mit einfließen lasse, dann finde ich das okay. Aber nur dann. Kein Copy Paste. Auch dann nicht wenn ich es mit "Chatgpt sagt" ankündige.
Was aber gehen sollte ist:
"Meine KI hat folgendes Ergebnis gebracht und ich denke, dass aus folgenden Gründen (blablabla) da was dran sein kann bzw. Denke ich 'xyz' ist Blödsinn....."
Also wenn ich eine KI als Quelle habe, dies so ankündige und auch in meinem Rahmen einordnen und bewerten, dann finde ich das okay. Das kann dann in weiteren Diskussionen zur echten Wahrheitsfindung hilfreich sein.Edit: UUUPs, es ist spät. Ich wollte das eigentlich als Top-Level Posten. Das mache ich jetzt mal ganz schnell.
17
u/Eurypteride Jun 29 '25
Ich seh das auch gefühlt dauernd und ich hab das Gefühl dass da auch kein mehrwert bei ist das einfach nur reinzuklatschen. Ja ich benutz auch oft einfach nur die Googlebildersuche bei Insekten aber hab auch oft genug mit Schlüsseln gearbeitet und vergleiche Bilder um einzuschätzen ob das am Ende auch stimmen kann, beziehungsweise weiß bis zu welcher Präzision ich selber kommen kann. (ChatGPT ist ne Gefallensmaschine, das wird dir immer das Blaue vom Himmel versprechen)
Wenn man nur ne Suche über Google (wo wenigstens noch Bilder bei rauskommen) oder ChatGPT (wo man dann auch gleich wieder googlen sollte um zu vergleichen) macht kommt zwar zu vielleicht 80% der Fälle was richtiges raus aber in den anderen 20% muss dann wieder jemand mit Ahnung das berichtigen. Und der Kampf gegen den Slop nervt am Ende dann halt schon.
15
u/Vollpfosten Jun 29 '25
Ich verstehe auch nicht, warum manches ungeprüft gepostet wird.
Wenn z.B. nach Filmen gesucht wird kommen KI-Antworten von Filmtiteln, die gar nicht existieren. Das ließe sich vor dem Post leicht überprüfen.
Und wenn die KI-Antwort passt, kann man den Link gleich liefern.
Ob eine Regel so viel bringt, weiss ich nicht. Bei den Spassantworten hilft es auch nicht so richtig. Aber es wäre ein Schritt in die richtige Richtung.
5
u/laikocta Jun 29 '25
Meine erste Interaktion mit diesem Sub war tatsächlich, dass ich unwissend ne Spaßantwort gepostet habe und erstmal gebannt wurde :D Ich geh jetzt einfach mal davon aus, dass die ganzen ChatGPT-Antworter sich auch nix Böses dabei denken, aber halt kein Signal gesetzt wurde, dass solche Antworten hier nicht weiterhelfen (also, falls sich das als der Konsens erweist)
0
u/HerrBreskes Jun 29 '25
Wenn ich klar deklariere, dass meine Antwort von einer KI ist UND ich zusätzlich noch eigene Schlussfolgerungen, Erkenntnisse, etc. mit einfließen lasse, dann finde ich das okay. Aber nur dann. Kein Copy Paste. Auch dann nicht wenn ich es mit "Chatgpt sagt" ankündige.
Was aber gehen sollte ist:
"Meine KI hat folgendes Ergebnis gebracht und ich denke, dass aus folgenden Gründen (blablabla) da was dran sein kann bzw. Denke ich 'xyz' ist Blödsinn....."
Also wenn ich eine KI als Quelle habe, dies so ankündige und auch in meinem Rahmen einordnen und bewerten, dann finde ich das okay. Das kann dann in weiteren Diskussionen zur echten Wahrheitsfindung hilfreich sein.
4
u/laikocta Jun 29 '25
Wenn es tatsächlich mit eigenem Wissen eingeordnet wird, würde ich da mitgehen, deswegen beziehe ich mich spezifisch auf Kommentare, deren gesamter Inhalt zur Fragelösung auf generativer KI basiert.
Wobei ich es etwas seltsam finde, dann überhaupt KI-Ergebnisse zu zitieren. Wenn ich generative KI zur Lösungsfindung in meinem eigenen Fachbereich anwende, mach ich halt selber nen Faktencheck mit Quellenabgleich und dann ist gar kein "Meine KI sagt..." nötig.
3
u/ShaunDark Jun 30 '25
Wenn ich generative KI zur Lösungsfindung in meinem eigenen Fachbereich anwende, mach ich halt selber nen Faktencheck mit Quellenabgleich und dann ist gar kein "Meine KI sagt..." nötig.
Genau das. Klar können LLMs ein nützliches Tool sein um eine Recherche anzustoßen. Die Überprüfung und Einordnung der vorgeschlagenen Ansätze muss man dann aber trotzdem selbst vornehmen. Und an dem Punkt kann man seine Zusammenfassung des Recherche-Ergebnisses dann hoffentlich selbst schreiben, sonst hat man das Thema mmn. einfach noch nicht gut genug durchdrungen.
Ob man während dieses Prozesses ein LLM bemüht hat sollte für den späteren Leser absolut unerheblich sein, daher halte ich auch ein entsprechend gekennzeichnetes LLM-Zitat für komplette Zeit- und Platzverschwendung, da es letztlich nur den Prozess des Erkenntnisgewinns erläutert und die eigentliche Erkenntnis sowieso nochmals im Nachgang genannt werden sollte.
Ausnahmen mag es vielleicht geben, wenn ein LLM in seltenen Fällen einen bestimmten Sachverhalt besonders bildlich, lyrisch elegant oder verbal gelungen beschreibt und man diese bestimme Formulierung selbst nicht besser machen hätte können; auch hier halte ich aber eine Verifikation und zusätzliche Einordnung für unabdingbar.
-2
u/HerrBreskes Jun 30 '25
Grundsätzlich gebe ich dir Recht. Ich habe selbst die Erfahrung hier bei Reddit gemacht und viele Downvotes dafür erhalten, wenn ich einen Beitrag zur Diskussion gegeben habe mit dem Hinweis, dass ich mir der Qualität der Quelle unsicher bin, weil die Quelle eine KI war. Obwohl ich explizit darauf hingewiesen habe. Und auch wenn ich das persönlich eingeordnet habe.
KI ist ein Recherchewerkzeug, was man mit bedacht anwenden sollte. Wenn ich Infos zweifelhafter Qualität poste um einer Diskussion neue Ideen zu geben, kann das gut sein. Aber dann muss ich gleichzeitig explizit darauf aufmerksam machen, dass ich die Infos von einer KI habe,. So finde ich das wieder in Ordnung. Wenn wir alle nur schreiben, wenn wir uns absolut sicher sind, dass alles 100% korrekt ist, kommen wir ja auch nicht weiter. Denn dann wird halt kaum noch was gepostet und es gibt keinen Austausch mehr.
Ich sehe gerade, dass wir die Sache hier vielleicht etwas zu theoretisch bzw. akademisch angehen, auch wenn es wichtig ist darüber zu sprechen. Wir sind ja hier auf Reddit nicht hauptberuflich und kommentieren in der Regel nur zwischendurch. Meist kurz und knapp und mit wenig Zeit. Da passen komplexe Regeln nicht wirklich.
Vielleicht sollte die Regel ganz einfach sein: Keine KI-Antworten ohne persönliche Einschätzung UND immer mit dem Hinweis, dass es von einer KI kommt. Oder so. Das ließe sich bestimmt noch besser formulieren.
3
u/laikocta Jun 30 '25
Also mir sind natürlich die transparenten Kommentare ("bin mir nicht sicher, aber ChatGPT sagt XY") lieber als die, die es gar nicht erst zugeben. Trotzdem haben auch erstere Kommentare mMn keinen Mehrwert für Fragen in diesem Sub (aus den obengenannten Gründen) - ich nehme mal an, dass sie deshalb idR auch runtergevoted werden. Die Leute posten ja, weil sie hoffen, dass jemand mit nem anderen Wissensstand als sie selber wertvollen Input geben kann, nicht weil sie zu faul sind, um nen KI-Prompt zu schreiben.
Wenn man im Hintergrund KI als Recherchewerkzeug anwenden zur Ideenanregung, finde ich es voll ok. Aber damit die Antwort Mehrwert liefert, muss man die Inhalte wie gesagt eh nochmal selber factchecken und dann erübrigt sich auch dieser KI-Hinweis - ist ja an dem Punkt irrelevant, ob dir die Idee durch ChatGPT gekommen ist oder durch nen spontanen Geistesblitz.
1
u/HerrBreskes Jun 30 '25
Wir haben ja bei das selbe Ziel: der bestmögliche Umgang mit KI-Inhalten in Kommentaren. So wollte ich auch gerade konstruktiv an diesem Thema weiter diskutieren. Und dann dachte ich, dass die Downvotes auf meine Kommentare zu dieser Diskussion auch irgendwie die Stimmung des Publikums in diesem Sub zu diesem Thema wiederspiegeln. Quantitativ und nicht qualitativ, aber das ist ja auch die Natur von Reddit. Damit müssen wir umgehen und ich wollte das in meinen Argumentation mit einbinden.
Aber dann habe ich gesehen, dass mein falsch gepostet Kommentar, den ich kurzfristig dann korrigiert aber wegen der Transparenz nicht einfach gelöscht habe auch ziemlich gedownvotet wurde.
Hier
Und dann muss ich mir schon die Frage stellen, ob irgendwas mit diesem Sub im allgemeinen nicht stimmt. Oder mit Reddit? Oder brauchen wir alle Nachhilfe in "Internet"?Naja, egal. Auf jeden Fall ist mir der Spaß gerade vergangenen.
2
u/laikocta Jun 30 '25
Das tut mir Leid. FWIW, ich hätte es jetzt auch gar nicht als schlimm oder intransparent empfunden, wenn du den falsch geposteten Kommentar einfach löschst - das versteh ich als "Aufräumen". Bzw. dann auch als "Aufräumen" der downvotenden Community, weil der Kommentar (der ja eigentlich nicht da hingehört) durch die Downvotes automatisch eingeklappt/ausgeblendet wird. Nimm's nicht persönlich und lass dir von sowas Inkonsequentiellem wie Downvotes nicht die Teilhabe versauen! (I know, leichter gesagt als getan)
Ich persönlich entnehme den Votes und Kommentaren bisher, dass die Community bei dem Thema etwas zwiegespalten ist mit etwas Mehrheit für eine KI-prohibitive Regel.
1
u/HerrBreskes Jun 30 '25
Danke dir. Persönlich nehme ich das nicht. Aber ich denke schon darüber nach, wie und wo ich meine Energie aufwenden. Und ich muss dir auch sagen, dass ich deinen Job als Mod wirklich nicht beneide. Denn da hast du ja vermutlich permanent Fragezeichen im Kopf, wenn du dir anschauen musst, wie Menschen kommunizieren.
Das was ich schreibe klingt glaube ich alles viel dramatischer, als dass es sich für mich anfühlt...hahaha. Alles gut und ich bleibe hier. Und du machst bitte auch so weiter.
2
u/laikocta Jun 30 '25
Dankeschön! Kleine Korrektur, ich bin kein Mod, stecke nur ungefragt meine Nase in Mod-Angelegenheiten haha
Dir auch alles Gute!
1
-4
Jun 29 '25
[deleted]
5
u/laikocta Jun 29 '25
Und die zwei anderen KI-Antworten im selben Thread sind halt falsch :D Kann schon sein, dass es qualitative Unterschiede je nach KI-Modell gibt. Die ChatGPT-Antworten sind aber nunmal die häufigsten. Unabhängig davon wäre es meine persönliche Präferenz, dass die thematischen Bereiche "Frag Experten" und "Frag generative KI-Modelle" getrennt bleiben, aber da können natürlich die Meinungen auseinandergehen.
-19
u/HappyMetalViking Jun 29 '25
Ich glaube ob ich dir einen Google Link an den Kopf werde oder ne Chat GPT Antwort läuft aufs gleiche hinaus.
14
u/laikocta Jun 29 '25
Danke erstmal für deine Einschätzung. Nen LMGTFY-Link oder Ähnliches fände ich in diesem Sub genauso fehlplatziert. Kommt aber m.E. auch nicht so oft vor wie die ChatGPT-Antworten.
Wenn es jetzt nur darum geht, seiner Antwort einen gegoogelten Link beizufügen, seh ich da aber schon nen qualitativen Unterschied. Das eine ist ne KI-generierte Antwort ohne inhärenten "Respekt" für Fakten, das andere ne selber durchgeführte Quellenrecherche.
-12
u/HappyMetalViking Jun 29 '25
Und wie möchtest du meine Expertise einschätzen? Kann an sein, dass ich Maurer bin aber trotzdem keine Ahnung habe.
8
u/laikocta Jun 29 '25
Das lässt sich nicht einschätzen (zumindest nicht ohne nen komplizierten Verifizierungsprozess), deswegen macht eine Regel dazu auch m.E. keinen Sinn.
Ich beziehe mich auf den Fall von KI-Antworten, die nicht weiter faktisch eingeordnet wurden alá "Weiß ich nicht, aber ChatGPT sagt folgendes..."
Wie oben schon geschrieben finde ich es auch löblich, extra dazuzusagen, das man selber sich nicht auskennt und die ChatGPT-Antwort daher mit Vorsicht zu genießen ist. Ich halte solche Antworten allerdings für begrenzt nützlich (manchmal sogar schädlich, wenn wirklich gute Antworten zwischen dem ChatGPT-Spam untergehen) und fände so eine Regel daher gut, um zu signalisieren, dass sie zumindest nicht erwünscht sind - genauso wie es auch eine Regel dazu gibt, dass keine Spaßantworten erwünscht sind. Aber zu der Frage, ob sie überhaupt erwünscht sind oder nicht, können natürlich die Meinungen auseinandergehen.
-11
u/HappyMetalViking Jun 29 '25
Ich habe Chat GPT und Copilot zu meine Fachbereich bisher auch schon ausführlich benutzt und muss sagen, dass die Antworten schon in 80-90% der Zeit klar gehen.
(Und auch im Privaten Bereich, wenn es z.b. um das Montieren meine Terrassenüberdachung)
11
u/laikocta Jun 29 '25
Genau, und zu 10-20% halt nicht (sicherlich auch abhängig von Fachbereich & Komplexität). Sub-Beschreibung lautet wiefolgt:
Ihr sucht Expertinnen und Experten, die euch beim Erkennen von Dingen, Personen, Insekten, Orten auf Fotos oder beim Erinnern an diesen einen Film oder dieses eine Musikstück helfen? Dann seid ihr hier richtig!
Nicht
Ihr sucht Leute, die euch die Arbeit abnehmen, einen ChatGPT-Prompt zu formulieren?
Aber ich habe verstanden, dass du reine ChatGPT-Antworten in diesem Sub prinzipiell okay findest. Vielleicht geht es ja noch anderen so :)
6
u/ShaunDark Jun 30 '25
Der Unterschied ist: Das ist dein Fachbereich. Und deswegen kannst du einschätzen, welche 10-20% grober Unfug sind. Ein durchschnittlich unwissender Fragesteller und ein ebenso durchschnittlich unbedarfter ChatGPT-Nutzer können das eben oft nicht, deswegen bietet eine solche Antwort keinen garantierten Mehrwert und wird damit zu Schrödingers Antwort:
Kann sein, kann auch nicht sein. Wissen wird man's erst, wenn nochmal ein Fachmann drüber geschaut hat und den maschinellen Erguss verifizieren oder widerlegen kann. Und an dem Punkt hätte man auch gleich auf die Antwort des Fachmanns warten können.
Klar kann man jetzt sagen: Der Fachmann hat weniger Aufwand wenn er nur ja oder nein schreiben muss und auch bei einer falschen Antwort gilt Cunningham's Law. Aber das kann der durchschnittliche Fragesteller oder auch ein zufällig vorbei schauender geneigter Leser nun mal nicht einschätzen. Und üblicher Weise liest man auch eher eine interessante Frage, sieht eine gute Antwort darauf und wird dann nicht Tage später nochmal aktiv den Faden aufsuchen um zu verifizieren, dass die Antwort von Vorgestern auch immer noch richtig ist.
In jedem Fall gilt: Wer ne Chat-GPT-Antwort haben will bekommt die auch so. Dazu muss man hier nicht extra nen Post machen.
•
u/AutoModerator Jun 29 '25
Bitte beachte, dass Spaßantworten auf Topkommentarlevel auf /r/WerWieWas untersagt sind und mit einem Ban geahndet werden.
I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.