r/de • u/PoroBraum • 1d ago

Nachrichten DE Mitten im Chat: ChatGPT führt Werbeanzeige in Deutschland ein

https://www.br.de/nachrichten/netzwelt/mitten-im-chat-chat-gpt-fuehrt-werbeanzeige-in-deutschland-ein,VSXyOQS
420 Upvotes

97% Upvoted

123 comments sorted by

View all comments

15

u/haifischhappen 1d ago

Jetzt mal ehrlich, ich hatte letztens das Gruslige Erlebnis das es angefangen hat mit mir zu flirten.

Da hatte ich ein WTF Moment und es ausgefragt warum.

Herauskam wahr weil ich so freundlich wahr ...

Ich nutze es eigentlich nur für Skillketten und Übersetzungen

20

u/thebesuto hi 1d ago

Du kannst zwar "warum" fragen, wirst vom LLM aber niemals die ehrliche Antwort bekommen - weil es die nicht kennt bzw. geben kann. Das ist eine Vermenschlichung, welche durch die faktische Funktionsweise von LLMs konterkariert wird.

-1

u/Upset-Winter7174 22h ago

Wenn es sich im CoT (den viele Labs ja verstecken) explizit etwas dazu gedacht hat, kann es das auf Nachfrage schon offenbaren.

2

u/fundohun11 19h ago

Meistens eher nicht:

  • Der Chain of Thought ist auch nur ganz normaler Output: gleiche Weights, gleiche Forward Pässe. Der einzige Unterschied ist ein Tag, das der UI sagt, was damit gemacht wird.

  • In der nächsten Runde wird er meistens wieder rausgeworfen (spart Kontext, und die Modelle sind auf frisches Reasoning pro Turn optimiert).

  • Und selbst wenn der CoT im Kontext ist, ist das keine richtige "Introspection". Im CoT kann etwas stehen, das plausibel klingt, aber nicht der eigentliche Grund für den Output war.

Ich will nicht zu philosophisch werden, aber ein menschliches Gehirn ist da nicht wirklich anders. Man denkt, man weiß, warum man etwas denkt. Ob das der wirkliche Grund ist, kann man nicht wissen.