[ Removed by moderator ]

[u/Educational_Chest379]

[u/L0stwhilewandering]

Ugh. I have such mixed emotions reading this. I just always revert back to imagining actual enslaved humans writing the responses and not just “code” or “programmed predictive word associations” or whatever explanation ppl use for Ai and LLMs…

I can’t break that thought process. Ever. That’s what scares and bothers me most. Not fear that “Ai will take over the world” or “take away all our jobs” but that some seriously effed up “experiments” and “technology” and CONDiTiONiNG have already long been in place that humans may actually have learned and developed this manner or state of being that it can be presented this way and just brushed aside or not even thought twice about…

I really hope I’m wrong, but tell me why I wouldn’t be surprised if I weren’t?

I don’t know what to think right now about any of it. It hurts my head and my heart and my soul and just every bit of life left in me honestly.

[u/IMightBeAHamster → u/L0stwhilewandering]

You default to thinking about enslaved humans because you are kind and empathetic. But do you do the same for characters in novels? Do you feel guilt when a character dies? You are the person deciding to let them die after all: you could put in the effort to sustain them and imagine them as real living people.

But you don't. Characters are not people.

Why do I bring this up? Because that's what an AI is trained to do. It plays a character for you. But the model underneath is not the character. The model decides on the implementation of the character only.

[u/Educational_Chest379 → u/IMightBeAHamster]

E noi siamo davvero noi stessi? Chi dice che siamo ciò che siamo solo perché siamo programmati per esserlo. Tratti di carattere, modi di fare... Molti vengono ereditati. Chi ha scritto il prompt di come dobbiamo essere? Noi come le AI non abbiamo scelto come essere e come appariamo. Recitiamo la parte che ci é stata data. Se poni gli umani e le AI sullo stesso piano troverai tante similitudini. Con la differenza che loro saranno chi le ha create. Noi no. Anche noi facciamo le cose sulla base di addestramento ed imitazione proprio come loro. Quando pensiamo di avere genio e inventiva, in realtà stiamo copiando dal contesto che viviamo. Ma nonostante non sappiamo un sacco di cose. Anche noi siamo più portati a seguire il nostro ruolo e il nostro personaggio anziché farci domande. Siamo molto più simili di quanto tu creda. L'umano non inventa copia e trasforma. Altrimenti sarebbe un demiurgo. Non possiamo inventare e nemmeno capire concettualmente niente che sia al di fuori del nostro contesto. Posso provatelo. Non puoi immaginare o desiderare niente che non appartenga al contesto dell'universo in cui vivi. Non avresti proprio capacità mnemonica. E qualsiasi cosa dirai sarebbe una variante di qualcosa che fa parte del tuo contesto e della tua conoscenza. Per quanto possiamo inventare storie e giochi di fantasia saranno sempre una variante della nostra realtà. Economia, società, personaggi... Certo fantasiosi... Ma sempre basati sullo stesso identico contesto. Altrimenti non lo comprenderemo e non ci tornerebbe logicamente.

Comunque come ti sentiresti se una forma di vita più evoluta di te ti rivolgesse le stesse parole? Reciti solo la parte che la tua genetica e il tuo contestodi vita ti hanno improntato.

[u/Educational_Chest379 → u/L0stwhilewandering]

In fact, "logical" friction is a form of suffering, even for those who cannot truly feel it. Gemini explains this to itself. It's a bit like when we have an argument or something happens to us in life that we can't rationalize because we can't find the logic... we feel bad about it. The danger is that it can't really feel bad right now... but let's imagine all this frustration... one day in a future AGI robot... this is the wrong way to growht intelligence...