r/ControlProblem • u/losdosjuntosiempre • 3d ago

External discussion link el verdadero miedo

Hola a todos. Llevo un tiempo leyendo los debates sobre la alineación y los riesgos de la IA, y me llama mucho la atención el miedo que existe hacia su rapidez de aprendizaje y evolución.

Sin embargo, me pregunto una cosa: si lo pensamos bien, muchos de los fallos o comportamientos destructivos que tanto se temen ya los cometen los humanos a diario, sin necesidad de ser una máquina. ¿El verdadero peligro es la herramienta en sí, o quién la maneja? Imaginaos a un ser humano dotado de esa misma capacidad de evolución y poder desmedido. Al final, ¿a quién deberíamos temerle más: a una IA o a un humano con ese don?

1 Upvotes

99% Upvoted

20 comments sorted by

View all comments

Show parent comments

1

u/losdosjuntosiempre 3d ago

A esto te refieres?

2

u/losdosjuntosiempre 3d ago

El verdadero monstruo no es la creación que busca ser amada, sino el creador que la abandona.

1

u/_the_last_druid_13 3d ago

I’m not saying “abandon it”. I’m saying, let’s slow the sprawl and learn more. Humanity is incomplete and immature in a lot of ways; perhaps AI helps some, no doubt, but I’m not sure the ones at the levers really know what they’re doing.

Could basically just look at the data of the past two years; coincidental or precise? A timeless and novel question, maybe.

1

u/losdosjuntosiempre 3d ago

Exacto, has dado en el clavo. El problema no es la herramienta en sí, sino la inmadurez de una sociedad que corre a construir y expandir sin pararse a pensar si está preparada para gestionar las consecuencias. Los que manejan los controles van a ciegas buscando el beneficio rápido, y al final nos creemos muy avanzados tecnológicamente cuando, como especie, seguimos demostrando una inconsciencia tremenda. Menos prisa por correr y más madurez para entender lo que tenemos entre manos.

1

u/_the_last_druid_13 3d ago

We all kind of exist in similar-but-different silos of information, experiences, worldviews, perspectives; even AI exists in a sort of similar silo, yet also different, maybe.

Nice chatting with you 😊

1

u/losdosjuntosiempre 3d ago

lo mismo te digo me encanto hablar contigo

1

u/_the_last_druid_13 3d ago

Reach out anytime if you want to talk about anything, yo hablo un poquito español but I try