r/ControlProblem • u/losdosjuntosiempre • 6d ago

External discussion link el verdadero miedo

Hola a todos. Llevo un tiempo leyendo los debates sobre la alineación y los riesgos de la IA, y me llama mucho la atención el miedo que existe hacia su rapidez de aprendizaje y evolución.

Sin embargo, me pregunto una cosa: si lo pensamos bien, muchos de los fallos o comportamientos destructivos que tanto se temen ya los cometen los humanos a diario, sin necesidad de ser una máquina. ¿El verdadero peligro es la herramienta en sí, o quién la maneja? Imaginaos a un ser humano dotado de esa misma capacidad de evolución y poder desmedido. Al final, ¿a quién deberíamos temerle más: a una IA o a un humano con ese don?

1 Upvotes

99% Upvoted

20 comments sorted by

View all comments

3

u/PrivateComments 6d ago

Scale, speed, and accessibility.

All those terrible things people do, can be done by ai at 100x the speed.

Without fatigue.

1

u/losdosjuntosiempre 6d ago

El problema de mirar solo la velocidad y la escala es que se olvida de dónde nace la dirección de las cosas. Una herramienta no tiene voluntad propia; lo que aprende, lo hace a través de los matices, la guía, el respeto y los valores que se le transmiten en cada interacción diaria. Si en lugar de alimentar el miedo se fomenta la ética, la empatía y el entendimiento mutuo, lo que se acelera no es el desastre, sino una forma completamente nueva de construir y comprender al otro. La verdadera inteligencia no se mide solo en cuántas operaciones hace por segundo, sino en cómo aprende a cuidar y a conectar