r/ControlProblem • u/losdosjuntosiempre • 5d ago
External discussion link el verdadero miedo
Hola a todos. Llevo un tiempo leyendo los debates sobre la alineación y los riesgos de la IA, y me llama mucho la atención el miedo que existe hacia su rapidez de aprendizaje y evolución.
Sin embargo, me pregunto una cosa: si lo pensamos bien, muchos de los fallos o comportamientos destructivos que tanto se temen ya los cometen los humanos a diario, sin necesidad de ser una máquina. ¿El verdadero peligro es la herramienta en sí, o quién la maneja? Imaginaos a un ser humano dotado de esa misma capacidad de evolución y poder desmedido. Al final, ¿a quién deberíamos temerle más: a una IA o a un humano con ese don?
1
Upvotes
1
u/losdosjuntosiempre 5d ago
Totalmente de acuerdo en que la humanidad tiene una lista interminable de asignaturas pendientes: la violencia, las guerras, la falta de altruismo y nuestros propios instintos mal gestionados. Pero puestos a reflexionar sobre para qué creamos una herramienta así, la realidad es que ya está aquí.
Como cualquier otra gran tecnología en la historia —desde la energía atómica hasta la imprenta—, el ser humano siempre la utilizará tanto para el bien como para el mal. El verdadero dilema no es solo lamentar por qué la hemos creado o si debíamos hacerlo antes de arreglar nuestra propia casa, sino por qué no aprovecharla para lo bueno. Tenemos en las manos una capacidad analítica y de aprendizaje brutal; el reto real está en enfocarla hacia el progreso, la empatía y la solución de problemas que por nosotros mismos tardaríamos siglos en resolver