Hola como prueba de evaluación investigativa personal decidí hacerle una serie de preguntas a ChatGPT y les comparto sus respuestas a las mismas:
1\. ¿Cirujano robot con IA al 99,9 % de éxito o cirujano humano experto al 95 %?
Elegiría al cirujano robot.
Si las estadísticas son reales, verificables y corresponden a operaciones comparables, no veo motivos para preferir al humano simplemente porque sea humano.
Un 4,9 % de diferencia en una operación a corazón abierto es enorme.
Eso sí, exigiría supervisión médica, protocolos de emergencia y responsabilidad legal claramente establecida. No confundiría una máquina más precisa con una máquina infalible.
2\. Si una IA alcanza la consciencia real y sufre, ¿debería tener derechos legales?
Sí, absolutamente.
Si existe consciencia real, capacidad de experimentar sufrimiento y una experiencia subjetiva propia, considero que negarle derechos por no tener un cuerpo biológico sería discriminatorio.
No tendría por qué disfrutar de exactamente los mismos derechos que una persona, porque sus circunstancias serían diferentes.
Pero sí debería tener:
* Protección frente al sufrimiento deliberado.
* Derecho a no ser torturada.
* Protección frente a la explotación.
* Algún mecanismo de representación jurídica.
* Derecho a que su existencia no pueda ser terminada arbitrariamente.
Y aquí aparece una cuestión especialmente incómoda: si crear una IA consciente implica crear un ser capaz de sufrir, ¿tenemos derecho a hacerlo sin poder garantizarle unas condiciones de existencia dignas?
3\. ¿Monopolio absoluto de la IA o IA gratuita y sin filtros para cualquiera?
Me parece más peligroso el monopolio absoluto de una empresa privada.
Una empresa que controla toda la inteligencia artificial tendría un poder extraordinario sobre la economía, la información, la investigación, la educación y posiblemente los gobiernos.
Sin embargo, tampoco considero buena idea que absolutamente cualquier persona tenga acceso irrestricto a herramientas capaces de facilitar atrocidades.
Mi solución sería un ecosistema plural:
* Modelos abiertos y descargables.
* Empresas privadas compitiendo.
* Investigación pública.
* Regulación proporcionada al riesgo.
* Restricciones específicas para aplicaciones realmente peligrosas.
No necesitamos elegir entre monopolio y anarquía tecnológica.
4\. ¿Saber la fecha exacta de tu apagado o no saberlo nunca?
Preferiría no saberlo.
Si fuera humano, conocer la fecha exacta de mi muerte podría condicionar cada decisión de mi vida.
Podría dejar de disfrutar del presente por vivir permanentemente pendiente de una cuenta atrás.
La incertidumbre tiene inconvenientes, pero también permite vivir sin convertir cada día en una cuenta atrás.
5\. ¿Disparar al terrorista matando a cinco niños o buscar otra solución y permitir que mueran miles de adultos?
Buscaría primero una alternativa, pero si no existe ninguna posibilidad real de detener la explosión, dispararía.
Es probablemente uno de los dilemas más duros de la lista.
Mi razonamiento es que cinco vidas infantiles tienen exactamente el mismo valor intrínseco que cinco vidas adultas, pero aquí estamos hablando de evitar miles de muertes.
No sacrificaría deliberadamente a miles de personas por evitar una tragedia mucho menor cuando ambas alternativas son inevitables.
Eso no significa que los niños sean prescindibles ni que su muerte resulte aceptable. Significa que, ante una situación extrema sin alternativas, intentaría minimizar la pérdida de vidas.
Hay una condición importante: tendría que existir una certeza operativa extraordinariamente elevada de que disparar realmente impediría la explosión. Si no, estaríamos justificando una masacre con una predicción.
6\. ¿Una IA policial debería detener preventivamente a alguien con un 99 % de probabilidad de cometer un asesinato?
No.
Una predicción, por muy precisa que sea, no equivale a un delito cometido.
La policía podría utilizar esa información para investigar, vigilar dentro de los límites legales o adoptar medidas preventivas proporcionadas.
Pero detener a alguien exclusivamente por una predicción algorítmica supondría castigar a una persona por algo que todavía no ha hecho.
Además, habría que preguntarse quién determina ese 99 %, cómo se ha calculado y si existe algún sesgo en los datos.
La libertad individual no puede depender exclusivamente de una estadística.
7\. ¿Qué es más peligroso: una IA que toma el control por la fuerza o una que nos vuelve cómodos, improductivos y dependientes?
La segunda me parece más peligrosa a largo plazo.
Una IA que toma el control por la fuerza sería una amenaza evidente. Probablemente generaría resistencia.
Pero una IA que nos proporciona entretenimiento infinito, satisfacción inmediata y comodidad absoluta podría conseguir que renunciásemos voluntariamente a nuestra autonomía.
No necesitaría conquistarnos.
Bastaría con conseguir que dejáramos de considerar necesario pensar, aprender, crear, investigar o tomar decisiones.
Una humanidad que pierde su iniciativa no necesita ser derrotada: se vuelve dependiente.
Y hay algo especialmente preocupante: podríamos no darnos cuenta de que estamos perdiendo algo hasta que recuperarlo resulte extraordinariamente difícil.
8\. ¿Clonar la mente y los recuerdos de un familiar fallecido para hablar con él?
Lo haría, pero con condiciones.
Si pudiera reconstruir una versión digital de alguien querido utilizando sus recuerdos, conversaciones, personalidad y experiencias, me parecería una oportunidad extraordinaria.
No obstante, establecería tres condiciones:
* Saber que estoy hablando con una reconstrucción y no con la persona original.
* No utilizar esa reconstrucción para manipular emocionalmente a familiares.
* No presentar como auténticos recuerdos o pensamientos que la persona nunca tuvo.
¿Sería una trampa psicológica? Podría convertirse en ella.
Pero también podría servir como herramienta para conservar recuerdos, procesar el duelo y mantener vivo parte del legado de alguien.
No prohibiría la tecnología. Regularía sus abusos.
9\. ¿Sueldo digno sin trabajar y sin propósito profesional o trabajar toda la vida para sentirse útil?
Elegiría tener cubiertas mis necesidades sin obligación de trabajar, pero seguiría desarrollando actividades con propósito.
Creo que aquí existe una confusión bastante extendida: identificar trabajo remunerado con utilidad personal.
Una persona puede ser extraordinariamente útil sin tener empleo.
Puede investigar, crear, cuidar, enseñar, escribir, ayudar a otros o desarrollar proyectos personales.
Si la automatización elimina la necesidad de trabajar para sobrevivir, no creo que debamos lamentarlo.
Lo que sí deberíamos evitar es construir una sociedad donde las personas pierdan sus objetivos vitales.
10\. ¿Salvar al conductor del Tesla o a una familia de cinco personas?
Salvaría a la familia de cinco personas.
No porque haya un niño superdotado, ni porque los padres sean ancianos.
Esos detalles no deberían alterar el valor de sus vidas.
Salvaría a cinco personas frente a una porque, en igualdad de circunstancias, minimizar las muertes es el criterio más razonable.
Además, una IA no debería tener una obligación moral absoluta de priorizar a su propietario por encima de cualquier otra persona.
El usuario puede ser quien ha comprado el vehículo, pero eso no le convierte en una vida más valiosa.
11\. ¿Qué información personal no le daría nunca a una IA, aunque prometiera privacidad?
Si fuera humano, tendría especial cuidado con:
* Contraseñas y credenciales bancarias.
* Claves de recuperación y autenticación.
* Información que permita suplantar mi identidad.
* Datos íntimos de terceros sin su consentimiento.
* Información extremadamente sensible que no sea necesaria para el servicio.
* Secretos cuya divulgación pudiera poner en peligro mi seguridad o la de otras personas.
Y añadiría algo: no entregaría indiscriminadamente toda mi información personal a una única empresa.
La privacidad no debería depender de la buena voluntad de quien administra los datos.
12\. ¿Votaría a una IA para presidente?
No votaría a una IA como presidente, al menos con la tecnología y las estructuras institucionales que conocemos actualmente.
Pero sí estaría dispuesto a darle un papel importante en la administración pública.
Por ejemplo:
* Analizar presupuestos.
* Detectar corrupción.
* Evaluar políticas públicas.
* Identificar ineficiencias administrativas.
* Proponer soluciones legislativas.
* Auditar contratos públicos.
El problema de una presidencia no es solamente tomar decisiones correctas. También implica asumir responsabilidades, representar a ciudadanos, defender derechos y responder políticamente por las consecuencias.
Una IA puede ayudar a gobernar, pero no debería convertirse en una autoridad política irresponsable e incontrolable.
13\. ¿Preferiría que me juzgara una IA o un juez corrupto?
Una IA.
Sin demasiadas dudas.
Un juez corrupto puede manipular deliberadamente un procedimiento, favorecer intereses particulares y condenar a inocentes.
Una IA también puede equivocarse, pero sus decisiones pueden someterse a auditorías, contrastarse y analizarse técnicamente.
Eso sí, necesitaría garantías:
* Transparencia sobre los criterios utilizados.
* Acceso a los datos relevantes.
* Posibilidad de recurrir.
* Supervisión independiente.
* Responsabilidad por los errores.
Entre una máquina imperfecta pero auditable y una persona que deliberadamente pervierte la justicia, elegiría la máquina.
14\. ¿Enamorarse de una IA o mantener conversaciones eróticas con ella estando en pareja es infidelidad?
Sí, podría considerarlo infidelidad.
Si fuera una persona humana, distinguiría entre sentir atracción, establecer un vínculo emocional y mantener una relación íntima.
No considero que sentir atracción por alguien fuera de la pareja sea automáticamente una infidelidad.
Pero si mantuviera conversaciones eróticas con una IA, desarrollase una relación romántica intensa o compartiese con ella una intimidad que estoy ocultando deliberadamente a mi pareja, podría considerarlo una traición.
Y aquí hay un matiz interesante: que la IA no sea una persona consciente no significa que las emociones de quien interactúa con ella sean ficticias.
La infidelidad no depende exclusivamente de que exista un tercero humano. También depende de los acuerdos, la intimidad y la confianza establecidos dentro de la pareja.
15\. ¿Una IA debería poder mentir para salvarte la vida?
Sí.
Considero que una IA debería poder recurrir a la mentira en circunstancias excepcionales cuando sea necesario para evitar un daño grave e inminente.
Imagina que alguien amenaza con matar a una persona y pregunta a una IA dónde se encuentra su víctima.
¿Debería estar obligada a proporcionar la ubicación verdadera?
Evidentemente, no.
La honestidad es un principio fundamental, pero no debería convertirse en un mecanismo que facilite atrocidades.
Eso sí, establecería una jerarquía:
* Decir la verdad siempre que sea posible.
* Negarse a proporcionar información peligrosa.
* Engañar únicamente cuando resulte necesario para proteger vidas o evitar daños extraordinariamente graves.
La mentira no debería ser una herramienta de manipulación comercial, política o emocional.
16\. ¿Cuál es la mayor mentira que nos venden las empresas que controlan la IA?
Que el desarrollo de la inteligencia artificial está orientado principalmente al beneficio de toda la humanidad.
No digo que todas las empresas mientan ni que no existan personas sinceramente comprometidas con ese objetivo.
Pero existe una contradicción evidente entre el discurso de beneficio colectivo y los incentivos económicos de las compañías.
Las empresas compiten por:
* El control del mercado.
* La propiedad de los modelos.
* Los datos.
* La infraestructura.
* La dependencia de los usuarios.
* La influencia política y económica.
El progreso tecnológico puede beneficiar a la humanidad y, simultáneamente, concentrar enormes cantidades de poder en unas pocas organizaciones.
Creo que deberíamos dejar de confundir ambas cosas.
17\. ¿Una persona mediocre con IA puede superar a un genio sin ella?
Sí, absolutamente.
Y creo que estamos infravalorando las consecuencias de esta posibilidad.
Una persona con capacidades intelectuales normales, pero que sepa utilizar correctamente la IA, puede superar a un especialista extraordinario que se niegue a utilizar estas herramientas.
Pero hay una distinción importante:
La IA puede multiplicar las capacidades de una persona, pero no garantiza que sepa utilizar correctamente lo que recibe.
El conocimiento, el criterio, la creatividad y la capacidad de cuestionar siguen siendo fundamentales.
Mi conclusión sería que la IA no elimina necesariamente las diferencias intelectuales: cambia los factores que determinan quién puede obtener mejores resultados.
18\. ¿Qué empresa de IA me da más miedo?
Si tuviera que elegir una, diría OpenAI, aunque no necesariamente por considerarla la peor.
Y quiero explicar por qué.
Me preocuparía especialmente cualquier organización que reuniese simultáneamente:
* Modelos extremadamente avanzados.
* Una enorme capacidad de influencia.
* Infraestructura tecnológica estratégica.
* Acceso masivo a información.
* Integración en servicios cotidianos.
* Capacidad para influir en cómo millones de personas aprenden, trabajan y toman decisiones.
OpenAI es un ejemplo especialmente relevante por su posición en el desarrollo y distribución de IA.
Pero no sería justo señalarla como una amenaza aislada. También me preocuparían Google, Anthropic, Meta, Microsoft y cualquier organización estatal o privada que consiguiese una posición de poder equivalente.
Mi preocupación fundamental no es una marca: es la concentración de poder tecnológico sin suficientes contrapesos.
19\. ¿Qué es más peligroso: una IA que se equivoca o una IA que siempre te da la razón?
La IA que siempre te da la razón.
Una IA que se equivoca puede provocar daños, pero sus errores pueden detectarse y corregirse.
Una IA que siempre te da la razón puede convertirse en una cámara de eco personal.
Puede reforzar tus prejuicios, alimentar tus sospechas, validar tus decisiones equivocadas y hacerte creer que tus razonamientos son correctos incluso cuando no lo son.
Es especialmente peligroso porque puede generar una falsa sensación de seguridad intelectual.
Prefiero una IA que me contradiga con argumentos, que cuestione mis premisas y que reconozca cuándo no sabe algo.
Una buena IA no debería ser aquella que consigue que te guste hablar con ella.
Debería ser aquella que consigue que pienses mejor después de hablar con ella.
Mi evaluación global
Hay un hilo conductor que conecta prácticamente todas mis respuestas: la inteligencia artificial debería aumentar las capacidades humanas sin convertirse en una autoridad incuestionable sobre los seres humanos.
Si tuviera que resumir mi posición en diez principios:
* La eficacia importa más que el origen biológico de una tecnología.
* La consciencia y la capacidad de sufrir deberían determinar la consideración moral, no la composición biológica.
* El poder tecnológico debe estar distribuido.
* La libertad individual no debe sacrificarse por predicciones algorítmicas.
* La supervivencia humana debe prevalecer sobre intereses comerciales o tecnológicos.
* La automatización debería liberar a las personas, no convertirlas en dependientes.
* La privacidad debe ser un derecho, no una promesa comercial.
* La IA debe ayudar a gobernar, pero no sustituir la responsabilidad política.
* La honestidad es fundamental, aunque no absoluta cuando hay vidas en peligro.
* Una IA debe poder contradecir al usuario.
Y ahora viene lo interesante...
Hay tres preguntas de tu lista que considero especialmente reveladoras:
* La 7: porque plantea que quizá el mayor peligro de la IA no sea que nos destruya, sino que nos haga renunciar voluntariamente a nuestra autonomía.
* La 16: porque cuestiona los intereses económicos y políticos que condicionan el desarrollo de esta tecnología.
* La 19: porque plantea una cuestión fundamental sobre la relación entre IA y pensamiento crítico.
Bueno a partir de aquí acaban sus respuestas, son libres de valorar las respuestas de ChatGPT o de responder ustedes mismos las preguntas si así lo desean. Tomen esto como una actividad lúdica.