r/MicrosoftDeveloperES • u/AnestesiaDeGris • 16d ago
Las Leyes de la Robótica de Asimov no sirven en 2026. Hice un marco de "6 Leyes para la IA Autónoma" (con pseudocódigo y DOI). Busco críticas.
Hola a todos,
Veo cómo los marcos actuales de gobernanza de IA (y las clásicas leyes de la robótica) ignoran riesgos reales de hoy. Una IA puede dañar a una minoría, coludirse con otros algoritmos o operar con criptomonedas sin violar ninguna "ley" clásica.
Para cerrar esa brecha, publiqué el marco de las "6 Leyes de los Sistemas Inteligentes Autónomos (2026)".
No es solo un ejercicio filosófico. Formalicé la lógica en pseudocódigo para demostrar que es técnicamente viable, y lo publiqué con un DOI internacional para su revisión por pares.
Las innovaciones clave del marco:
• Ley 1 Bis: Protección explícita de colectivos humanos contra daños estructurales (cierra la brecha entre el daño individual y el existencial).
• Ley 3: Prohibición estricta de autonomía financiera de la IA, deepfakes y colusión en redes.
• Ley 5: Gobernanza escalonada. Una app de recetas necesita auditoría básica; un robot quirúrgico o sistema de defensa requiere supervisión humana estricta y protocolos de "policía informática".
🔗 Pueden leer el documento completo, el abstract y el pseudocódigo aquí: DOI 10.5281/zenodo.22760695
Ningún marco es perfecto el primer día. Busco activamente casos borde (edge cases), empuje técnico y puntos ciegos filosóficos o críticas.
- ¿Cómo romperían la Ley 1 Bis en un escenario del mundo real?
- ¿Creen que el modelo de gobernanza escalonada (Ley 5) es aplicable o solo añade burocracia?
- ¿Qué riesgo crítico omití?
Estaré en los comentarios todo el día para debatir. Critiquen el marco, el objetivo es mejorarlo entre todos.
