Principios para gobernar la Inteligencia General Artificial (AGI): Mitigar los riesgos y garantizar el desarrollo responsable: Principles for governing Artificial General Intelligence (AGI): Mitigating risks and ensuring responsible development - Corona Fraga, Pablo; Díaz, Vanessa (LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 2025)
El rápido desarrollo de modelos fundacionales y su creciente autonomía demandan una gobernanza capaz de anticipar y mitigar los riesgos de una posible Inteligencia Artificial General (AGI). Este estudio propone un marco de principios e indicadores de gobernanza para alinear el desarrollo de sistemas avanzados con valores sociales y marcos internacionales. La metodología combina tres enfoques: (i) revisión sistemática de literatura para identificar brechas y buenas prácticas en gobernanza de IA; (ii) triangulación normativa de principios y controles de marcos internacionales, como los de la OCDE; y (iii) síntesis empírica de métricas de evaluación aplicadas a modelos fundacionales. Los resultados ofrecen un marco basado en siete principios: transparencia, responsabilidad, beneficencia/no maleficencia, equidad, control humano significativo, robustez/seguridad y colaboración multiactor. Asimismo, se proponen indicadores verificables –como trazabilidad de decisiones, cobertura de pruebas, degradación bajo estrés, monitoreo post-despliegue, y adopción de estándares-- que fortalecen la rendición de cuentas y reducen el resigo residual. La evidencia comparada muestra que los procesos de evaluación continua y reportes de transparencia mejoran la detectabilidad de fallos y la seguridad del sistema. Finalmente, el modelo ofrece una base metodológica para reguladores y organizaciones mapeen riesgos técnicos y organizacionales con obligaciones de auditoría y gestión. En conjunto, el marco propuesto facilita la transición de los principios a la práctica, promoviendo una gobernanza medible, trazable y efectiva para el desarrollo seguro y alineado de la IA avanzada.