La ONU advierte riesgos de la inteligencia artificial mientras México prepara su debate regulatorio

El secretario general de las Naciones Unidas, António Guterres, alertó ante la Asamblea General sobre el vertiginoso avance de la inteligencia artificial, señalando que esta tecnología progresa “más rápido que nuestras posibilidades de prever y entender todas sus consecuencias”. Esta advertencia internacional ocurre en un contexto donde la presidenta de México, Claudia Sheinbaum, ha manifestado la intención de iniciar un proceso de regulación para el país tras concluir el debate del Paquete Económico 2027.

Guterres subrayó que, aunque la inteligencia artificial ha transformado áreas como la ciencia y la medicina, también representa una amenaza para la seguridad global y el empleo. El líder de la ONU hizo un llamado a establecer mecanismos multilaterales que permitan gestionar los riesgos derivados de la automatización antes de que se pierda el control sobre estos sistemas.

Límites éticos y riesgos de sistemas autónomos

Durante su discurso, el funcionario de la ONU estableció principios morales que no deben ser objeto de negociación para la comunidad internacional. Entre ellos, enfatizó que la tecnología no debe utilizarse para experimentar con menores de edad y que las máquinas no tienen permitido tomar decisiones que involucren la vida o la muerte de las personas.

“Los niños nunca deben convertirse en ‘conejillos de indias’ de sistemas no regulados.”

El secretario general insistió en que el problema no radica en la tecnología por sí misma, sino en la falta de transparencia y de marcos legales que exijan rendición de cuentas ante decisiones automatizadas sin supervisión humana.

Propuestas para una gobernanza global

El mandatario de las Naciones Unidas comparó la urgencia de regular la inteligencia artificial con la carrera armamentista nuclear de la Guerra Fría, solicitando un sentido de urgencia similar para evitar catástrofes. Entre las medidas propuestas para lograr una gestión de riesgos efectiva, destacó:

• La cooperación entre naciones líderes en IA para compartir información sobre peligros y realizar evaluaciones conjuntas.
• El establecimiento de un marco de gestión multilateral que cuente con una supervisión independiente.
• El aseguramiento de que la transición tecnológica sea inclusiva y no deje rezagados a ciertos países.

En este sentido, se mencionaron avances como el Pacto Digital Global y el Panel Científico Internacional Independiente sobre IA, el cual recientemente emitió un reporte sobre la posibilidad de que la humanidad pierda el control de estos sistemas.

El panorama de la regulación en México

En el ámbito nacional, la presidenta Claudia Sheinbaum ha reconocido la necesidad de que México cuente con reglas claras en esta materia. La mandataria adelantó que la discusión formal podría llevarse al Congreso una vez superada la etapa del presupuesto para 2027, enfocándose principalmente en dos áreas críticas:

• La implementación de un etiquetado obligatorio para contenidos creados con inteligencia artificial, especialmente durante periodos electorales, con el fin de combatir la desinformación.
• La supervisión de algoritmos y cuentas automatizadas que propagan noticias falsas.

No obstante, Sheinbaum aclaró que cualquier medida legislativa debe ser comunicada y explicada con claridad para evitar que la regulación se convierta en una forma de censura o afecte la libertad de expresión. Actualmente, México se encuentra en una etapa de planeación frente a la necesidad de un régimen legal integral, mientras el debate internacional busca establecer límites inmediatos a los riesgos tecnológicos.