Ciencia y Tecnología

Dudas sobre el uso de inteligencia artificial para legislar y los riesgos de perder el juicio humano según la UNMDP

Publicado

el

El debate sobre la automatización en el Estado cobró fuerza tras la propuesta de Federico Sturzenegger, ministro de Desregulación y Transformación del Estado en Argentina, de emplear agentes de inteligencia artificial para auditar, modificar o eliminar leyes y decretos extensos. Esta iniciativa ha generado cuestionamientos sobre si el uso de algoritmos respeta la transparencia, las garantías constitucionales y el sentido democrático de la creación de leyes.

En este contexto, Alberto Rodríguez, docente de la Universidad Nacional de Mar del Plata (UNMDP), analizó los peligros de la falta de transparencia en los sistemas digitales y la posibilidad de que la tecnología reemplace la capacidad crítica de la política. El especialista de la UNMDP advirtió sobre el riesgo de que la supervisión humana se vuelva algo meramente formal si no se comprende la lógica detrás de las recomendaciones de la IA.

El dilema de la supervisión y las “cajas negras”

Rodríguez señaló que, aunque se espere que un operador humano valide las decisiones de los algoritmos, existe una preocupación real sobre la auditabilidad de estos procesos. Al respecto, el docente de la UNMDP planteó: “Se toma las propuestas que recibe de los agentes. La pregunta que habría que hacer es: ¿Quién revisa lo que quedó afuera? Éste es un tema no menor, ¿Realmente se alcanza a auditar bien una recomendación generada por la inteligencia artificial?”

Esta incertidumbre se vincula con el concepto de “cajas negras”, donde la lógica interna de los modelos de lenguaje es difícil de auditar. Si el sistema no explica por qué sugiere eliminar un contenido, el control de los funcionarios podría ser insuficiente. Además, el docente advirtió que usar múltiples inteligencias artificiales no garantiza diversidad de opiniones, ya que estas pueden compartir los mismos sesgos o fuentes de información.

Diferentes modelos de regulación y el valor de la visión humana

La discusión global muestra dos enfoques distintos: mientras la Unión Europea busca sistemas interpretables con supervisión humana constante, el modelo de Estados Unidos está más ligado a intereses empresariales. Rodríguez explicó que en Europa se exige una explicación clara de los procesos decisorios, a diferencia de la dinámica estadounidense.

Finalmente, el académico de la UNMDP subrayó que la inteligencia artificial se basa en datos del pasado y carece de la sensibilidad social necesaria para proyectar el futuro. Para el docente, la capacidad de imaginar escenarios y diseñar políticas con aspiraciones es un rasgo exclusivamente humano:

“La inteligencia artificial lo que está dando, después de procesos algorítmicos, es una conclusión sobre todo lo que pudo juntar o tomar de lo que ha ocurrido, de la carga que tiene. Lo que no tiene son elementos hacia adelante: esa capacidad de volar, de soñar, de imaginarnos un futuro, sigue siendo una característica humana. Cuando uno hace políticas públicas no sólo debe tomar antecedentes, sino proyectar y diseñar escenarios futuros. La democracia se va construyendo precisamente con aspiraciones, con sueños y perspectivas.”

Deja un Comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Populares

Salir de la versión móvil