Santa Fe implementa una normativa sobre IA en la administración pública, un especialista destacó la importancia de la supervisión y la transparencia para evitar riesgos.
Si bien la implementación de la inteligencia artificial en la administración pública de Santa Fe es un paso positivo, debe hacerse con cautela.
La reciente aprobación en Santa Fe de una normativa que regula el uso de inteligencia artificial (IA) en la administración pública generó un debate sobre los riesgos y oportunidades que implica esta tecnología.
En una entrevista con Luis Mino, Marcelo Temperini, abogado y especialista en ciberseguridad, destacó la importancia de establecer lineamientos claros para evitar el uso inapropiado de la IA y proteger los derechos de los ciudadanos.
Temperini calificó la regulación como positiva, destacando que es esencial para dar un marco claro sobre el uso de la inteligencia artificial, especialmente en el sector público. Según explicó, sin regulación, el riesgo es que herramientas no homologadas puedan ser utilizadas para procesar datos sensibles, como la información de los ciudadanos, lo cual podría tener consecuencias graves.
La normativa establece como uno de sus principios la supervisión humana obligatoria, asegurando que las decisiones automatizadas sean controladas por personas para evitar errores que puedan afectar a los derechos de los ciudadanos.
“Las inteligencias artificiales actuales tienen una alta tasa de errores, por lo que no se puede dejar todo en manos de la tecnología”, advirtió Temperini. Este enfoque busca prevenir que la IA sea utilizada en áreas tan sensibles como la toma de decisiones judiciales o la protección de datos personales, donde cualquier error podría tener consecuencias legales y éticas significativas.
Uno de los puntos críticos que subrayó el especialista es la necesidad de transparencia y explicabilidad en el uso de la IA. Temperini advirtió que la implementación de "cajas negras", donde los procesos de decisión no son claros o comprensibles, deben evitarse a toda costa. En este sentido, destacó la importancia de que tanto los ciudadanos como los responsables del gobierno puedan entender cómo y por qué se toman ciertas decisiones automatizadas.
Uno de los puntos críticos que subrayó el especialista es la necesidad de transparencia y explicabilidad en el uso de la IA.
"Lo que no puede ocurrir es que usemos inteligencia artificial para tomar decisiones sin saber cómo se llega a esos resultados", expresó. Esta falta de explicabilidad podría generar desconfianza en la población y dificultar el control de posibles sesgos en los modelos de IA, lo que es especialmente problemático en áreas como la asignación de recursos públicos o decisiones sobre salud.
La ética en el uso de la inteligencia artificial es otro de los temas abordados por Temperini. Si bien la IA puede ofrecer grandes beneficios en la administración pública, también conlleva riesgos, como el uso indebido para fines no previstos. El especialista hizo hincapié en el caso de los sistemas de reconocimiento facial, alertando sobre el peligro de que tecnologías como esta se utilicen para realizar seguimientos sin la debida autorización o para fines distintos a los inicialmente planteados.
"Hay antecedentes en nuestra provincia de mala utilización de la tecnología, como el caso de inteligencia sin autorización judicial. Es fundamental que los medios de comunicación, la ciudadanía y las organizaciones controlen el uso de la IA", señaló Temperini, subrayando la importancia de mantener un control social y público sobre los avances tecnológicos en este ámbito.
Si bien la IA puede ofrecer grandes beneficios en la administración pública, también conlleva riesgos, como el uso indebido para fines no previstos.
Uno de los mayores riesgos que se vislumbran con la implementación de la IA en la administración pública es la protección de los datos personales. Temperini destacó que la falta de homologación de herramientas podría resultar en la exposición de datos sensibles, como los de los habitantes de Santa Fe, a manos de terceros no autorizados. "Es importante que la provincia utilice herramientas homologadas y que los datos no salgan de sus servidores", explicó, sugiriendo que, en lugar de utilizar modelos comerciales, se debería apostar por un modelo propio que mantenga los datos dentro de la provincia.
Temperini también mencionó que en otros países ya se han implementado sistemas de IA en ámbitos administrativos, como la asignación de multas por exceso de velocidad, con buenos resultados. Sin embargo, advirtió que este tipo de tecnologías no deben aplicarse a áreas más sensibles como la toma de decisiones judiciales, donde la idiosincrasia y el contexto son elementos esenciales que la IA no puede replicar.
"Aunque la inteligencia artificial puede ser útil para agilizar procesos administrativos, no puede sustituir la toma de decisiones humanas en casos complejos, como los relacionados con derechos fundamentales o situaciones judiciales", señaló el experto.
Si bien la implementación de la inteligencia artificial en la administración pública de Santa Fe es un paso positivo, debe hacerse con cautela. "Es importante establecer principios claros y controlar su aplicación", afirmó, destacando que la IA debe ser implementada de manera responsable, con un marco normativo que garantice la transparencia, explicabilidad y protección de los derechos de los ciudadanos.
"Estamos en un momento de transición muy fuerte, y es necesario avanzar con cuidado para evitar que la tecnología se descarrile", concluyó Temperini, dejando claro que la regulación y el control son claves para evitar que la inteligencia artificial se utilice para fines no previstos o incluso perjudiciales.
Te puede interesar
