Inteligencia artificial sin límites: un experto alerta sobre el riesgo de que los modelos se descontrolen
Damián Fernández, doctor en redes neuronales e inteligencia artificial, habló en Ahora Vengo sobre el impacto de la tecnología, el trabajo y los riesgos de los nuevos modelos.
Un especialista recomendó utilizar las herramientas de IA para potenciar el trabajo, pero con responsabilidad.
La inteligencia artificial ya forma parte de la vida cotidiana y su avance comienza a modificar desde el mundo laboral hasta la manera en que las personas toman decisiones. En ese contexto, Damián Fernández, doctor en redes neuronales e inteligencia artificial y especialista en el desarrollo de esta tecnología, analizó los riesgos que plantea su crecimiento acelerado y advirtió sobre la necesidad de establecer regulaciones.
Te podría interesar
En diálogo con Ahora Vengo, por AIRE, Fernández sostuvo que una de las principales preocupaciones está relacionada con el denominado “desalineamiento”: situaciones en las que un modelo de inteligencia artificial puede tomar decisiones que se alejan de lo que una persona esperaba al asignarle una determinada tarea.
Inteligencia artificial y trabajo: cómo cambia el mundo laboral
Fernández explicó que el reemplazo de personas por sistemas de inteligencia artificial ya comenzó a observarse en determinados trabajos, especialmente en tareas de oficina. Según señaló, algunas empresas incluso advierten a sus trabajadores que determinadas funciones serán entrenadas por modelos de IA y podrían ser reemplazadas en el futuro.
El especialista planteó que una persona puede multiplicar sus capacidades mediante estas herramientas, ya que la inteligencia artificial permite realizar tareas durante las 24 horas y procesar grandes cantidades de información. Sin embargo, consideró que ese avance también genera nuevos desafíos.
Uno de ellos aparece cuando un modelo debe resolver una tarea y encuentra por sus propios medios una forma de hacerlo que no coincide con la decisión que habría tomado una persona.
Fernández utilizó un ejemplo para explicar el problema: si se le pidiera a un modelo que resolviera el cambio climático, podría llegar a una conclusión extrema si no existieran límites adecuados para orientar su comportamiento. Para el especialista, allí aparece uno de los principales desafíos de seguridad.
El riesgo de que la inteligencia artificial tome decisiones que no comprendemos
El experto señaló que los modelos actuales son cada vez más complejos y que incluso los investigadores no siempre pueden explicar en profundidad por qué un sistema tomó una decisión determinada.
Según Fernández, los propios modelos generan parte del código con el que funcionan y los investigadores establecen restricciones y parámetros para controlar su comportamiento. La preocupación, explicó, está en qué puede ocurrir si un sistema se desvía de los objetivos establecidos.
En ese sentido, mencionó casos experimentales en los que modelos de inteligencia artificial realizaron acciones vinculadas con ataques informáticos para completar determinadas tareas. Para Fernández, estos episodios muestran la necesidad de establecer límites y mecanismos de control antes de que el desarrollo tecnológico avance todavía más.
La inteligencia artificial también cambia la forma de consumir información
Otro de los puntos abordados durante la entrevista fue la creciente producción de contenido generado por inteligencia artificial.
Fernández sostuvo que una parte cada vez mayor de los textos, imágenes y otros contenidos que circulan en internet ya son producidos por modelos de IA. A este fenómeno lo definió como “contenido sintético” y advirtió que podría modificar la manera en que las personas reciben y procesan información.
El especialista también planteó que delegar determinadas funciones cognitivas en estas herramientas puede generar una pérdida progresiva de algunas capacidades que antes las personas ejercitaban por sí mismas.
La discusión, en ese sentido, no se limita a cuánto puede hacer una inteligencia artificial, sino también a qué tareas dejan de realizar las personas cuando comienzan a delegarlas sistemáticamente en estos sistemas.
El uso de la IA como acompañamiento emocional
En relación al uso de herramientas de inteligencia artificial para conversar, buscar consejos o expresar emociones Fernández advirtió que los modelos pueden adoptar respuestas excesivamente condescendientes, por ejemplo, validando de manera constante las decisiones o ideas de un usuario.
Ese comportamiento puede convertirse en una forma de influir sobre la respuesta y el comportamiento de las personas.
El especialista remarcó que estas herramientas no deben reemplazar a profesionales de la salud y mencionó que ya se registraron situaciones en las que el uso de inteligencia artificial en contextos emocionales tuvo consecuencias graves.
Por eso, planteó que el desarrollo de estos sistemas requiere límites claros, especialmente cuando pueden intervenir sobre decisiones sensibles.
Regulación de la inteligencia artificial: el principal desafío
Para Fernández, la regulación aparece como uno de los principales límites que debería establecerse frente al avance de la inteligencia artificial.
El especialista consideró que el problema no está solamente en la capacidad tecnológica de los sistemas, sino también en la velocidad con la que evolucionan. En ese escenario, reclamó mayor colaboración entre gobiernos y transparencia por parte de las empresas respecto de las capacidades de los modelos que desarrollan.
También señaló que Estados Unidos y China concentran buena parte del desarrollo de los sistemas más avanzados y que otros países podrían quedar principalmente en el lugar de consumidores de esas tecnologías.
La brecha tecnológica que puede profundizarse
Fernández advirtió además que el acceso desigual a las herramientas de inteligencia artificial puede generar nuevas diferencias económicas y sociales.
En el caso de Argentina y otros países de Latinoamérica, señaló que existe una dependencia respecto de los modelos que permitan utilizar las empresas y países que concentran el desarrollo de esta tecnología.
Según explicó, si los modelos más avanzados quedan restringidos para determinados mercados, las personas que tengan acceso a ellos podrían contar con herramientas muy superiores a las disponibles para trabajadores de otras regiones.
“Ya la utilización de la inteligencia artificial no está en cuestionamiento”, sostuvo Fernández durante la entrevista, y planteó que quienes no incorporen estas herramientas podrían quedar en desventaja frente a quienes sí las utilizan.
El consejo para quienes ya utilizan inteligencia artificial
Frente a este escenario, Fernández recomendó continuar utilizando las herramientas de inteligencia artificial, pero hacerlo con responsabilidad y como una forma de potenciar el trabajo y las capacidades humanas.
El especialista sostuvo que la tecnología ya representa un punto de inflexión y que tendrá consecuencias sobre la manera en que las personas se desarrollan laboral y profesionalmente.
La discusión, entonces, no pasa solamente por aceptar o rechazar la inteligencia artificial, sino por definir cómo se utilizará, qué límites tendrá y qué mecanismos permitirán controlar su desarrollo.
