La inteligencia artificial generativa, como ChatGPT, está ganando terreno en el sector público, especialmente en ciertas administraciones locales. No obstante, especialistas advierten que su adopción masiva se está desarrollando sin controles adecuados, lo que podría generar impactos negativos para la sociedad.
Entre los riesgos principales se destaca el manejo de datos personales sin las garantías necesarias. Al introducir datos sensibles de ciudadanos en modelos de lenguaje avanzados, las entidades públicas podrían poner en riesgo la soberanía digital, ya que dependen de tecnologías diseñadas y gestionadas mayormente por compañías extranjeras.
También se enfatiza la posible perpetuación o intensificación de sesgos de género y raza por parte de estos sistemas, lo que podría traducirse en decisiones administrativas discriminatorias o injustas. “En varias administraciones locales se está haciendo uso indiscriminado de ChatGPT, sin supervisión alguna”, alertan expertos en tecnología y derecho.
Ante este panorama, se demanda una regulación pronta y la elaboración de protocolos claros para el uso de IA en el sector público. Asimismo, se subraya la importancia de capacitar a los empleados públicos para que utilicen estas herramientas de manera ética, transparente y segura.
