El uso de inteligencia artificial generativa, como ChatGPT, se está expandiendo rápidamente en el sector público, especialmente en algunas administraciones locales. Sin embargo, expertos advierten que esta implementación se está realizando de forma masiva y sin los controles adecuados, lo que podría acarrear consecuencias graves para la ciudadanía.
Uno de los principales peligros identificados es el uso de datos personales sin garantías suficientes. Al alimentar a los grandes modelos de lenguaje con información sensible de los ciudadanos, las instituciones públicas podrían estar comprometiendo la soberanía digital del país, al depender de tecnologías desarrolladas y gestionadas por empresas privadas, en su mayoría extranjeras.
Además, se subraya el riesgo de que estos sistemas perpetúen o incluso amplifiquen sesgos raciales y de género, lo que puede derivar en decisiones administrativas injustas o discriminatorias. “En algunas administraciones locales se está utilizando ChatGPT a mansalva, sin control alguno”, señalan voces críticas del sector tecnológico y jurídico.
Ante esta situación, se reclama una regulación urgente, así como la creación de protocolos claros sobre el uso de IA en el ámbito público. También se insiste en la necesidad de formación específica para los empleados públicos, de modo que puedan hacer un uso ético, transparente y seguro de estas herramientas.
