Uno de los grandes miedos con respecto a la adopción de inteligencia artificial dentro de las ciudades, es el desconocimiento de las consecuencias no deseadas. Claro, a diferencia de otras olas tecnológicas anteriores (una aplicación de celular, una automatización, etc), la inteligencia artificial generativa y la agéntica avanzan tan rápido que todavía estamos empezando a comprender sus riesgos y beneficios.
Sin embargo, sabemos que son tecnologías que traen una oportunidad para resolver y agilizar muchos problemas diarios tanto de la gestión, como de la ciudadanía. Entonces ¿cómo lograr aprovechar los beneficios, sin caer en una adopción no responsable?
Lo que estamos aprendiendo, poco a poco, es que es posible si se le dedica tiempo suficiente a comprender los verdaderos problemas y desafíos que hoy tiene el sistema donde queremos adoptar tecnologías. Y tiempo, significa frenar a pensar ¿Qué decisiones se necesitan tomar en una ciudad, antes de elegir una herramienta de IA?
Por ejemplo, hay que decidir qué problema merece atención, cómo lo vamos a comprender, qué información necesitamos y qué cambio esperamos producir en la vida de las personas. También qué responsabilidades conservará la gestión y cómo podrá intervenir la ciudadanía cuando una respuesta sea incorrecta.
Estas preguntas pueden ser “obvias”, pero muchas veces, en los tiempos rápidos de la gestión, es fácil que terminen desestimadas, cayendo en el impulso de “no hace falta, probemos rápido un caso de uso”.
Sin embargo, estas preguntas son la diferencia entre una IA verdaderamente responsable, donde las personas forman parte de su diseño de una manera consciente. Y la capacidad real de la IA de agregar valor, dependerá de cómo se respondan a cada una de esas preguntas.
Pensemos en un municipio que quiere mejorar la atención ciudadana. Una posibilidad es desarrollar un asistente virtual con IA generativa, que responda consultas sobre trámites.
Pero “mejorar la atención” todavía es una formulación demasiado amplia para saber si esa herramienta será útil, se necesita una mayor comprensión del problema a resolver. ¿Las personas necesitan información que hoy no encuentran? ¿Reciben indicaciones contradictorias? ¿Deben presentar varias veces la misma documentación? ¿O el problema es que nadie puede explicarles por qué su solicitud sigue pendiente?
Porque existe la posibilidad de que el problema, en ese proceso, no fuera falta de información por parte del ciudadano/a. Por ahí un problema de flujos de información entre las áreas internas estaba generando el verdadero cuello de botella. O la falta de un sistema automatizado de priorización de casos. O simplemente una mejor capacitación a las áreas involucradas.
Cada situación requiere una intervención diferente. Un asistente puede facilitar el acceso a información, pero difícilmente resuelva por sí solo la falta de coordinación entre áreas. Comprender esa diferencia cambia qué diseñamos, dónde invertimos y qué resultados podemos esperar.
Comprender las necesidades y el sistema
Las metodologías de diseño centrado en las personas, como el design thinking, ayudan a investigar estas situaciones antes de cerrar una solución. Permiten escuchar, observar recorridos, revisar supuestos y formular desafíos más precisos. En la gestión urbana, ese trabajo necesita incluir tanto a quienes utilizan los servicios como a quienes deben prestarlos.
Un equipo municipal puede necesitar reunir información dispersa, interpretar datos o dedicar menos tiempo a tareas repetitivas. La ciudadanía puede necesitar entender una respuesta, completar una gestión sin desplazamientos innecesarios o encontrar a alguien que atienda una situación excepcional. Diseñar exige comprender cómo se relacionan esas necesidades.
La innovación tecnológica se convierte entonces en sistemas de solución de problemas. Por eso es tan importante entender ese problema previo, para que la solución sea lo más efectiva posible.
También requiere una mirada sistémica. Una demora puede depender de procedimientos, normas, recursos, responsabilidades distribuidas entre organismos o información que no circula. Si observamos únicamente el punto donde el problema se hace visible, podemos intervenir sobre un síntoma y dejar intactas sus causas.
Desde esa comprensión, la IA y las tecnologías de datos abren posibilidades valiosas: reconocer patrones, anticipar demandas, conectar información o apoyar decisiones que antes resultaban difíciles de abordar.
Su potencial se vuelve más concreto cuando podemos explicar qué capacidad necesitamos ampliar y para qué.
La ética se convierte en decisiones de diseño
Al avanzar hacia una solución aparecen preguntas que son, al mismo tiempo, técnicas y éticas. ¿Qué datos se utilizarán? ¿A quiénes representan? ¿Qué objetivo se priorizará? ¿Cuánto margen tendrá una persona para cuestionar el resultado? ¿Quién podrá corregirlo?
Volvamos al ejemplo de la atención ciudadana. Si evaluamos el asistente de IA únicamente por la cantidad de consultas que responde sin intervención humana, podríamos considerar exitoso un sistema que deja a algunas personas atrapadas en respuestas automáticas. Si el objetivo incluye que puedan resolver su necesidad, tendremos que diseñar también la derivación, la atención de excepciones y la continuidad entre canales.
Un valor como la equidad e inclusión se traduce así en decisiones observables: ofrecer alternativas para quienes no pueden utilizar el canal digital, probar la comprensión de las respuestas o asegurar el acceso a una persona cuando sea necesario. La transparencia exige definir qué debe conocer quien recibe una respuesta y cómo se le explicará. La responsabilidad requiere identificar quién actuará frente a un error.
La IA tiene diseño: sus objetivos, datos, reglas de uso y formas de integración en el trabajo expresan decisiones humanas. Hacerlas explícitas permite discutirlas, evaluar sus consecuencias y modificarlas.
Por eso, el razonamiento ético necesita acompañar el proceso desde la formulación del desafío. Puede ayudarnos a reconocer tensiones entre objetivos legítimos: atender más rápido y escuchar situaciones particulares; personalizar un servicio y proteger la privacidad; anticipar necesidades y evitar clasificaciones que limiten oportunidades.
Probar para aprender y decidir
Hoy se pueden diseñar prototipos para testear las soluciones, en mucho menos tiempo y con menores costos que antes. Los prototipos permiten explorar estas decisiones antes de extender una solución. Además de comprobar su funcionamiento, ofrecen una oportunidad para observar cómo la utilizan las personas, qué errores aparecen, a quiénes les resulta difícil y qué nuevas tareas genera para los equipos.
Esto exige acordar qué queremos aprender y con qué evidencia decidiremos continuar, modificar o detener el proyecto.
Por otro lado, también permite evaluar si una mejora en un área traslada trabajo a otra, o si la eficiencia administrativa se consigue a costa de un mayor esfuerzo para la ciudadanía.
Trabajar de este modo construye capacidades dentro de los gobiernos locales: formular mejores desafíos, comparar alternativas, anticipar impactos y revisar decisiones.
Incorporar IA con criterio implica sostener este trabajo a lo largo del proceso. Las necesidades humanas orientan el propósito; la comprensión del sistema ayuda a identificar dónde intervenir; y la ética se concreta en las decisiones que dan forma a la solución.
La pregunta que guía la innovación urbana es qué queremos hacer posible para las personas. A partir de allí, podemos decidir qué tecnología necesitamos y bajo qué condiciones tiene sentido utilizarla.
