En el centro histórico de Sao Paulo se encuentra la central de monitoreo de Smart Sampa, una red que reúne cerca de 40.000 cámaras y funciona como el principal sistema de reconocimiento facial público de América Latina. Implementado a finales de 2026, el programa ha sido presentado por las autoridades como una herramienta para reducir la inseguridad: el balance oficial incluye casi 3.000 fugitivos identificados mediante comparaciones en tiempo real con registros judiciales y casi 4.000 detenciones por delitos en flagrancia. El proyecto, que cuesta alrededor de dos millones de dólares mensuales, opera rodeado de observadores, elogios y críticas.
La sala de control, donde decenas de policías vigilan pantallas, exhibe incluso un contador de detenidos. Los gestores del sistema aseguran que basta con cargar una foto para trazar movimientos y apariciones de una persona en distintos puntos de la ciudad. Frente a esta capacidad, voces ciudadanas celebran la eficacia, mientras que otras advierten sobre riesgos de control excesivo y errores que afectan a gente inocente. Además, el sistema se alimenta de cámaras públicas y privadas, incluidos recintos como centros de salud, lo que amplifica las preguntas sobre límites y privacidad.
Código y funcionamiento
Smart Sampa combina algoritmos de inteligencia artificial con una gran red de cámaras y bases de datos judiciales. El proceso consiste en el reconocimiento automático de rostros en imágenes en tiempo real y el cotejo con órdenes de arresto registradas. Aunque la tecnología promete rapidez en la identificación, conserva un margen de error: la calidad de las imágenes, la actualización de las órdenes y la diversidad demográfica influyen en la precisión. El sistema se apoya en modelos estadísticos entrenados con conjuntos de datos, y su rendimiento varía según condiciones de iluminación, ángulo y cobertura de las cámaras.
Errores reales y consecuencias
Los informes de transparencia revisados por organismos de prensa muestran que más del 8% de las personas arrestadas en el primer año tras una alerta del sistema terminaron siendo liberadas por errores de identificación. Al menos 59 detenidos fueron sueltos por confusiones entre caras. Hubo casos muy visibles: un hombre de 80 años permaneció detenido varias horas porque fue confundido con un agresor sexual, y en otro episodio policías detuvieron por error a un paciente en terapia psiquiátrica. Además, alrededor de 141 personas fueron arrestadas por órdenes desactualizadas; el gobierno atribuye esos fallos a la gestión de los registros judiciales.
Sesgos, transparencia y contexto social
La ausencia de datos sobre la identidad racial de más de la mitad de los presos registra una laguna de información que impide evaluar si existe un sesgo algorítmico. ONG y abogados señalan que muchas detenciones ocurren en barrios periféricos y afectan a migrantes del interior, y recuerdan que casi la mitad de los casos clasificados como otros corresponden a deudores de pensiones alimenticias, delitos civiles que no siempre responden a la seguridad pública. Críticas sostienen que el sistema se usa para control civil; las autoridades, en cambio, responden con estadísticas que muestran una reducción de robos cercana al 15% en 2026.
Implicaciones legales y la respuesta del mercado asegurador
Los fallos de IA en aplicaciones como Smart Sampa han despertado el interés de aseguradoras que ofrecen coberturas adaptadas a errores de modelos autónomos. Firmas especializadas evalúan modelos antes de asegurarlos y diseñan pólizas tipo E&O (errores y omisiones) que contemplan escenarios de alucinaciones, definidas como la generación de información falsa con apariencia de veracidad. Compañías como Armilla, Founder Shield y reaseguradoras como Munich Re han definido exclusiones y límites: por ejemplo, no cubren aplicaciones de diagnóstico médico o fallos causados por condiciones de mercado excepcionales. Algunas aseguradoras han pedido a reguladores excluir explícitamente la responsabilidad por IA de pólizas tradicionales.
Dimensión comercial y regulatoria
Expertos del sector advierten que, pese a mejoras, el riesgo de error nunca se eliminará por completo porque se trata de modelos estadísticos con incertidumbre inherente. Antes de suscribir, las aseguradoras analizan gestión de riesgos, normas de cumplimiento y contextos de uso; algunas empresas prefieren pólizas específicas en lugar de adaptaciones de coberturas tradicionales. Consultoras estiman un mercado de primas significativo para la próxima década, lo que subraya que los problemas tecnológicos de vigilancia no son solo éticos o legales, sino también económicos.
Al final, la discusión sobre Smart Sampa resume un dilema contemporáneo: la búsqueda de seguridad mediante tecnología frente a la necesidad de garantías, transparencia y controles jurídicos. Los incidentes mostrados obligan a mejorar la calidad de los registros judiciales, a exigir auditorías de los modelos y a debatir límites claros para el uso de reconocimiento facial en espacios públicos, mientras el mercado asegurador se adapta para cubrir los riesgos que la propia tecnología genera.
