O uso de tecnologias de vigilância pelo poder público exige responsabilidade e mecanismos efetivos de fiscalização. Quanto maior a capacidade de monitoramento, mais cuidado é necessário com os dados pessoais da população.
O caso do Smart Sampa levanta preocupações que vão além da falha de segurança revelada pela imprensa. Segundo informações reunidas pelas organizações, a Prefeitura de São Paulo não tem acesso ao código-fonte nem aos modelos de inteligência artificial utilizados no programa, que também não passam por auditorias independentes. Isso dificulta a fiscalização do reconhecimento facial e a avaliação dos riscos associados ao uso da tecnologia.
Essas preocupações são ainda maiores quando a vigilância alcança espaços como creches, escolas e unidades de saúde, onde circulam crianças, adolescentes e pessoas em situações de vulnerabilidade. A coleta e o tratamento dessas informações exigem cuidados específicos para garantir a privacidade e a proteção de dados pessoais.