Salte para o conteúdo principal

Vigilância e policiamento preditivo através da IA

As cidades estão a tirar partido da inteligência artificial (IA) para garantir a segurança dos seus cidadãos, salvaguardando simultaneamente a privacidade e os direitos humanos fundamentais.

A vigilância e o policiamento preditivo através da IA é a tendência mais controversa deste relatório, mas que tem implicações importantes para o futuro das cidades e das sociedades.

A tecnologia é frequentemente utilizado como sinónimo de evolução, mas a ética da sua utilização pode ter de ser questionada. Uma questão subjacente é a de saber que sociedade pretendemos construir. Há dúvidas e incertezas sobre o impacto da IA nas comunidades e nas cidades: a mais fundamental preocupação é a privacidade, mas há debates frequentes sobre a IA noutras perspetivas, como o seu impacto no emprego, na economia e no futuro do trabalho. Consequentemente, não se pode separar discussões sobre vigilância e policiamento preditivo dos debates recentes sobre as dimensões societais, éticas e mesmo geopolíticas.

O ritmo de adoção da IA para fins de segurança tem aumentado nos últimos anos. Recentemente, a IA ajudou a criar e a prestar serviços policiais inovadores, a conetar as forças policiais aos cidadãos, a criar confiança e a reforçar as associações com as comunidades. Há uma utilização crescente de soluções inteligentes, como a biometria, o reconhecimento facial, as câmaras inteligentes e os sistemas de videovigilância. Um estudo recente concluiu que as tecnologias inteligentes, como a IA, podem ajudar as cidades a reduzir a criminalidade em 30 a 40% e a reduzir os tempos de resposta dos serviços de emergência em 20 a 35%.1O mesmo estudo concluiu que as cidades começaram a investir no mapeamento da criminalidade em tempo real, na gestão de multidões e na deteção de tiros. As cidades estão a utilizar o reconhecimento facial e a biometria (84%), câmaras nos carros e no corpo dos polícias (55%), drones e vigilância aérea (46%) e aplicações de emergência e de comunicação de crimes por crowdsourcing (39%) para garantir a segurança pública. No entanto, apenas 8% utilizam o policiamento orientado por dados.2 O AI Global Surveillance (AIGS) Index 2019 afirma que 56 dos 176 países utilizaram IA para vigilância de plataformas urbanas seguras, embora com abordagens diferentes.3 A International Data Corporation (IDC) previu que, até 2022, 40% das agências policiais utilizarão ferramentas digitais, como o streaming de vídeo em direto e fluxos de trabalho partilhados, para apoiar a segurança da comunidade e um quadro de resposta alternativo.4

A vigilância não é nova, mas as cidades estão a explorar as capacidades de previsão da criminalidade através da análise dos dados de vigilância, a fim de melhorar a segurança. As cidades já capturam imagens para fins de vigilância, mas com a utilização de IA, as imagens podem agora ser analisadas e atuar muito mais rapidamente.5 Machine learning e a análise de grandes volumes de dados tornam possível navegar através de enormes quantidades de dados sobre crime e terrorismo, para identificar padrões, correlações e tendências. Quando as relações correctas estão estabelecidas, a tecnologia é a camada que ajuda as agências de aplicação da lei a desempenhar melhor as suas funções e a desencadear mudanças de comportamento. O objetivo final é criar sistemas de segurança ágeis que possam detetar redes de crime ou terrorismo e actividades suspeitas, e até contribuir para a eficácia dos sistemas de justiça.

As cidades estão também a explorar outras utilizações tecnologias de vigilância e de inteligência artificial. A IA está a ser utilizada em portagens urbanas e zonas de emissão para reduzir a poluição atmosférica para fins de sustentabilidade. Outro domínio de aplicação emergente é a prevenção de outra crise sanitária. Paris utiliza IA para monitorizar o sistema de metro e garantir que os passageiros usam máscaras faciais. O objetivo não é identificar e punir os infratores, mas sim gerar dados anónimos que ajudem as autoridades a antecipar futuros surtos de infeção.6

A forma de atingir estes objetivos, respeitando a privacidade e as liberdades, continua a ser uma questão crucial.

Os especialistas afirmam que é quase impossível conceber sistemas de IA éticos amplamente adoptados devido à enorme complexidade dos diversos contextos que têm de abranger. Quaisquer avanços na IA para vigilância e policiamento preditivo têm de ser acompanhados de debates sobre questões éticas e regulamentares. Embora a proposta de valor destas tecnologias possa parecer atractiva do ponto de vista dos casos de uso, as liberdades e os direitos civis têm de ser protegidos por regulamentos adequados em matéria de privacidade e direitos humanos.

Embora seja uma questão controversa nos países ocidentais (e algumas cidades dos EUA a tenham proibido), o policiamento preditivo está a ser amplamente utilizado na Ásia. Um inquérito realizado pela Deloitte revelou diferenças consideráveis na aceitação e conveniência destas tecnologias entre regiões. Tanto a vigilância como o policiamento preditivo são considerados indesejáveis em regiões geográficas mais respeitadoras da privacidade, como a UE e a América do Norte. A América Latina e a Ásia revelaram uma maior aceitação.

Em resumo, as cidades precisam de considerar se a utilização da tecnologia para vigilância e policiamento implica fazer concessões à conveniência em detrimento da liberdade.

"Existe muita desconfiança entre as comunidades e a polícia, e o que temos visto repetidamente é que as comunidades de baixos rendimentos tradicionalmente marginalizadas são menos propensas a pedir ajuda. A introdução de tecnologias como a deteção de tiros permite que os agentes da polícia e as agências de aplicação da lei respondam e ajudem a comunidade."

-Jeff Merritt, Diretor de IoT e Transformação Urbana no The World Economic Forum

Prevenção e redução da criminalidade, para tornar as cidades mais seguras: O policiamento preditivo tem como objetivo prevenir o crime e pode ser a forma mais eficiente e eficaz de manter as comunidades seguras e aumentar a sua confiança nos serviços policiais, reduzindo simultaneamente os tempos de resposta.7 Por exemplo, a polícia de Vancouver utiliza modelos preditivos para identificar áreas onde se espera que ocorram assaltos e, em seguida, coloca agentes para dissuadir potenciais ladrões ou outros criminosos.

Apoio às forças policiais e a outras entidades para além da deteção da criminalidade: Os departamentos de polícia de muitas cidades têm falta de pessoal, o que torna mais difícil garantir a segurança pública em todos os momentos e em todos os locais. À medida que a dimensão da população aumenta, será difícil para as forças policiais proporcionar uma segurança eficaz e controlar as multidões. Os organismos responsáveis pela manutenção da ordem pública em todo o mundo podem recorrer à IA para garantir uma cobertura adequada de todas as zonas, com um aumento limitado da necessidade derecursos8 9. A inteligência artificial pode também ajudar as autarquias locais a identificar comportamentos com impacto na sustentabilidade ambiental ou na saúde pública.

A IA pode melhorar a interconexão sem descontinuidades entre os organismos municipais: As cidades cujos sistemas de segurança estão espalhados por departamentos de polícia, bombeiros e outras agências ou entidades de segurança podem beneficiar da IA, que pode detetar padrões complexos e ligações entre eventos em diferentes departamentos, levando a melhores tempos de resposta a incidentes.10

Salvaguardar a vida da polícia e dos agentes da autoridade: Tecnologias como a videovigilância e os dispositivos robóticos de segurança podem ser utilizadas para identificar e prevenir potenciais ameaças. Podem impedir a ocorrência de crimes e evitar pôr em risco a segurança e a vida dos agentes da polícia.11

Reduzir os custos de saúde e outras despesas de segurança: As cidades podem reduzir os custos dos serviços de saúde no tratamento de vítimas de crimes. Isto pode resultar em prémios de seguro mais baixos em cidades de alto risco e, em alguns casos, reduzir a necessidade de serviços de segurança privados.

Equilibre os interesses de segurança com a proteção das liberdades civis, incluindo a privacidade e a liberdade: A utilização da IA no policiamento não tem um apoio unânime porque algumas pessoas vêem-na como uma ameaça à privacidade e à liberdade individuais. Por exemplo, em 2020, a cidade californiana de Santa Cruz proibiu a utilização de ferramentas de policiamento preditivo e a cidade de Nova Iorque exigiu que a polícia divulgasse a sua utilização de ferramentas de vigilância. As autoridades locais devem, por conseguinte, garantir que aplicam critérios rigorosos à utilização e retenção de dados pessoais e que são transparentes quanto à utilização dosdados12. Além disso, as cidades devem consultar os stakeholders e discutir os benefícios e os motivos da utilização da IA e das tecnologias de vigilância.

Experimente de forma responsável e regule primeiro: Qualquer experimentação com tecnologias de vigilância e de IA tem de ser acompanhada de uma regulamentação adequada para proteger a privacidade e as liberdades civis. Os decisores políticos e as forças de segurança têm de introduzir regulamentos e mecanismos de responsabilização que criem um ambiente de confiança para a experimentação das novas aplicações. Os regulamentos podem ajudar a mitigar os riscos relacionados com as potenciais perturbações que as inovações da IA podemcausar13.

Crie comissões de análise institucional: Estes devem efetuar análises de quaisquer aplicações que impliquem a utilização de dados pessoais. Devem incluir peritos de várias disciplinas, como a ética, a privacidade e a tecnologia, decisores políticos, funcionários públicos e representantes da comunidade. As considerações éticas devem incidir em três áreas críticas: justiça, equidade e inclusão.

Crie mecanismos para algoritmos que possam ser responsabilizados e revistos: Com o advento da inteligência artificial explicável, é cada vez mais possível utilizar algoritmos que podem ser responsabilizados e sujeitos a revisões. Explainable AI torna possível monitorizar questões como a parcialidade e a equidade dos algoritmos. As cidades devem utilizar algoritmos de caixa branca que respeitem os princípios de transparência, interpretabilidade e explicabilidade. Por exemplo, de acordo com o Departamento de Justiça dos EUA, os negros têm cinco vezes mais probabilidades de serem detidos do que os brancos. Isto sugere que pode muito bem haver preconceitos raciais nos algoritmos de IA, quando uma das principais razões para utilizar a IA para detetar crimes é evitar preconceitos por parte dos humanos. No entanto, os preconceitos podem ser incorporados (ainda que inconscientemente) pelos indivíduos que escrevem osalgoritmos14 15 16.

Dê prioridade à utilização de dados ambientais em vez de dados pessoais: A utilização de dados pessoais afecta fortemente a confiança e pode afetar a privacidade e os direitos civis. Sempre que possível, as cidades devem utilizar dados anónimos, agregados e não identificáveis para obter informações. A Internet das Coisas e os sensores facilitam a recolha e a análise de dados ambientais para prever eventos, o que limita a necessidade de dados pessoais.

Promova uma forte colaboração e confiança entre os sistemas de aplicação da lei e os cidadãos: Confiança é um requisito fundamental para a aplicação de IA na segurança e no policiamento. Para tirar o máximo partido da tecnologia, tem de haver um envolvimento da comunidade.

Acompanhe a digitalização com uma mudança de cultura: Para tirar o máximo partido da utilização da IA, a polícia, os sistemas judiciais e as administrações municipais devem alterar a sua cultura organizacional para se adaptarem a estes movimentossubstanciais17.

Singapura

Na vanguarda da adoção de tecnologia com o objetivo de criar um ambiente seguro, Singapura já está a alavancar IA em aplicações policiais, de segurança das fronteiras e de segurança interna. Implementou medidas para utilizar tecnologias inteligentes, como sensores, análise de dados e IA, para tornar as vidas mais seguras.

Por exemplo, a Força de Defesa Civil de Singapura (SCDF) utilizou UAV (veículos aéreos não tripulados) para actividades de monitorização, como o seguimento de incêndios, vigilância e missões de busca e salvamento. O Ministério da Administração Interna utiliza UAV para efetuar vigilância aérea para monitorizar multidões durante eventos públicos de massas, como na véspera de Ano Novo. A Autoridade dos Postos de Controlo & Imigração introduziu a leitura da íris em julho de 2018, reforçando a rede pré-existente de câmaras com capacidades de reconhecimento facial.

Desde dezembro de 2016, os drones têm ajudado a polícia a capturar criminosos que realizam actividades ilegais na floresta e permitiram poupar 80% do tempo e 60% dos custos em comparação com os métodos tradicionais de inspeção de edifícios.18 Os drones também ajudaram a monitorizar os principais oleodutos e o congestionamento do tráfego nos postos de controlo. Em 2018, os agentes da polícia apanharam 125 imigrantes ilegais através de uma operação nocturna com drones.

A Força Policial de Singapura (SPF) tenciona utilizar tecnologias wearable, tais como óculos inteligentes com imagens de vídeo, para facilitar a recolha de informações. Espera-se que estes óculos efetuem análises de vídeo em tempo real, como o reconhecimento facial.

Para lidar com os desafios relacionados com a COVID-19, o governo utilizou a IA em iniciativas como:

  • VigilantGantry, que controla automaticamente a temperatura das pessoas com uma câmara de vídeo e um scanner térmico. De acordo com o Singapore Government Developer Portal, "aumenta os scanners térmicos existentes para melhorar a taxa de digitalização sem contacto, aliviar os estrangulamentos nas longas filas de espera no exterior dos edifícios e reduzir a mão de obra necessária para as medidas de rastreio da temperatura. "19
  • SPOTON, uma solução de rastreio de temperatura em massa para locais com poucas infraestruturas de apoio. Pode rastrear até dez pessoas ao mesmo tempo, com um indicador de temperatura para cada rosto e alarmes automáticos e alertas por e-mail quando são detetadas temperaturas elevadas."20
  • Um robô chamado Spot que patrulha e recorda às pessoas nos parques públicos que devem respeitar uma distância social de pelo menos um metro.
  • Uma ferramenta de análise de rede para ajudar no rastreamento de contactos pelas forças armadas de Singapura.21 22 23

Como parte da Estratégia Nacional de Inteligência Artificial, que abrange cinco projetos nacionais (transportes e logística, cidades e propriedades inteligentes, cuidados de saúde, educação, e segurança e proteção), o governo tem uma visão: "Até 2030, Singapura será líder no desenvolvimento e implementação de soluções de IA escaláveis e impactantes, em setores-chave de elevado valor e relevância para os nossos cidadãos e empresas."24 Dois projetos para melhorar a segurança com IA são:

  1. 1. Computer vision drowning detection system (CVDDS) at 27 swimming pools,25 to be implemented in 2021
  2. 2. Operações de controlo de fronteiras: Singapura explorará a utilização de IA para ajudar os funcionários dos serviços de imigração a avaliar o perfil de risco dos viajantes antes da sua chegada aos pontos de controlo e a adaptar o nível de controlo de segurança em conformidade. Para o efeito, serão utilizadas tecnologias como machine learning, computer vision, sistemas cognitivos e explainable AI.26
Kanagawa, Japão

Em preparação para os Jogos Olímpicos de Tóquio, a força policial japonesa lançou o policiamento preditivo com recurso à IA.

Os sistemas de IA são capazes de determinar se vários crimes foram cometidos pela mesma pessoa, comparando os dados relativos a cada crime. Utilizando esta informação, a IA prevê o próximo passo do criminoso.

O próprio sistema de IA possui um algoritmo de deep learning para ensinar os sistemas informáticos em tempo real à medida que recolhe mais dados. O processo permite que o sistema tenha pleno acesso às estatísticas da força policial, ao mesmo tempo que dá acesso a outros pormenores do crime, como a hora, o local, o tempo e as condições geográficas.

Há também um plano para permitir o acesso da IA às redes sociais, a fim de identificar as áreas específicas ou as pessoas que possam estar envolvidas num crime. Em 2018, a polícia de Kanagawa começou a estudar a viabilidade desta medida e realizou uma investigação conjunta com o sector privado antes de pôr em prática um sistema. Para além disso, a Agência Nacional da Polícia também criou um painel para aconselhar sobre a forma como a polícia deve utilizar aIA27 28 29.

Rio de Janeiro, Brasil

Com altas taxas de homicídio e sensação de insegurança (em 2015, 81% dos brasileiros temiam ser vítimas de algum tipo de homicídio), a cidade implementou medidas para prever crimes com mais sucesso e diminuir a taxa de criminalidade.

Em 2016, o Igarapé Institute (um think tank) fez parceria com a Via Science (empresa de análise de dados) para desenvolver a app CrimeRadar, uma plataforma de previsão de crimes que avaliava a frequência de crimes por locais e horários na região metropolitana.

A plataforma funciona em smartphones e browsers de computador. O software utiliza análises de dados avançadas para monitorizar as taxas de criminalidade e os riscos potenciais em todo o município.

O CrimeRadar fornece uma representação visual dos níveis de segurança em locais e horários específicos. Torna também os dados sobre a criminalidade mais acessíveis e transparentes, melhorando assim a segurança dos cidadãos. A plataforma ajudou a reduzir a criminalidade na região em30-40%30 31 32.

"Quer se trate de sensores, CCTVs, rastreio de contactos digitais, é muito importante que sejamos sensíveis à forma como as pessoas se sentem em relação à recolha e utilização de dados, e temos de comunicar e ser muito claros sobre o que estamos a fazer".

-Kok Yam Tan, Secretário Adjunto do Gabinete da Nação Inteligente e Governo Digital, Singapura

Entrevistas em vídeo

Podcasts

Notas finais :

  1. Deloitte: Emerging tech that can make smart cities safer. (2018)
  2. ESI ThoughtLab: Smart City solutions for a riskier world. (2021)
  3. Carnegie Endowment for International Peace: The Global Expansion of AI Surveillance. (2019)
  4. IDC FutureScape: Worldwide Smart Cities and Communities 2021 Predictions
  5. MicroScope: AI: The smart side of surveillance. (2019)
  6. Security Boulevard: AI Surveillance in a post-pandemic world. (2020)
  7. United Nations University – Centre for Policy Research: AI & Global Governance: Turning the Tide on Crime with Predictive Policing. (2019)
  8. Forbes: Leveraging AI And IoT For Citizen Security In Smart Cities. (2019)
  9. Deloitte: The Age of With - The AI advantage in defense and security. (2019)
  10. Indigo Vision: Integrate Artificial Intelligence with your city surveillance to enhance incident response. (2020)
  11. Forbes: Leveraging AI And IoT For Citizen Security In Smart Cities. (2019)
  12. Ibid.
  13. Wall Street Journal: California City Bans Predictive Policing. (2020)
  14. The Black Box in Medium: Artificial Intelligence Predictive Policing: Efficient, or Unfair?. (2020)
  15. The New York Times: U.N. Panel: Technology in Policing Can Reinforce Racial Bias. (2020)
  16. MIT Technology Review: Predictive policing algorithms are racist. They need to be dismantled. (2020)
  17. Forbes: Leveraging AI And IoT For Citizen Security In Smart Cities. (2019)
  18. GovTec Singapore: Drones that keep Singapore going. (2020)
  19. Singapore Government Developer Portal: VigilantGantry - Access Control with Artificial Intelligence (AI) and Video Analytics. (2021)
  20. Singapore Government Developer Portal: SPOTON - – A Smart Thermal Scanner for Crowd Temperature Screening. (2021)
  21. GovTech Singapore: Big push for AI proves fruitful and useful. (2020)
  22. Reuters: Singapore to test facial recognition on lampposts, stoking privacy fears. (2018)
  23. Civil Service College Singapore: Artificial Intelligence: Impact on Public Safety and Security. (2019)
  24. Smart Nation and Digital Government Office. Smart Nation Singapore National AI Strategy. (2019)
  25. Smart Nation and Digital Government Office: Transforming Singapore. (2015)
  26. Smart Nation and Digital Government Office. Smart Nation Singapore National AI Strategy. (2019)
  27. Interesting Engineering: Japan Set to Launch AI System to Predict Crime. (2018)
  28. Engineering 360: Japan to Launch AI System to Predict Crime. (2018)
  29. Kyodo News: Kanagawa police eye AI-assisted predictive policing before Olympics. (2018)
  30. World Economic Forum. What happens when we can predict crimes before they happen? (2017)
  31. WIRED: CrimeRadar is using machine learning to predict crime in Rio. (2016)
  32. Bloomberg City Lab: Mapping 'Pre-Crime' in Rio. (2016)

Pode aceder aos links para estas fontes, quando disponíveis, na página 148 do estudo Urban Future with a Purpose.

Did you find this useful?

Thanks for your feedback

Se quiser ajudar a melhorar o site Deloitte.com, por favor preencha um formulário Inquérito de 3 minutos