O avanço da Inteligência Artificial na administração pública foi um dos principais temas debatidos durante o Fórum Internacional de Direito – X Congresso Iberoamericano de Derechos Humanos, realizado na Universidade de Valladolid, na Espanha. No evento, o conselheiro Alisson Alencar defendeu que o uso da tecnologia pelo poder público deve ocorrer de forma responsável, com supervisão humana efetiva e mecanismos capazes de preservar os direitos fundamentais dos cidadãos.
Em sua palestra, intitulada “Supervisão Humana Significativa (HITL) em Sistemas de IA de Alto Risco na Administração Pública: Convergências e Assimetrias entre Brasil e Espanha”, o conselheiro apresentou uma análise comparativa sobre os modelos regulatórios adotados pelos dois países para disciplinar o uso da Inteligência Artificial em serviços públicos.
Segundo Alencar, a tecnologia representa uma importante ferramenta para modernizar a gestão pública e ampliar a eficiência dos serviços oferecidos à população. No entanto, ele alertou que os avanços tecnológicos não podem substituir a capacidade de decisão humana, especialmente em situações que envolvem direitos fundamentais.
Durante a apresentação, o conselheiro destacou que sistemas baseados em Inteligência Artificial já são utilizados em áreas estratégicas da administração pública, como saúde, segurança pública e justiça, auxiliando na tomada de decisões de grande impacto social.
Apesar dos benefícios, Alencar afirmou que a utilização indiscriminada de decisões automatizadas pode reproduzir vieses, aprofundar desigualdades e provocar violações de direitos caso não exista uma supervisão humana efetiva durante todas as etapas do processo.
De acordo com o palestrante, o conceito de Supervisão Humana Significativa (Human-in-the-Loop – HITL) vai além do simples acompanhamento operacional dos sistemas. Para que o controle seja realmente eficaz, o agente público deve participar desde o desenvolvimento da tecnologia até sua aplicação prática, possuindo autonomia, conhecimento técnico e autoridade para revisar, corrigir ou até interromper decisões automatizadas quando houver riscos ou inconsistências.
O conselheiro também ressaltou que a transparência, a possibilidade de auditoria e a responsabilização dos envolvidos são elementos indispensáveis para garantir o uso seguro da Inteligência Artificial no setor público.
Outro aspecto destacado foi a necessidade de preparar os servidores públicos para lidar com essa transformação tecnológica. Segundo ele, além do aperfeiçoamento da legislação, será necessário investir continuamente na qualificação dos profissionais, em auditorias independentes e no desenvolvimento de sistemas concebidos com princípios éticos, proteção de dados e respeito aos direitos fundamentais.
Ao encerrar a palestra, Alencar defendeu que a regulamentação, por si só, não é suficiente para enfrentar os desafios trazidos pela Inteligência Artificial. Para ele, o fortalecimento das instituições, a capacitação permanente dos agentes públicos e a adoção de mecanismos eficazes de supervisão são fundamentais para garantir que a tecnologia atue como instrumento de apoio à administração pública, sem substituir a responsabilidade humana na tomada de decisões.
