Questões sobre Inteligência Artificial e Direitos Humanos

Artigo: SyRI: Um Marco na Proteção dos Direitos Humanos na Era da Inteligência Artificial (Salmoria & Lima).

Em 2020, o tribunal holandês proibiu o uso do sistema SyRI (SysteemRisicoIndicatie), ferramenta utilizada pelo governo para detectar fraudes em benefícios sociais. O caso tornou-se histórico por ser um dos primeiros a interromper um sistema de IA para salvaguardar direitos fundamentais.

Considerando os fundamentos da decisão judicial citada nas fontes, o principal motivo para a ilegalidade do SyRI foi:

• A eficácia técnica do sistema, que comprovadamente não conseguia identificar fraudes em bairros ricos.

• A violação do princípio da transparência, uma vez que a estrutura opaca do algoritmo impedia o exercício do direito a um julgamento justo e à ampla defesa.

• O fato de o sistema ser operado sem qualquer tipo de supervisão humana em suas etapas finais.

• A incompatibilidade direta entre a legislação de proteção de dados europeia (RGPD) e a legislação brasileira (LGPD).

Artigo: Inteligência Artificial Centrada em Pessoas: Proteção de Dados e Direitos Fundamentais no Cenário Global (Vogel). A abordagem de IA focada em pessoas (Human-Centered AI) prioriza a dignidade e o bem-estar humano no desenvolvimento tecnológico. Dentro dessa perspectiva, o debate ético diferencia os conceitos de "justiça" (fairness) e "equidade" (equity). De acordo com o texto, no contexto dos algoritmos de aprendizado de máquina:

• Justiça refere-se ao tratamento igual para todos, enquanto equidade busca mitigar desigualdades ao ajustar recursos às necessidades específicas de cada grupo ou indivíduo.

• A equidade é atingida automaticamente ao remover marcadores de gênero e raça das bases de dados de treinamento.

• Sistemas de alto risco, como os de recrutamento, devem priorizar a eficiência técnica sobre a participação social.

• O tratamento de dados baseado no legítimo interesse da empresa dispensa a observação das expectativas legítimas dos titulares.

Artigo: Inteligência Artificial e Direitos Humanos: Uma Avaliação Ética nos Negócios (Kriebitz & Lütge).

As empresas que desenvolvem e utilizam IA possuem responsabilidades crescentes em relação aos padrões de direitos humanos. O princípio da beneficência sugere que a IA deve ser projetada para promover o progresso social e contribuir para os Objetivos de Desenvolvimento Sustentável (ODS).

Sobre a conformidade das empresas com os direitos humanos no uso de IA, as fontes indicam que:

• A transferência de agência para uma máquina constitui, por si só, uma violação intrínseca da autodeterminação moral humana. 

• Violações de direitos humanos em IA são sempre intencionais, desconsiderando-se falhas técnicas ou atos de negligência. 

• A devida diligência corporativa deve considerar não apenas a origem dos dados, mas também seu destino final e possíveis usos futuros para mitigar danos. 

• O princípio da proporcionalidade não se aplica à cooperação entre empresas privadas e autoridades policiais no fornecimento de dados pessoais.

Artigo: Direitos Humanos e Garantias Fundamentais dos Cidadãos na Era da Inteligência Artificial (Moura). A análise comparativa entre o EU AI Act e a Constituição Federal Brasileira de 1988 revela um alinhamento em torno da preservação de direitos e da centralidade da pessoa humana. A partir das propostas de regulamentação da IA discutidas, assinale a alternativa correta:

• A Constituição de 1988, por ser anterior à IA moderna, não possui princípios capazes de proteger a vida privada do cidadão contemporâneo.

• O conceito de "literacia em IA" é fundamental para garantir a inclusão digital e mitigar riscos de desemprego e exclusão social.

• A regulação da IA deve focar exclusivamente na restrição da inovação para impedir qualquer impacto no mercado de trabalho.

• Sistemas de IA que realizam classificação social de pessoas naturais são incentivados como forma de aumentar a eficiência administrativa do Estado.

Artigo: Inteligência Artificial e Direitos Fundamentais no Brasil: Uma Análise sobre Vieses Algorítmicos... (Guasque).

Os vieses algorítmicos são distorções que resultam em decisões injustas para determinados grupos, sendo muitas vezes descritos como "opiniões embutidas em matemática". O PL 2338/2023 busca regulamentar essa matéria no Brasil.

Em relação ao enfrentamento dos vieses e à transparência, o PL 2338/2023 estabelece:

• A desresponsabilização civil dos fornecedores de IA de alto risco, desde que o erro seja fruto apenas do aprendizado de máquina.

• O direito dos indivíduos à explicação sobre as decisões, previsões ou recomendações automatizadas que os afetem.

• Que apenas empresas de grande porte devem realizar avaliações de impacto algorítmico.

• A proibição total do uso de algoritmos preditivos na segurança pública, mesmo em casos de crimes flagrantes.

Artigo: Direitos do Homem, Ética e Sistema Judicial na Era da Inteligência Artificial (Fornasier, Sobreiro & Brun).

A integração da IA no Poder Judiciário visa combater a morosidade e a burocracia, mas introduz riscos psicológicos e éticos para a figura do magistrado. Um desses riscos é o chamado "efeito de ancoragem".

Segundo os autores, o efeito de ancoragem consiste na:

• Capacidade de o juiz humano ser substituído integralmente por um robô para garantir a imparcialidade absoluta das sentenças.

• Tendência de o magistrado utilizar a sugestão da IA como ponto de referência acrítico, ratificando a decisão da máquina sem análise humana efetiva. 

• Necessidade de manter os algoritmos de decisão judicial em regime de "caixa-preta" para proteger segredos industriais das empresas desenvolvedoras. 

• Exclusão total de sentimentos e intuições no processo resolutório judicial para favorecer a lógica matemática pura da IA.

Artigo: Discriminação Algorítmica e Inclusão em Sistemas de Inteligência Artificial – Uma Reflexão sob a Ótica dos Direitos da Criança... (Henriques & Sampaio).

As crianças são usuárias frequentes de tecnologias que empregam IA e, devido ao seu estágio peculiar de desenvolvimento, são mais vulneráveis a discriminações e tratamentos injustos.

Sobre o tratamento de dados e o uso de IA em relação às infâncias, é correto afirmar:

• O tratamento de dados pessoais de crianças pode ser feito com base no legítimo interesse do controlador, independentemente do impacto na criança.

• O princípio do "melhor interesse da criança" deve prevalecer obrigatoriamente em todos os sistemas de IA que as afetem.

• Sistemas de reconhecimento facial têm precisão superior em crianças quando comparados a adultos, devido à nitidez dos traços infantis.

• A discriminação algorítmica só atinge crianças quando o software é especificamente desenhado para uso escolar.

Artigo: A inteligência artificial e os direitos fundamentais (Andrade & Röhe).

O desenvolvimento da IA possui uma natureza ambivalente, trazendo ganhos de eficiência, mas também externalidades negativas que ferem direitos humanos. Estudos indicam uma tentativa global de normatização baseada em princípios comuns.

Com base no mapeamento de iniciativas normativas globais, qual tema obteve 100% de consenso nos documentos analisados?

• Controle da tecnologia por humanos, exigindo revisão em todas as etapas.

• Justiça e não discriminação, abrangendo a prevenção de vieses e a equidade.

• Responsabilidade profissional focada exclusivamente na integridade científica.

• A proibição global de tecnologias de reconhecimento facial para fins de segurança.

O Teste de Turing foi proposto como uma forma de avaliar a inteligência das máquinas evitando definições metafísicas sobre mente ou consciência. Nesse teste, a análise concentra-se no comportamento observável durante uma interação mediada por linguagem natural. Considerando essa proposta, o Teste de Turing avalia principalmente a capacidade de uma máquina de:

• Demonstrar consciência, intencionalidade e experiência subjetiva equivalentes às humanas.

• Simular estados emocionais autênticos e possuir autonomia moral.

• Manter uma conversa linguisticamente coerente a ponto de enganar um interlocutor humano.

• Resolver problemas matemáticos complexos com eficiência superior à humana.

A história da Inteligência Artificial é marcada por diferentes fases, cada uma associada a abordagens e tecnologias predominantes em determinados períodos. Essa evolução reflete mudanças tanto conceituais quanto técnicas na área. De acordo com essa perspectiva histórica, a fase contemporânea da IA caracteriza-se principalmente pelo(a):

• Retorno exclusivo aos sistemas simbólicos baseados em lógica formal.

• Predomínio de algoritmos evolucionários aplicados a problemas de pequena escala.

• Uso intensivo de grandes volumes de dados e técnicas de aprendizado profundo.

• Abandono completo de métodos estatísticos em favor de regras explícitas.