Atualmente, a principal barreira para a implantação generalizada da IA não é mais a própria tecnologia, mas sim uma série de desafios de natureza humana, como ética, governança e valores.
À medida que a IA se expande para praticamente todos os aspectos da vida moderna, os riscos de comportamento inadequado da IA aumentam consideravelmente, a ponto de representar ameaças potenciais à vida. Exemplos reais de falhas na IA incluem sistemas que discriminam pessoas com base em características como raça, idade e gênero, bem como sistemas de mídia social que inadvertidamente propagam desinformação, entre outros problemas.
Na medida em que a IA se torna mais amplamente aplicada, os riscos associados tendem a aumentar, o que pode ter graves consequências para a sociedade em geral e para as empresas. As implicações empresariais incluem a possibilidade de processos judiciais, multas regulatórias, insatisfação de clientes, danos à transação e perda de valor para os acionistas.
No entanto, dado que a IA está a tornar uma capacidade empresarial indispensável, as empresas não podem mais evitar os riscos inerentes à IA simplesmente ignorando-a. Em vez disso, é fundamental aprender a identificar e gerenciar a forma eficaz desses riscos. Estabelecer uma estrutura ética e de governança ajuda a criar uma linguagem comum para articular a confiança e a integridade dos dados em todas as partes interessadas internas e externas. Isso possibilita uma adoção mais rápida e consistente da IA em toda a empresa.
Pilares de IA Confiável
Para lidar eficazmente com os desafios éticos e de governança da IA, é útil adotar pilares de confiança. Estes pilares são fundamentais e devem ser consideradas em todo o ciclo de vida do desenvolvimento de IA design, desenvolvimento, implementação e operação dos sistemas de IA, podem contribuir para preservar a ética e construir uma estratégia de IA que traga confiança a toda a sociedade. Abaixo estão listadas os principais pilares de uma IA Confiável
Justa e Imparcial
Uma IA Confiável deve ser projetada e treinada para seguir um processo justo e consistente e tomar decisões imparciais. Isso inclui a implementação de verificações internas e externas para mitigar o preconceito discriminatório. O preconceito é um desafio constante, tanto para a sociedade quanto para a IA, pois este cuidado de compreensão sofisticada dos padrões sociais, o que pode resultar em decisões técnicas corretas, mas socialmente inaceitáveis. Portanto, as empresas precisam definir o que é “justo” em relação a cada situação, operar, buscar e corrigir preconceitos em seus algoritmos e dados.
Transparente e Explicável
Para ser confiável, a IA deve ser transparente, permitindo que todos entendam como os dados são usados e como as decisões são tomadas. Os algoritmos, atributos e correlações da IA devem estar abertos à inspeção, e suas decisões devem ser totalmente explicáveis. Isso é especialmente importante à medida que a AI desempenha um papel crescente em decisões críticas, como recomendações de produtos ou sentenças judiciais.
Segurança e Proteção da Privacidade
A privacidade é fundamental na IA, especialmente porque ela frequentemente lida com informações pessoais. A IA Confiável deve cumprir as regulamentações de proteção de dados, usando os dados apenas para os fins declarados e acordados, e permitindo que os clientes controlem o compartilhamento de suas informações. A IA deve ser protegida contra riscos de segurança cibernética que possam resultar em danos físicos ou digitais. A segurança é crucial, especialmente em aplicações que afetam diretamente a vida das pessoas, como veículos independentes.
Robusta, Confiável e Responsabilizável
A IA deve ser tão robusta e confiável quanto a sistemas, processos e pessoas tradicionais. Ela deve funcionar de forma consistente, mesmo em condições desafiadoras, e as falhas devem ser previsíveis e controláveis. Isso é vital em aplicações como diagnóstico médico, onde a confiabilidade é essencial para a segurança dos pacientes. Sistemas de IA confiáveis devem estabelecer políticas claras de responsabilidade por seus resultados. Culpar unicamente a tecnologia por decisões decisivas não é suficiente, sendo essencial identificar quem é responsável pelos problemas decorrentes do uso da IA. Isso se torna ainda mais crítico à medida que a IA é empregada em aplicações críticas, como diagnóstico médico e condução autônoma.
A ética da IA é um desafio crescente à medida que a tecnologia se torna cada vez mais onipresente. Os pilares para uma IA Confiável oferece uma abordagem estruturada e abrangente para projetar, desenvolver, implantar e operar sistemas de IA que tragam toda a confiabilidade e certeza de ética e riscos mínimos a sociedade como uma todo , além dos benefícios tecnológicos que ela pretende atender.
Wiliam Rodrigues de Faria
Head de Proteção de Dados e Privacidade
Presidente da Comissão de Direito Digital da OAB Osasco
