Inteligência Artificial: o uso da Avaliação de Impacto Algorítmico pelo setor privado

O futuro marco legal da inteligência artificial (IA) está sendo amplamente discutido no Brasil pela sociedade e também pelo legislativo. Em termos práticos, um dos principais temas discutidos atualmente é a Avaliação de Impacto Algorítmico (AIA).

A AIA representa um dos mecanismos de governança e accountability das organizações, uma vez que visa a promover a conformidade com a legislação vigente e com propostas de regulamentação de IA.

A despeito da indefinição quanto ao órgão competente para regular o tema, a Autoridade Nacional de Proteção de Dados (ANPD) menciona que a AIA é “uma ferramenta que permite ao agente descrever características do sistema analisado, bem como identificar riscos e mecanismos para sua mitigação”. Ao analisar pontos de convergência entre IA e proteção de dados, também menciona que há tecnologias que exigirão a elaboração da AIA e de Relatório de Impacto à Proteção de Dados Pessoais (RIPD), exigido pela LGPD. Exemplos dessas tecnologias incluem reconhecimento facial e aplicações de IA na saúde.

Em investigações, incluindo incidentes de segurança, a AIA poderá ser apresentada a autoridades como uma das documentações sobre a adoção de medidas para cumprimento das leis e a implementação de programas de governança. Também pode ser importante em rodadas de investimento e outras transações estratégicas.

Vale lembrar que a AIA faz parte de um programa de governança de IA que deveria existir em cada organização que utilize esses sistemas, o qual deverá incluir, entre outros aspectos, políticas internas e externas, códigos de conduta para o uso de IA, instrumentos de auditabilidade, elaboração de cláusulas contratuais para contratação com terceiros, treinamentos das diversas áreas da organização e medidas mitigadoras de impacto, conforme a complexidade de cada organização.

Clique aqui e leia o material elaborado pelos especialistas do Mattos Filho, com uma abordagem completa voltada para o setor privado, podendo ser adaptada a todas as organizações que utilizam ou desenvolvem sistemas de IA.

Para mais informações, conheça a prática de Tecnologia do Mattos Filho.