A regulação dos sistemas de inteligência artificial e os impactos à inovação

A célere e crescente disseminação de sistemas de inteligência artificial traz à tona diversas discussões sobre seu desenvolvimento e funcionamento – em que é necessário coletar, processar e manter armazenados dados de diversas naturezas , bem como sobre os resultados que podem derivar de sua operação.

Diante disso, países ao redor do mundo, inclusive o Brasil, têm adotado algumas estratégias para regulamentá-los, buscando conciliar a inovação com os direitos e garantias individuais de seus cidadãos.

O que é inovação?

Joseph Schumpeter, economista e cientista político, acreditava que inovação é aquilo que causa uma mudança econômica, por meio de uma destruição criativa, que torna inutilizáveis as inovações desenvolvidas anteriormente.

Há, nesse sentido, a quebra de ciclos econômicos que, inclusive, tendem a reduzir o espaço entre eles em razão das mudanças no estilo de vida ocasionadas pela inovação, e mudanças nos diversos setores da sociedade, devendo a inovação ser vista e entendida como um fenômeno sistêmico e imperativo.

A base de um sistema inovador comumente constitui-se de três atores: a Universidade, por meio da educação e da pesquisa; o Governo, com incentivo às políticas de inovação, e a Indústria, concedendo investimentos financeiros e interesse comercial, os quais por muitas vezes atuam em conjunto para o melhor aproveitamento e fomento de toda a cadeia.

No Brasil, a atuação no Governo relacionada à inovação pauta-se, em boa medida, na elaboração de leis sobre o assunto, como a Lei do Bem (Lei nº 11.196/05), o Marco Legal de Startups (Lei Complementar nº 182/21) e, especialmente, a Lei de Inovação (Lei nº 10.973/04, alterada pela Lei nº 13.243/16).

Definições da LI

A LI dispõe sobre estímulos ao desenvolvimento científico, à pesquisa, à capacitação científica e tecnológica e à inovação e tem o objetivo de simplificar a relação entre empresas e instituições de pesquisa, ensejando maior facilidade para os processos que venham a ocorrer.

Além disso, a LI define a inovação como a “introdução de novidade ou aperfeiçoamento no ambiente produtivo e social que resulte em novos produtos, serviços ou processos ou que compreenda a agregação de novas funcionalidades ou características a produto, serviço ou processo já existente que possa resultar em melhorias e em efetivo ganho de qualidade ou desempenho”.

Diante disso, cria-se um ambiente favorável a parcerias, à participação de instituições (de ciência e tecnologia), a normas de incentivo ao pesquisador-criador, inovação dentro de empresas privadas e novas tecnologias, como sistemas de Inteligência Artificial (IA).

O Marco Legal de IA

A IA, de maneira geral, pode ser definida como um sistema computacional desenvolvido por meio de algoritmos para que máquinas executem atividades que são ou seriam realizadas por seres humanos, de modo a ensejar maior eficiência e celeridade. Assim, desde a geração de obras ao reconhecimento facial, a IA pode ser encontrada em diversas aplicações do cotidiano e nos mais variados setores econômicos.

À luz do cenário mundial e das disposições brasileiras sobre inovação, foram apresentados, no Brasil, projetos de lei com o intuito de regulamentar sistemas de IA que ensejaram a elaboração do Marco Legal da IA (Marco Legal, Projeto de Lei nº 21/2020), definindo princípios, direitos das pessoas afetadas por sistemas de IA, classificação de risco e medidas de governança e transparência que devem ser observadas pelas organizações envolvidas, em quaisquer etapas do ciclo de vida do sistema, conforme detalhado em um material elaborado por especialistas do Mattos Filho.

Dentre os eixos temáticos endereçados no Marco Legal, a inovação é um dos temas de destaque, uma vez que ela está diretamente associada aos esforços de desenvolvimento econômico-tecnológico e aos direitos individuais dos cidadãos.

Em seção específica no capítulo sobre supervisão e fiscalização de sistemas de IA, o Marco Legal dispõe sobre medidas para fomentar a inovação, destacando o sandbox regulatório, que tem por objetivo desenvolver um ambiente regulatório experimental para inovação em IA, que se estabelece mediante ao preenchimento de requisitos específicos.

As inovações apresentadas em sandboxes regulatórios não precisam ser, necessariamente, inéditas mas, sim, melhorar o emprego dos sistemas de IA, verificar usos alternativos, bem como aprimorar e assegurar a viabilidade operacional do projeto, a fim de que sua utilização vá ao encontro dos demais princípios traçados no Marco Legal.

Princípios e regras básicas

Para que os sistemas de IA sejam desenvolvidos, os sandboxes regulatórios serão fiscalizados pela autoridade competente, visando à preservação dos direitos fundamentais, dos direitos dos consumidores e da segurança e da proteção dos dados pessoais.

Tal fiscalização também encontra respaldo em princípios delineados pelo Marco Legal, que devem ser observados no desenvolvimento, implementação e uso de sistemas de IA à luz da boa-fé, quais sejam:

• Crescimento inclusivo, desenvolvimento sustentável e bem-estar;
• Autodeterminação e liberdade de decisão e de escolha;
• Participação humana no ciclo da IA e supervisão humana efetiva;
• Não discriminação;
• Justiça, equidade e inclusão;
• Transparência, explicabilidade, intelegibilidade e auditabilidade;
• Confiabilidade e robustez dos sistemas de IA e segurança da informação;
• Devido processo legal, contestabilidade e contraditório;
• Rastreabilidade das decisões durante o ciclo de vida de sistemas de IA como meio de prestação de contas e atribuição de responsabilidades a uma pessoa natural ou jurídica;
• Prestação de contas, responsabilização e reparação integral de danos;
• Prevenção, precaução e mitigação de riscos sistêmicos derivados de usos intencionais ou não intencionais e efeitos não previstos de sistemas de IA;
• Não maleficência e proporcionalidade entre os métodos empregados e as finalidades determinadas e legítimas dos sistemas de IA.

Salienta-se que a inobservância dos dispositivos que visam regular a IA enseja a responsabilização dos agentes que desenvolvem os sistemas, de modo que se mostra de rigor cumprir com as obrigações determinadas.

Portanto, considerando que a inovação está inserida em um sistema integrado por várias bases e atores, o desenvolvimento, a implementação e o uso dos sistemas de IA devem se sujeitar a tais princípios para que haja equilíbrio entre os diversos objetivos que visa a alcançar.

Possíveis efeitos da regulação

Apesar de o Marco Legal ter buscado estabelecer medidas para fomentar a inovação relacionada aos sistemas de IA, ainda são diversos os posicionamentos sobre os impactos desse ecossistema.

A princípio, a regulação pode ser vista como um fator importante para permitir a atribuição de responsabilidades mas, também, com ressalvas de que seu excesso, diante das obrigações estabelecidas, pode ser prejudicial à indústria, contribuindo para uma redução no desenvolvimento de IA no país.

Assim, ao mesmo tempo que visa a preservar o sistema da inovação em observância às regras e aos princípios, a regulação pode prejudicar o desenvolvimento tecnológico se refletir, para os atores de inovação, riscos e sanções. Vale ressaltar que os princípios relacionados à IA nascem de diretrizes internacionais sobre o tema sob o ponto de vista ético, comumente priorizados e respeitados pelos atores de mercado e toda a sua cadeia de desenvolvimento.

Importante notar que o Marco Legal visa equilibrar os interesses tanto dos atores de inovação, quanto dos indivíduos, os quais devem ser beneficiados pelo desenvolvimento dos sistemas de IA e, ao mesmo tempo, ter preservados os seus direitos e garantias fundamentais.

Para mais informações sobre inteligência artificial e propriedade intelectual, acompanhe a série especial do Mattos Filho sobre o tema e esteja à vontade para contatar o nosso time de Propriedade Intelectual.

*Com a colaboração de Ana Flávia Marques.