O texto discute a necessidade de regulamentar a inteligência artificial (IA). Apresenta a IA como uma força disruptiva, similar a outras revoluções tecnológicas, que exige adaptações sociais e governamentais. O autor argumenta que a regulamentação é essencial para mitigar os riscos da IA, como a discriminação algorítmica e o uso em conflitos. No entanto, alerta para os desafios de criar regulamentações eficazes e equilibradas, considerando a rápida evolução da tecnologia e as diferentes realidades nacionais. O texto sugere que a categorização de riscos e a implementação de testes rigorosos são passos importantes para uma regulamentação eficaz.
Resumido por IA.
O Impacto
O termo “Destruição Criativa” foi popularizado pelo economista austríaco Joseph Schumpeter (1883–1950).
Este termo é utilizado constantemente para ilustrar como as revoluções tecnológicas tendem a destruir a ordem estabelecida e criar estruturas, gerando grande impacto na sociedade.
Essas revoluções estão presentes dentro de um ciclo. Atualmente, com início em 2020, passamos a viver a 6ª onda que podemos citar, como exemplos: nano tecnologia, computação em nuvem, tecnologias sustentáveis, realidade aumentada e inteligência artificial.
O surgimento dessas ondas também causa desconforto nos governos, que são obrigados a criarem ferramentas de proteção para que a economia não seja afetada tão drasticamente em tão pouco tempo.
Já a sociedade sofre com a mudança de rotina e necessidade constante de aperfeiçoamento. Afinal, empregos são perdidos e para conquistar as novas oportunidades que surgiram, o seu currículo também deve constar novas habilidades.
Uma das características de maior importância para a sobrevivência humana é sua capacidade de adaptação. Passamos por momentos difíceis na nossa história e mesmo assim ainda estamos aqui. Com isso quero dizer que o senso de autoproteção da raça é extremamente presente em nós e acabamos enfrentando qualquer coisa que a ameace.
Neste ponto, conclui-se que, a cada surgimento de uma nova onda, a humanidade tenta diminuir os impactos causados por essa destruição e acaba se adaptando as novas criações. E entre esses dois pontos é onde precisamos intervir para conseguir o equilíbrio. Para mim, aqui é o lugar da regulamentação.
Sobre regulamentação e a história:
Nos enganamos em acreditar que apenas temas novos precisam de regulamentação.
Independente da sua crença, imagine que na história de Adão e Eva já havia uma regulamentação sobre alimentação: é proibido comer o fruto “proibido”. A sua desobediência teve consequências. Esse é um assunto extremamente antigo, relatado em um documento que passa por gerações: a Bíblia.
No final do século XIX e início do século XX, os Estados Unidos enfrentaram sérios problemas de segurança alimentar. A falta de regulamentação permitia a produção e venda de alimentos adulterados e insalubres. A Lei de Alimentos e Drogas de 1906, também conhecida como a Lei Pure Food and Drug Act, foi aprovada para resolver esse problema, estabelecendo padrões de pureza e rotulagem de alimentos e medicamentos. Isso marcou o início da regulamentação eficaz da segurança alimentar virando referência para outros países.
Ano passado, em 2022, no Congresso Nacional Brasileiro, discutia-se sobre os novos agrotóxicos no que apelidaram de “Pacote do Veneno”.
Por outro lado, a crise financeira de 2008 foi amplamente atribuída à falta de regulamentação adequada no setor financeiro dos Estados Unidos. A desregulamentação de instituições financeiras permitiu a especulação desenfreada e práticas de empréstimo arriscadas, levando a uma crise econômica global.
O ponto que quero chegar nesse contexto, é que, quando falamos de regulamentação, não falamos desse assunto como se já tivesse um final, mas que ele tenha um ponto inicial e se adapte a sociedade de acordo com suas necessidades em cada ponto da história.
Juntando a ideia de autoproteção e prejuízos que tivemos com a falta da regulamentação, então a pergunta que devemos fazer não é se a Inteligência Artificial deve passar por regulamentações, mas sim quais regulamentações devem ser aplicadas a ela e quem deve as deve seguir (Sim. Regulamentação não é para todos!).
A corrida pelo poder
Eu destaquei que a regulamentação não é para todos e estou convicto disso.
Atualmente, temos como líder mundial, os Estados Unidos. Não sei dizer o quão bom é isso ou não, mas é perceptível que gozam por estarem nessa posição.
Em busca do poder e soberania, não é preciso usar um algoritmo de machine learning para perceber que os países mais fortes do mundo economicamente também detém os maiores arsenais militares.
Então presume-se que manter seu poder bélico é importante para se manter na liderança. E de certa forma, nenhum país grande deixará de ter seu avanço tecnológico para garantir suas posições por causa de ética.
Esse assunto é bem tratado no documentário “Explorando o desconhecido: robôs assassinos”, em que inúmeras denúncias foram feitas sobre o uso indevido de I.A. no campo da guerra. Equipamentos que tomavam decisões sozinhas de acordo com o modelo treinado.
Um robô em formato de cachorro que foi criado para servir como cão guia respeitaria essas limitações, mas não o mesmo robô com uma metralhadora anexada ao seu corpo com o objetivo de eliminar seus inimigos.
Mais recente podemos ver como na guerra entre Rússia e Ucrânia, as violações de direitos humanos alcançam o patamar da 2 Guerra Mundial. É um retrocesso, mas é importante perceber como as regras são facilmente abandonadas nestes casos.
Aqui a linha de raciocínio é a seguinte: a regulamentação será aplicada aos governos e a sociedade, mas um lado tem maior probabilidade de sofrer punições do que o outro.
O início da conversa
O assunto é muito novo e ainda nos falta experiência. Olhe sobre a regulamentação da Internet, que até hoje é discutido e falta consenso em vários tópicos.
Então, para partimos de um ponto inicial, eu vou trazer dois tópicos.
Brasil como signatário da OECD
Cooperação e Desenvolvimento Econômico (OCDE) tem como objetivo elaborar um conjunto de diretrizes com vista a proteger os consumidores que participam do comércio eletrônico.
Essa entidade anunciou princípios para desenvolvimento de I.A. em que o Brasil é um dos 42 signatários.
Esses princípios não têm valor legal, mas servem como um norte.
Um dos pontos destacados é a importância de tratar a I.A. como software que requer uma camada de testes e homologação muito mais intensa que outros.
O que já temos até aqui?
A LGPD (Lei Geral de Proteção de Dados) pode ser aplicada ao uso de Inteligência Artificial, visto a necessidade de proteger os dados e a privacidade das pessoas.
Há também uma discussão no Senado sobre um projeto de lei em que visa regulamentar a I.A. no Brasil.
Destaco alguns artigos:
Art. 1) Esta Lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico
Art. 13. Previamente a sua colocação no mercado ou utilização em serviço, todo sistema de inteligência artificial passará por avaliação preliminar realizada pelo fornecedor para classificação de seu grau de risco, cujo registro considerará os critérios previstos neste capítulo.
Ponto que acho importante é a categorização dos riscos. Nem todos devem seguir as mesmas regras e ter as mesmas punições.
Como exemplo: não faz sentido eu limitar tanto o uso de uma IA em um portão eletrônico de uma residência como o uso em uma cirurgia cerebral.
Art. 16. Caberá à autoridade competente regulamentar os sistemas de inteligência artificial de risco excessivo.
Aqui é preciso ter uma atenção. Vou fazer um comparativo.
A Anvisa restringe o uso de testosterona. Um laboratório que tem sua regularização em dia, precisa manter um elevado controle de fabricação, passando por inspeções, impostos e uma burocracia sem tamanho, para que alguns tipos de testosterona chegassem nas farmácias a um custo de aproximadamente R$ 20 reais, tornando-se inviável para o laboratório. Dessa forma, novas soluções com testosterona surgiram e consequentemente seu preço ficou extremamente elevado para compensar todo o processo, criando um espaço maior para fabricantes “underground” entrarem no mercado.
A melatonina também é outra substância que foi proibida por um tempo no Brasil mesmo tendo comprovação com seus estudos científicos. E era liberada lá fora. Fazendo com que o produto só aparecesse aqui através de importação, tirando dinheiro do mercado nacional. Hoje, farmácias de manipulação já podem trabalhar com essa substância.
O ponto que quero destacar é que uma entidade nem sempre (talvez na maioria das vezes) terá o conhecimento técnico necessário e poderá “regulamentar” demais, tirando de nossas empresas a possibilidade de competir no mercado ou até mesmo diminuir os benefícios que a sociedade poderia ter.
Outro ponto importante nesse projeto é a preocupação com a discriminação.
Art. 17. São considerados sistemas de inteligência artificial de alto risco aqueles utilizados para as seguintes finalidades:
III — recrutamento, triagem, filtragem, avaliação de candidatos, tomada de decisões sobre promoções ou cessações de relações contratuais de trabalho, repartição de tarefas e controle e avaliação do desempenho e do comportamento das pessoas afetadas por tais aplicações de inteligência artificial nas áreas de emprego, gestão de trabalhadores e acesso ao emprego por conta própria;
E onde esse inciso se aplicaria?
A Amazon, há uns anos, aplicou I.A. para triagem e recrutamento de funcionários na área de tecnologia. Essa é uma área dominada por homens. No treinamento do seu modelo, não equilibraram o peso que essa informação tinha e, portanto, consideravam homens mais importantes que mulheres, eliminando-as logo de cara.
Ainda no tema de filtragem e triagem, há relatos de processos judiciais que tem seus pedidos recusados pela I.A. por não conterem palavras chaves, dificultando o acesso ao direito e gerando custos para a parte mais fraca. O mesmo acontece com os recursos no INSS, em que seu público é maioria de idosos.
Conclusão
A tecnologia é global e transcende os espaços geográficos e culturas. Há governos que penalizam certos temas e não se importam com outros. Regularizar um tema assim é extremamente difícil e muitas das vezes ineficaz. Exemplo é a tentativa de resgatar valores oriundos da corrupção que foram enviados para paraísos fiscais ou servidores que contém material ilegal em um país que é liberado no país em que a empresa reside.
Então trabalhando com o escopo que temos, podemos tratar pontos como a categorização de riscos e a necessidade de testes e homologação dessas ferramentas é uma alternativa. Ou até mesmo contar com outras ferramentas, que junto à I.A. nascem com o intuito de praticar a contra inteligência artificial, “desmascarando” ou evitando alguns feitos. Exemplo são as ferramentas que detectam se um texto foi escrito pelo ChatGPT ou até infectam uma imagem para que um algoritmo não seja capaz de usá-la em um treinamento.
Concluo com o pensamento filosófico:
A verdade é uma relação entre o sujeito e o objeto que se modifica de acordo com o tempo.
O que vemos como verdade hoje, pode não ser verdade amanhã. Só o futuro dirá onde acertamos e onde erramos.
Recomendação de livro
Esse aqui é praticamente a bíblia da IA. Se você quer aprender como tudo funciona ele é uma leitura essencial. A parte de matemática é bem difícil, mas talvez dê pra você abstrair isso e entender outros conceitos.
