Quando a máquina precisa se explicar

Existe um momento em que toda tecnologia poderosa demais encontra, inevitavelmente, uma pergunta que ela não consegue responder sozinha: quem responde por isso?

Para a Inteligência Artificial, esse momento chegou.

Em agosto de 2026, o AI Act europeu atinge sua plena aplicabilidade, consolidando-se como a primeira legislação abrangente do mundo dedicada exclusivamente à regulação de sistemas de IA. Não se trata de um detalhe burocrático de interesse restrito ao mercado europeu, mas de um sinal claro de que o mundo decidiu, de vez, que a Inteligência Artificial precisa de regras. Essas regras produzirão consequências reais para qualquer empresa que desenvolva, comercialize ou utilize tecnologia, independentemente de onde esteja.

O princípio central da regulação europeia é aparentemente simples: classificar sistemas de IA de acordo com o grau de risco que representam para as pessoas. Na prática, porém, essa simplicidade esconde uma ruptura profunda na forma como passamos a pensar sobre tecnologia.

No topo da hierarquia estão os sistemas considerados de risco inaceitável, proibidos em qualquer circunstância, como sistemas que ameaçam os direitos fundamentais ou a segurança dos cidadãos. Isso inclui IA usada para manipulação comportamental, pontuação social (social scoring) e vigilância biométrica indiscriminada.

A União Europeia afirmou, de forma explícita, que determinadas ferramentas não têm espaço em uma democracia, independentemente de sua sofisticação técnica ou conveniência econômica.

Logo abaixo estão os sistemas de alto risco: aqueles que não são proibidos, mas passam a conviver com exigências rigorosas de transparência, auditabilidade e governança. Diagnósticos médicos, decisões judiciais, processos seletivos de emprego e concessão de crédito são exemplos de aplicações que já fazem parte da vida de milhões de pessoas e que, a partir de agora, precisarão demonstrar como chegam às suas conclusões. As demais categorias, de risco limitado, como chatbots, e risco mínimo, como filtros de spam convivem com obrigações mais leves ou inexistentes.

Voltarei minha atenção aos sistemas de alto risco que, por não serem os proibidos (risco inaceitável), acredito serem os mais relevantes para o cotidiano das pessoas e empresas. Durante um período, o argumento de quem desenvolvia ou adotava sistemas de IA era relativamente simples: se a máquina chegou a uma conclusão e a taxa de acerto do algoritmo é elevada, então o modelo funciona e os resultados são satisfatórios.

Agora, isso não basta mais. A regulação europeia, assim como o Projeto de Lei nº 2.338/2023, atualmente em tramitação no Brasil, caminha na direção de garantir ao cidadão o direito de compreender e contestar decisões produzidas por sistemas automatizados. Se um algoritmo decidir que você não recebe um financiamento, que não avança para a próxima etapa de um processo seletivo ou que seu exame aponta determinado risco clínico, você deve ter o direito de saber quais critérios contribuíram para aquela conclusão e de questioná-la.

Para as empresas, isso muda tudo. Não basta mais ter a tecnologia funcionando. É preciso compreender, documentar e justificar os resultados produzidos por ela. Em outras palavras, não basta construir uma caixa-preta eficiente. Será necessário demonstrar o que existe dentro dela.

Não vejo isso como um obstáculo à inovação, mas como uma exigência legítima de transparência e responsabilidade. A regulação, nesse contexto, funciona como um mecanismo de amadurecimento tecnológico que o próprio mercado nem sempre consegue impor sozinho.

O panorama global, contudo, está longe de ser uniforme. A Europa parte da premissa de que confiança é um ativo econômico tão importante quanto inovação. Os Estados Unidos seguem uma abordagem mais liberal, priorizando a velocidade do desenvolvimento tecnológico e a liderança empresarial, mesmo que isso implique menor intervenção estatal. A China, por sua vez, incentiva fortemente o avanço da Inteligência Artificial, mas sob intensa supervisão governamental e alinhamento aos objetivos estratégicos do Estado.

Mais do que diferentes modelos regulatórios, estamos assistindo à consolidação de três visões distintas sobre a relação entre tecnologia, mercado, poder e liberdade. A Europa busca proteger direitos. Os Estados Unidos priorizam a inovação. A China privilegia coordenação e controle. Cada modelo carrega vantagens, riscos e consequências que transcendem a própria tecnologia.

O Brasil segue sua própria trajetória regulatória. O PL 2338/2023, atualmente em trâmite no Congresso Nacional, poderá definir os contornos da governança da Inteligência Artificial no país nos próximos anos. O resultado é um mosaico regulatório global que cria desafios para empresas multinacionais e, ao mesmo tempo, inaugura uma disputa silenciosa entre países pela liderança em governança tecnológica. Quem definir os padrões de hoje terá influência significativa sobre as regras do mercado de amanhã.

O que está verdadeiramente em disputa não é técnico. É filosófico! Regular a Inteligência Artificial significa decidir que tipo de sociedade queremos construir com ela. Queremos sistemas que ampliem liberdades ou que as restrinjam? Que reduzam desigualdades ou que perpetuem preconceitos em escala? Que apoiem decisões humanas ou que passem a substituí-las sem supervisão e sem responsabilidade?

Nenhuma dessas perguntas admite resposta automática e muito menos superficial. Elas exigem debate público, visão de longo prazo e lideranças dispostas a colocar ética, governança e responsabilidade no mesmo patamar da eficiência quando falam sobre inovação.

Para o Brasil, a chegada desse debate representa uma oportunidade rara. Temos a chance de construir um marco regulatório capaz de proteger cidadãos sem sufocar o desenvolvimento tecnológico, criando um ambiente de confiança que favoreça tanto a inovação quanto a competitividade.

A Inteligência Artificial é extraordinariamente poderosa. A grande questão não é se as máquinas serão inteligentes o suficiente para decidir. É se nós seremos responsáveis o suficiente para continuar respondendo por elas.

Diego Teixeira. Advogado e CEO da Grownt