A ética em projetos de IA não precisa ser um bloco intransponível: pode crescer com o projeto, etapa a etapa, e virar diferencial competitivo.
Na corrida pela adoção de Inteligência Artificial, é comum enxergar a questão ética apenas como um conjunto de restrições ou barreiras de compliance. Aqui na Taqtile, temos uma visão diferente: acreditamos que a responsabilidade ética não é um freio, mas um diferencial competitivo capaz de proteger a reputação da marca e gerar novas oportunidades de valor.
Sabemos que o tema é complexo e, muitas vezes, difícil de tangibilizar no dia a dia dos projetos. No entanto, ignorar essa camada não é uma opção. O cuidado ético é, em última instância, um cuidado com a perenidade do negócio. Mesmo que a exigência regulatória e social ainda esteja amadurecendo, as marcas que se antecipam constroem bases muito mais sólidas para escalar suas inovações.
Uma tensão comum em projetos de inovação e Inteligência Artificial é que os desafios éticos, por serem vastos e complexos, correm o risco de se tornarem um "elefante na sala". Sabe-se que ele está lá, ocupando espaço, mas a dificuldade de abordar todas as suas ramificações muitas vezes leva ao adiamento ou até ao esquecimento do problema.
E em parte faz sentido, porque todo e qualquer projeto de inovação tem muitas barreiras, e uma barreira desse tamanho pode ser determinante para a continuidade de um projeto. É disso que surge um dos principais aprendizados da Taqtile em relação ao desafio ético: a complexidade do tema não deve se sobrepor ao tamanho da iniciativa em discussão. Ele precisa crescer conforme o projeto avança.
Como será reproduzido a seguir a partir de conversas com a Tuanny Martins e o Danilo Toledo, que lideram essas discussões na Taqtile, entre paralisar um projeto ou evitar o assunto, o caminho é trabalhá-lo de forma incremental.
Por isso, o objetivo deste texto é compartilhar o que aprendemos na Taqtile sobre como evitar que o assunto seja colocado de lado. A chave não está em ter todas as respostas e compromissos no dia um, mas em transformar a ética em um processo gerenciável, que é endereçado e amadurece na mesma velocidade em que o projeto avança.
A importância de transformar em um assunto
Acompanhar o desenvolvimento desse tema me lembrou de quando conheci as pesquisas de Sheila Jasanoff, uma cientista social indo-americana que é referência no campo de estudos de Ciência, Tecnologia e Sociedade (CTS). Estudando o impacto de novas tecnologias na sociedade, a autora ficou conhecida por evidenciar que existe um gap na forma como se pensa a sociedade: desconsiderar o quanto as tecnologias afetam a produção de ordens sociais.
Em seus estudos, Jasanoff apresenta o conceito de imaginário sociotécnico, que se refere às visões coletivamente partilhadas e publicamente performadas de futuros desejáveis como algo que é alcançável através de avanços da ciência e da tecnologia. Nesse cenário, mostra a autora, tendemos a olhar para a inovação apenas pela ótica da solução, desconsiderando como ela afeta e produz novas ordens sociais.
Nesse sentido, a autora expõe que o maior risco surge não pela tecnologia em si, mas principalmente quando aspectos de responsabilidade e desafios éticos não fazem parte desses imaginários sociotécnicos da tecnologia.
Não por acaso, essa é uma das preocupações centrais na Taqtile: para além de buscar por noções de compliance, estudar o assunto visando torná-lo em algo gerenciável e possível de ser endereçado no ambiente corporativo. Para compartilhar o que já aprendemos, a partir de discussões internas, consolidamos três estratégias para trazer a discussão para o ambiente corporativo.
1. O tema deve acompanhar a evolução do projeto
Como, então, trazer o assunto para a prática sem travar a inovação? A primeira estratégia sugerida por Danilo é a abordagem incremental.
"Ética não pode ser um pensamento tardio, precisa estar presente no ponto de partida, e evoluir em complexidade com o projeto". Por isso, o papel da consultoria é sensibilizar sobre os riscos amplos desde o início, mas endereçar as tensões de forma proporcional ao estágio do desenvolvimento. Isso evita que se transforme a ética em um bloco sensível e intransponível, permitindo que ela seja tratada etapa a etapa, acompanhando o aumento da complexidade e do impacto da solução.
É o que fizemos no agente de IA que conduz a venda de carros por assinatura: a autonomia do agente cresceu em etapas, conforme ele provava que acertava, e decisões sensíveis, como a análise de crédito, continuaram com uma pessoa.
2. Abordar pela noção de eficiência: o custo de não fazer
A Tuanny lembra que há também uma dimensão pragmática para se abordar. Tratar a ética desde o início é uma questão de eficiência.
Por exemplo, o custo de remediar um modelo de IA mal construído é exponencialmente maior do que o de desenvolvê-lo com critérios de responsabilidade. "Modelos de IA aprendem e amplificam padrões. Se o viés dos dados não for tratado na origem, ele se cristaliza na arquitetura do sistema. Corrigir isso depois pode exigir desde um retreinamento custoso até o descarte total do modelo. Além disso, aspectos técnicos como a explicabilidade, a capacidade do sistema de detalhar como chegou a uma conclusão, muitas vezes não podem ser encaixados posteriormente."
Não só isso: a longo prazo, pensar em compliance e responsabilidade desde o "dia zero" é sobre proteger o investimento, até porque esse é um mercado que deve ser cada vez mais regulado. Abordar o aspecto ético da tecnologia ajuda a prever onde essa regulação deve acontecer antes, permitindo às empresas se anteciparem.
3. Ética também é sobre gerar valor
Algo para que a Tuanny chama atenção é que "é fundamental mudar a perspectiva: sair de uma postura defensiva ('bloquear a IA para evitar danos') para uma postura propositiva. A ética não serve apenas para mitigar riscos; ela gera oportunidades de valor."
Um exemplo prático trazido por ela ilustra esse ponto: "ao desenvolver um protótipo interno, a gente percebeu que a IA utilizava linguagem e exemplos predominantemente masculinos, refletindo o viés de seus dados de treinamento. Identificando isso, foi possível ajustar o modelo para adotar uma linguagem neutra e inclusiva com uma precisão e escala que seriam difíceis de atingir manualmente. Aqui, o olhar ético não foi um freio, mas uma alavanca para entregar um produto tecnicamente superior e socialmente mais adequado".
Por isso, olhar para o lado propositivo que a Inteligência Artificial pode entregar não é só tratar de seus futuros desejáveis (e distantes), mas também entender como as capacidades e habilidades da tecnologia podem resolver problemas hoje.
Como a Taqtile está se aprofundando no desafio
Na Taqtile, assim como no mercado, a complexidade do tema ainda está sendo mapeada e elaborada. Construindo ferramentas próprias, o foco é não só sensibilizar sobre o tema, como trazer para a realidade prática das empresas e dos projetos.
Dessa frente nasceu o Responsible AI, o assessment de responsabilidade em IA da Taqtile. Ele avalia um projeto ou produto com IA, em produção ou ainda em desenvolvimento, em 10 dimensões: identificação, dados e privacidade, vieses e equidade, transparência, deslocamento de trabalho, qualidade, governança, sustentabilidade, manutenção e segurança.
Cada dimensão é coberta por perguntas classificadas por criticidade. Algumas são inegociáveis e, sem resposta, limitam a nota do projeto. Outras precisam ser resolvidas antes de escalar, e outras entram de forma progressiva. É essa classificação que torna o tema gerenciável. O resultado não é um aprovado ou reprovado, mas um mapa de maturidade por dimensão, a exposição regulatória do projeto e um roadmap de práticas, na ordem em que vale adotá-las.
Se quiser entender como o Responsible AI se aplica ao seu projeto, escreva para a gente. Fazemos o diagnóstico junto com o seu time, no estágio em que o projeto estiver.