Mova Rápido, Mas Não Quebre Coisas: Como Equilibrar a Adoção Responsável de IA e Inovação

De acordo com uma recente pesquisa global da McKinsey, embora 78% das organizações agora usem IA em pelo menos uma função de negócios, apenas 13% contrataram especialistas em conformidade de IA e apenas 6% têm especialistas em ética de IA em sua equipe.

Isso é, francamente, um comportamento irresponsável.

Embora no meu passado não muito distante eu fosse um grande defensor do ethos “mova-se rapidamente e quebre coisas” do Vale do Silício, não podemos nos dar ao luxo de sermos tão descuidados com a IA – uma tecnologia mais poderosa do que qualquer coisa que já vimos antes e que está crescendo a uma velocidade incrível.

Adotar IA sem guardrails significativos é exatamente o tipo de corte de esquinas que está fadado a eventualmente dar errado e arriscar quebrar tudo. Basta um incidente de viés de IA ou mau uso para desfazer anos de construção de marca reputacional.

E embora muitos CIOs e CTOs estejam cientes desses riscos, parecem estar operando sob a suposição de que os reguladores eventualmente intervirão e os salvarão de estabelecer seus próprios quadros, resultando em muita conversa sobre risco com muito pouca supervisão real.

E embora eu não tenha dúvidas de que as regulamentações eventualmente chegarão, estou menos confiante de que serão estabelecidas em breve. O ChatGPT foi introduzido há cerca de três anos agora, e estamos apenas começando a ver coisas como a Reunião do Senado sobre chatbots e riscos de segurança ocorrer. A realidade é que pode levar anos antes de vermos alguma regulamentação significativa.

Em vez de usar isso como desculpa para procrastinar a governança interna, isso deve estimular as empresas a adotar uma abordagem mais proativa. Especialmente considerando que, quando as regulamentações finalmente chegarem, as empresas sem seus próprios quadros estarão se esforçando para adaptar a conformidade. Isso foi exatamente o que aconteceu quando o GDPR e o CCPA foram promulgados.

Assim como as startups esforçadas do início dos anos 2000 agora são mantidas em padrões mais altos como os gigantes corporativos da tecnologia em que cresceram, coletivamente temos que amadurecer em nossa abordagem para adotar a IA de forma responsável.

Não Há “Compre Agora e Pague Depois” com Implantações de IA Responsáveis – Comece Agora

O primeiro passo em uma abordagem mais responsável para a IA é parar de esperar pelos reguladores e estabelecer suas próprias regras. Qualquer vantagem que você possa pensar que está ganhando ao evitar salvaguardas hoje apenas voltará para morder você no futuro, quando você estiver enfrentando o processo extremamente caro e disruptivo de adaptar a conformidade.

É claro que, para muitos, o problema é não saber por onde começar. Minha empresa recentemente pesquisou 500 CIOs e CTOs em grandes empresas e quase metade (48%) citou “determinar o que constitui uso ou implantação responsável de IA” como um desafio para garantir o uso ético de IA.

Um lugar fácil para começar é expandir seu foco além dos recursos possibilitados pela IA e considerar os possíveis riscos. Por exemplo, embora o uso de IA possa economizar tempo para os funcionários, também abre a possibilidade de grandes quantidades de dados de Informação de Identificação Pessoal (IIP) ou segredos comerciais serem compartilhados com LLMs não licenciados e não aprovados.

Qualquer empresa digital hoje é familiarizada com o Ciclo de Vida de Desenvolvimento de Software (SDLC), que fornece um quadro para construir produtos de qualidade. As melhores práticas de governança de IA devem ser incorporadas nesse fluxo de trabalho diário para garantir que a tomada de decisões responsáveis se torne parte da rotina, e não um afterthought.

Um órgão governante, como um comitê de ética ou conselho de governança, deve ser estabelecido para definir os padrões sobre como as aplicações de IA realmente se parecem dentro da organização e, da mesma forma, definir as métricas de como monitorar e manter esse padrão. Funcionalmente, isso parece ser uma governança de ferramentas de IA e modelos, aprovações de soluções, gerenciamento de riscos, alinhamento regulatório e de padrões, e comunicação transparente. Embora tecnicamente possa ser um “novo” processo, não é muito diferente das melhores práticas de dados e manutenção de cibersegurança e pode ser automatizado para garantir a detecção precoce de qualquer problema.

É claro que nem todos os riscos exigem o mesmo nível de atenção, então também é importante desenvolver um processo de gerenciamento de riscos em camadas para que sua equipe possa se concentrar na maioria de seus esforços no que foi definido como alta prioridade.

Finalmente, e mais crucialmente, comunicação clara e transparente sobre práticas de governança, tanto interna quanto externamente, é fundamental. Isso inclui manter documentos vivos para padrões de governança e fornecer treinamento contínuo para manter as equipes atualizadas.

Pare de Tratar a Governança como uma Ameaça à Inovação

É muito possível que a verdadeira ameaça à IA responsável seja a crença de que a governança e a inovação estão em desacordo umas com as outras. Nossos dados de pesquisa refletiram um impressionante 87% de CIOs e CTOs sentindo que muita regulamentação limitaria a inovação.

Mas a governança deve ser tratada como um parceiro estratégico, e não como algum tipo de freio de inovação.

Uma razão pela qual a governança é vista como uma força de fricção que desacelera o momentum é que ela é frequentemente deixada para o final do desenvolvimento do produto, mas as salvaguardas devem fazer parte do processo. Como mencionado acima, a governança pode ser incorporada aos ciclos de sprint para que uma equipe de produto possa se mover rapidamente, enquanto verificações automatizadas para justiça, viés e conformidade são executadas em paralelo. A longo prazo, isso paga dividendos, pois os clientes, funcionários e reguladores se sentem mais confiantes quando veem a responsabilidade construída desde o início.

E isso foi comprovado render dividendos financeiros. Pesquisas mostraram que as organizações com quadros de governança de dados e IA bem implementados experimentam uma melhoria de 21-49% no desempenho financeiro. Uma falha em estabelecer esses quadros, no entanto, também vem com suas próprias consequências. De acordo com esse mesmo estudo, até 2027, a maioria das organizações (60%) “não realizará o valor antecipado de seus casos de uso de IA devido a quadros de governança ética incoerentes”.

Uma ressalva ao argumento de que a governança não precisa vir às expensas da inovação é que as equipes jurídicas que se envolvem nessas conversas tendem a desacelerar as coisas. Em minha experiência, no entanto, estabelecer uma equipe de Governança, Risco e Conformidade (GRC) ajuda a manter as coisas funcionando suavemente e rapidamente, servindo como uma ponte entre as equipes jurídica e de produto.

Quando gerenciada bem, a equipe GRC constrói relacionamentos positivos com a equipe jurídica, servindo como seus olhos no chão e fornecendo os relatórios de que precisam, enquanto também colabora com a equipe de desenvolvimento para mitigar futuros riscos de processos e multas. Em última análise, isso reforça ainda mais que investir na governança desde cedo é a melhor maneira de garantir que ela não interfira com a inovação.

Criar Sistemas de Supervisão e Governança que Possam Escalar

Apesar de muitos dos CIOs e CTOs pesquisados sentirem que as regulamentações poderiam limitar a inovação, uma porcentagem semelhante (84%) esperava que sua empresa aumentasse a supervisão de IA nos próximos 12 meses. Considerando a probabilidade de que as integrações de IA continuem a expandir e escalar com o tempo, é igualmente importante que os sistemas de governança possam escalar junto com elas.

Algo que vejo frequentemente nas fases iniciais de implantações de IA dentro das empresas é que diferentes unidades dentro do negócio estão trabalhando em silos, de modo que estão executando diferentes implantações simultaneamente e com diferentes visões do que “IA responsável” significa. Para evitar essas inconsistências, as empresas seriam sábias em estabelecer um Centro de Excelência de IA dedicado que combine expertise técnica, de conformidade e de negócios.

O Centro de Excelência de IA estabeleceria padrões empresa-wide e processos de aprovação em camadas, onde há um caminho para casos de uso de baixo risco. Isso, por sua vez, mantém a velocidade, enquanto também garante que implantações de alto risco passem por verificações de segurança mais formais. Da mesma forma, o Centro de Excelência também deve estabelecer KPIs de segurança de IA para os principais executivos, para que a responsabilidade não se perca nas funções diárias do negócio.

Mas para tornar isso uma realidade, os executivos precisam de melhor visibilidade nos indicadores de governança. Painéis que servem dados em tempo real sobre esses indicadores seriam muito mais eficazes do que os relatórios de conformidade estáticos atuais, que são imediatamente obsoletos e frequentemente não lidos. Idealmente, as empresas também devem construir registros de risco de IA, da mesma forma que já estão rastreando riscos de cibersegurança, além de manter registros de auditoria que refletem quem construiu uma implementação de ML/IA, como foi testada e como está se saindo ao longo do tempo.

A coisa mais importante a ser lembrada aqui é que a IA responsável exige que a governança seja um processo contínuo. Não é apenas sobre aprovações no lançamento, mas monitoramento contínuo ao longo do ciclo de vida do modelo. Como tal, o treinamento é fundamental. Desenvolvedores, tecnologistas e líderes de negócios devem ser treinados em práticas de IA responsáveis para que possam identificar problemas cedo e manter altos padrões de governança à medida que os sistemas evoluem. Dessa forma, as implantações de IA estão fadadas a ser mais confiáveis, eficazes e lucrativas – sem ter que quebrar nada no processo.