Iluminando a luz sobre a Inteligência Artificial Sombra

Ao longo das indústrias, os trabalhadores estão cada vez mais utilizando ferramentas de inteligência artificial (IA) para transformar as operações diárias. Seja um profissional de marketing utilizando o ChatGPT para criar campanhas ou um engenheiro de software escrevendo códigos com ferramentas geradoras, a IA está se integrando silenciosamente a quase todos os aspectos dos negócios. De fato, o Projeto NANDA do MIT descobriu que em mais de 90% das organizações, os funcionários estão utilizando contas de chatbot pessoais para apoiar seu trabalho diário, frequentemente sem supervisão da TI, no entanto, apenas 40% das empresas têm assinaturas oficiais para ferramentas de modelo de linguagem grande (LLM). Essa desconexão entre o uso de IA sancionado e secreto abriu um novo ponto cego de segurança: inteligência artificial sombra. 

Sem supervisão, dados sensíveis podem ser compartilhados com modelos externos, as saídas podem ser imprecisas ou tendenciosas, e as equipes de conformidade perdem a visibilidade sobre onde e como as informações estão sendo processadas. À medida que os funcionários continuam a experimentar com ferramentas fora dos canais aprovados, as organizações precisam reimaginar sua estratégia para gerenciar a IA, ou esses riscos continuarão a surgir. Para os CIOs, proibir as ferramentas de IA não é a solução, pois isso pode impactar a capacidade competitiva. Em vez disso, o foco deve ser em guardrails adaptáveis que equilibrem a inovação com a gestão de riscos responsável.

Para ficar um passo à frente dos riscos relacionados à IA, as organizações devem estabelecer políticas de IA que promovam a adoção responsável. Essas diretrizes devem encorajar os funcionários a usar a IA com razão, e qualquer política estabelecida deve ser alinhada com os valores e apetite de risco da empresa. Para alcançar um programa bem-sucedido, as organizações devem ir além dos modelos de governança ultrapassados e das ferramentas legadas que não detectam ou rastreiam o uso de IA em toda a empresa.

Embora estabelecer uma política de IA seja um passo importante, o verdadeiro cerne é garantir que elas sejam projetadas para ser práticas, aplicáveis e alinhadas com a visão inovadora e as necessidades de conformidade de cada empresa, sem impedir o progresso.

Aqui estão quatro passos que as organizações podem tomar:

1. Determinar o melhor quadro

As empresas não precisam começar do zero. Várias instituições líderes já desenvolveram quadros que oferecem pontos de referência valiosos. Recursos da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), do Instituto Nacional de Padrões (NIST) e ISO/IEC, podem fornecer orientação sobre como gerenciar a IA de forma segura e eficaz. Além disso, os órgãos governamentais estão começando a intervir. Novas regulamentações da União Europeia (UE) estão estabelecendo expectativas em torno da transparência, responsabilidade e governança. Juntos, esses recursos ajudarão a fornecer uma base sólida para as empresas construírem e aprimorarem seus próprios quadros para guiar a adoção responsável da IA.

2. Aumentar a visibilidade da IA

À medida que as organizações traçam seu caminho em direção à gestão eficaz de riscos de IA, é essencial que os líderes de segurança desenvolvam uma compreensão firme de como a IA está sendo utilizada em sua empresa. Eles devem investir em ferramentas que forneçam visibilidade em atividades em toda a empresa. Essas ferramentas podem monitorar e acessar o comportamento do usuário e não deixar pedra sobre pedra ao identificar onde a IA geradora está sendo utilizada. Essa visão é vital ao encontrar o uso de IA sombra e ajudar os líderes a avaliar riscos e abordá-los.

3. Formar um Conselho de IA

Uma vez que a visibilidade seja estabelecida, os líderes de segurança podem usá-la para informar novas políticas. Como o uso de IA afeta toda a empresa, eles não devem isolar o processo de tomada de decisões. Os CISOs devem considerar a formação de um conselho de IA que reúna partes interessadas-chave de segurança, jurídico, TI e C-suite. De fato, Gartner relata que 55% das organizações já estabeleceram um conselho de IA, enquanto 54% nomearam um chefe de IA ou líder de IA dedicado para supervisionar a estratégia e a implementação.

Esses grupos multifuncionais podem avaliar tanto os riscos quanto as oportunidades apresentadas por ferramentas de IA, autorizadas ou não, que começam a infiltrar-se nos ambientes de negócios. Eles podem, então, moldar novas políticas juntos que atendam às necessidades de seus negócios e equilibrem o risco.

Por exemplo, se o conselho identificar uma ferramenta de IA popular sendo utilizada sem aprovação que apresenta preocupações de segurança, pode recomendar proibir essa aplicação enquanto aprova uma alternativa mais segura. Essas políticas devem ser reforçadas por investimentos em controles de segurança e plataformas de IA aprovadas que atendam aos padrões de conformidade. À medida que novos avanços chegam ao mercado, o conselho também pode introduzir um processo formal para os funcionários proporem ferramentas para avaliação, ajudando a organização a permanecer adaptável e em conformidade com sua estratégia de IA.

4. Fortalecer a educação em IA

Educar e engajar os funcionários em torno da IA será outra parte essencial para garantir a adesão em toda a empresa e diminuir o uso de IA sombra. Mesmo com os modelos de governança certos no lugar, o sucesso depende de quão bem os funcionários entendem e abraçam esses modelos.

Em uma pesquisa da Pew Research, entre os trabalhadores que receberam treinamento no local de trabalho (51%), apenas um quarto (24%) disse que estava relacionado ao uso de IA. As organizações devem garantir que tenham programas de treinamento de IA em vigor, pois podem ajudar os funcionários a entender as oportunidades e funcionalidades disponíveis para eles. O aumento das habilidades também pode ajudá-los a crescer em suas carreiras e se sentir mais satisfeitos em suas posições.

Os programas de treinamento de IA devem ter um foco além do uso básico e da conformidade para ajudar as equipes a entender o contexto mais amplo da IA e como ela opera no ecossistema dos negócios. Tópicos a serem abordados incluem por que o uso responsável da IA é importante, quais políticas existem para proteger tanto a empresa quanto seus clientes e como identificar potenciais riscos de tratamento de dados ou privacidade. Quando os funcionários estão equipados com os conhecimentos certos, eles são capacitados a se tornarem parceiros ativos na inovação segura.

Definindo o futuro da IA responsável 

A IA sombra não desaparecerá tão cedo. À medida que as tecnologias geradoras se tornam mais integradas aos fluxos de trabalho diários, os desafios para as organizações apenas intensificarão. Os líderes agora enfrentam a escolha de tratar a IA sombra como uma ameaça incontrolável ou reconhecê-la como uma oportunidade para maximizar a eficiência e a produtividade, desde que gerenciada corretamente.

Desenvolver uma política de IA ou um conselho não é um ato único. Assim como a IA está evoluindo rapidamente, a estratégia da organização também deve evoluir. A IA pode ajudar a guiar decisões mais inteligentes, acelerar a inovação e melhorar a produtividade em todas as funções. Mas para manter esses ganhos, os funcionários devem entender quais ferramentas estão disponíveis para eles e como usá-las de forma responsável. Aqueles que tiverem sucesso permanecerão ágeis, refinando proativamente suas políticas para ficar à frente das mudanças, e não perseguir as mudanças.