Kimberly Nevala, Diretora de Estratégias de Negócios da SAS – Série de Entrevistas

SAS é uma empresa global de análise e IA que oferece soluções em gerenciamento de dados, análise avançada e inteligência artificial. Sua plataforma de bandeira, SAS Viya, enfatiza velocidade, escalabilidade e tomada de decisões confiáveis para organizações em todas as indústrias. A empresa apresenta casos de uso em detecção de fraude, otimização de marketing, IoT e gerenciamento de riscos, além de fornecer testes gratuitos, treinamento e programas acadêmicos para apoiar a adoção generalizada de análise.

Você construiu sua carreira orientando organizações por meio de transformações culturais, estratégicas e técnicas complexas – desde consultoria de gestão até liderança de estratégia de negócios na SAS. Como essa jornada moldou sua visão sobre o que realmente leva as empresas a adotar a IA de uma maneira significativa – e inclusiva?

Apesar da amplitude das capacidades emergentes de IA e de suas ramificações igualmente sísmicas, os blocos de construção básicos para impulsionar a transformação técnica não mudaram. Embora as ramificações para errar tenham.

Em primeiro lugar, é necessário haver uma articulação clara dos valores e prioridades da organização. Junto com uma compreensão clara de como esses fatores influenciam como os funcionários ou clientes interagem com a marca. Em seguida, é necessário haver uma compreensão ampla da tecnologia emergente, incluindo suas limitações e restrições inerentes. Finalmente, visibilidade sobre lacunas de habilidades e barreiras para adoção com base em um e dois acima. Notavelmente, isso não se limita à expertise técnica, mas também à habilidade empresarial.

Tudo isso deve ser apoiado por uma governança robusta, mas adaptável. Sustentada, é claro, por investimento direcionado e deliberado em pessoas e tecnologia.

Você falou sobre a alfabetização em IA elevando-se ao nível de habilidades de liderança essenciais, como pensamento estratégico e conhecimento financeiro. O que a fluência em IA parece na prática para os líderes de hoje?

O teste de fluência prática é direto. Os líderes têm o conhecimento necessário para questionar inteligentemente uma solução de IA proposta?

Isso não sugere que os líderes precisem mergulhar fundo no código. Em vez disso, os líderes em todos os níveis devem demonstrar competência contextual. Ou seja, eles são educados nos fatores que podem impactar ou influenciar seu julgamento de um sistema de IA. Esses fatores mudarão com base no papel do líder. Especificamente, o escopo da decisão que ele é encarregado de tomar.

Em resumo, o teste é este: eles sabem quais perguntas fazer? Por exemplo, um executivo pode identificar os fatores humanos e técnicos com o maior impacto no perfil de viabilidade e risco de uma solução de IA dada? Tanto em um contexto amplo quanto aplicado.

Melhor ainda: eles entendem as limitações da tecnologia? O PR e o marketing tendem a se concentrar no lado positivo, enquanto o treinamento baseado em experiência expõe limitações. Essas limitações podem ditar as barreiras processuais e técnicas necessárias para implantar uma solução de IA de forma proveitosa. Nesse sentido, a extensão com que os líderes entendem e identificam essas limitações é frequentemente a diferença entre adoção significativa e falha.

Por que a equidade de gênero na liderança de IA é uma questão tão crucial agora – e quais riscos enfrentamos se as mulheres permanecerem como adotantes passivas em vez de moldadoras ativas do desenvolvimento e governança de IA?

Eu tenho o privilégio de trabalhar, falar e aprender com mulheres que trabalham em todos os aspectos da IA todos os dias. Portanto, a ideia de mulheres como adotantes passivas evoca imagens que são infantis e enganosas. As mulheres estão ativamente envolvidas em liderar esforços de IA, embora em números menores do que a população educada indicaria.

A desigualdade de gênero na tecnologia é uma questão multifacetada que precede a IA. Não há uma solução única, pois há vários fatores em jogo. Alguns resultam em menos financiamento para e/ou reconhecimento de mulheres no campo. Fazendo com que seja ironicamente doloroso que as mulheres que recebem reconhecimento amplo estejam trabalhando em IA responsável ou ética. Inicialmente rotuladas como anti-IA, seu trabalho está sendo reavaliado à medida que as atitudes evoluem.

Independentemente disso, sem intervenção deliberada, corremos o risco de sistemas de IA que exacerbam as desigualdades existentes em escala. Vemos isso no uso de sistemas de triagem e contratação automatizados de RH que preferem candidatos do sexo masculino devido a vieses históricos capturados nos dados.

Uma falta de diversidade em todos os níveis significa que as decisões sobre quais sistemas de IA são construídos, como são implantados, quais perspectivas e necessidades eles abordam e quais não, são ditadas por um grupo cada vez mais insular. Isso é ruim para todos. Equipes de gerenciamento diversificadas impulsionam melhores resultados de negócios. Equipes de produtos diversificados entregam soluções de IA mais robustas, resilientes e que funcionam melhor.

No final, se os sistemas de IA não abordam as perspectivas e necessidades das mulheres (ou qualquer outra demografia subatendida) ou são mostrados como ativamente prejudiciais, qual é o incentivo para adoção? Exceto, é claro, que esses sistemas serão implantados com ou sem a nossa participação. Ao incluir vozes diversificadas e impor governança de IA, é possível cumprir a promessa da IA.

Dada as últimas inovações da SAS – como agentes de IA dentro do SAS Viya, estruturas de tomada de decisão inteligente, ferramentas de dados sintéticos como Data Maker e modelos de IA personalizados – como as empresas estão repensando suas linhas de liderança para elevar tanto a fluência em IA quanto a equidade?

As empresas estão percebendo que o escopo e o impacto dessas aplicações ultrapassam a capacidade de qualquer tomador de decisão ou realizador único. A implantação bem-sucedida de IA avançada depende da confiança e do engajamento da “aldeia”. Os problemas potenciais e armadilhas são muito amplos para que qualquer líder os aborde sozinho.

Em reconhecimento a essa realidade, as principais empresas de IA estão se inclinando para práticas de design e governança participativas. Nesse modelo, a fluência e a equidade não são aprimoradas por programas de literatura e treinamento formais, nem por iniciativas de RH apenas. Mas pelo compartilhamento de conhecimento e tomada de decisão coletiva que ocorre quando se trazem perspectivas diversificadas de toda a ecossistema da empresa. Essas colaborações não são limitadas estritamente a tomadores de decisão, mas incluem ativamente as pessoas cujo trabalho será afetado pelo sistema de IA em consideração. Embora principalmente o domínio de agências públicas e governamentais hoje, algumas organizações engajaram ativamente stakeholders externos, incluindo grupos de clientes e organizações de interesse público.

Quais passos práticos os líderes aspirantes – particularmente as mulheres – podem tomar hoje para construir credibilidade e agência em um mercado cada vez mais impulsionado por IA?

Em primeiro lugar, é necessário reconhecer que temos agência. Cada indivíduo tem a oportunidade de influenciar o desenvolvimento de IA de várias maneiras: por meio do consumo e uso deliberados de ferramentas de IA específicas; por meio da defesa e engajamento coletivo em fóruns comunitários e política local; ingressando em grupos de interesse de funcionários ou redes de campeões da comunidade (e, se esses não existirem, criando um); e levantando a mão para participar de programas de IA ou liderar iniciativas no trabalho.

Em segundo lugar, é necessário investir na própria literatura, seja qual for o nível que faça sentido para você. Existem numerosos recursos online que abrangem desde cursos sobre governança e ética de IA até aulas introdutórias online de nível universitário que cobrem o espectro completo de capacidades de IA. Muitas dessas opções são fornecidas gratuitamente ou por taxas nominais.

Finalmente, junte-se e contribua ativamente para os grupos de networking da indústria de IA ou de interesse especial. Eles fornecem a oportunidade de não apenas compartilhar conhecimento, mas também cultivar relacionamentos que podem fornecer mentorias, alianças e credibilidade à medida que você constrói sua expertise e rede.

Você sempre enfatizou a transformação cultural, a governança de dados e a adoção responsável da tecnologia. Como esses elementos fundamentais apoiam o desenvolvimento de líderes preparados para a IA?

A resposta tradicional é que esses fundamentos armam os líderes com as ferramentas para lidar com a complexidade, gerenciar o risco, reduzir o custo e aumentar a produtividade. Todos esses resultados são verdadeiros, no entanto, o benefício mais subestimado dessas práticas é a confiança.

Feito corretamente, esses elementos criam um ambiente no qual os funcionários podem experimentar e inovar com confiança dentro dos limites da ética, legal e dos negócios da empresa.

Isso é particularmente importante, pois as soluções disponíveis variam desde ferramentas de produtividade pessoal até fluxos de trabalho incorporados projetados. As decisões sobre o uso de IA não ocorrem apenas na sala de reunião ou no contexto de um projeto de IA formal. Desde o desenvolvimento até a exploração, implantação e além, uma miríade de fatores compounding influencia como o sistema se sai e é percebido.

Essa ligação direta entre inovação responsável e adaptável e governança não é mais hipotética. A IDC e a SAS realizaram recentemente uma pesquisa sobre a ligação entre práticas de IA responsáveis, confiança e realização de valor. A inovação responsável não é um bem teórico, mas cada vez mais um imperativo econômico.

Das conversas em seu podcast Pondering AI, quais insights sobre liderança responsável e inclusiva se destacam como mais críticos para as organizações que navegam pela transformação de IA?

A linguagem de IA é complicada. Falamos de sistemas de IA que pensam, alucinam e até mesmo se comportam mal. Conceituamos sistemas de IA como colegas de equipe ou colegas de trabalho. Como tal, é tentador transferir suposições e expectativas de humanos para a IA. Dessa forma, perdemos o foco na responsabilidade humana, participação e uso responsável. Também obscurecemos a rigidez necessária para entregar sistemas de IA robustos e resilientes, que, quando feitos bem, parecem simples.

Isso torna crítico centralizar nossa compreensão de IA como uma empreitada fundamentalmente humana. Apesar das narrativas antropomórficas prevalentes, os sistemas de IA sempre refletem os valores e intenções de seus criadores: os problemas que escolhemos resolver, as técnicas ou modelos que aplicamos, os dados que usamos no treinamento e como os usuários interagem com o sistema. Todo sistema de IA é o produto dessas decisões humanas.

A confiança e a confiabilidade nos sistemas de IA não vêm da IA. Os humanos decidem automatizar ou aumentar o trabalho de uma pessoa. Não é o sistema que determina qual nível de precisão ou explicabilidade é suficiente. Não é a IA que determina o modelo de interação do usuário mais apropriado. Quando um chatbot se comporta mal, não afeta a IA; degrada a marca e a linha de fundo da empresa que emprega a IA.

Portanto, a IA centrada no ser humano é fundamental.

Muitas organizações têm conjuntos de ferramentas de IA avançadas – mas ainda lutam com cultura, governança e inclusão. Com base em sua experiência, quais intervenções ou mentalidades ajudam as organizações a atravessar essa lacuna de forma eficaz?

A IA, como muitas tecnologias emergentes, está sujeita a cair no mesmo ciclo de hype que seus antecessores. Durante a era de dados grandes, tornar-se orientado a dados era a moda. Poucas organizações entregaram sua visão. Aquelas que o fizeram foram disciplinadas em resolver problemas identificáveis, como reduzir os tempos de cumprimento para X ou habilitar o autoatendimento para Y. Não é coincidência que muitas dessas mesmas empresas sejam agora líderes da indústria em IA.

Quando identificamos iniciativas de IA, começamos com objetivos de negócios claros e resultados mensuráveis, então identificamos quais técnicas de IA disponíveis são adequadas para o propósito. Resista à tentação de ser flash. Soluções inovadoras para problemas chatos acabam pagando dividendos. Aborde processos e tarefas repetitivos e entediantes que ocorrem em escala.

Você não acertará sempre. Mas focar sua atenção e investimento com o resultado de negócios em mente permite a maior probabilidade de sucesso.

À medida que os sistemas de IA se tornam mais autônomos e incorporados à tomada de decisão – por meio de ferramentas como agentes de IA e assistentes de copiloto – quais guardrails éticos ou estruturas de governança você acredita que são essenciais para manter a confiança, a transparência e a equidade na liderança?

Na SAS, definimos a governança de IA por meio da lente de supervisão, conformidade, operações e cultura. Independentemente do quadro que você adote, há dois fatores que eu gostaria de enfatizar.

O primeiro é que cada aplicação de IA, mesmo que construída sobre o mesmo modelo subjacente ou conjuntos de dados, deve ser avaliada independentemente e de forma contínua. O que funciona para marketing pode não funcionar para finanças. Uma taxa de erro aceitável para funcionários não será eficaz em interações com clientes. Além disso, devido à sua natureza probabilística, mudanças no comportamento do usuário, fluxo de dados subjacente e uma miríade de outros fatores podem rapidamente alterar o comportamento e os resultados do sistema de IA.

O segundo é que a ética e a governança de IA não existem no vácuo. A natureza dessas soluções exige colaboração com a governança corporativa, conformidade legal e regulatória, gerenciamento de riscos empresariais e segurança cibernética. Aproveitar e estender essas práticas, em vez de reinventá-las, pode fornecer um começo rápido.

Olhando para o futuro, como você vê as competências de liderança mudando em um mundo impulsionado por IA – e quais são as implicações para as organizações que não cultivam essa nova fluência?

Acredito que a previsão e a resiliência se tornarão cada vez mais importantes. O ritmo rápido de mudança incentiva os líderes a avaliar continuamente e adaptar estratégias e táticas de negócios à medida que a tecnologia evolui. Os líderes devem avaliar o valor, a viabilidade e o risco em diferentes horizontes de tempo e perspectivas. Dada a natureza sociotécnica da IA, essas perspectivas devem incluir cada vez mais não apenas acionistas, mas também clientes, funcionários e, às vezes, a sociedade como um todo. A previsão é necessária para navegar nesse cenário.

A resiliência também é um fator na IA. Como Jordan Loewen-Colón eloquentemente observa em relação à adoção e governança de IA: a IA é um processo, não um interruptor. A capacidade de aprender intencionalmente, adaptar e melhorar continuamente, mantendo o curso geral, diferenciará os líderes do resto.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar SAS.