Entre em contato

Líderes de pensamento

O risco da IA ​​vale a recompensa?

mm

Publicado

 on

Quando reflito sobre o conteúdo ficcional que encontrei envolvendo IA, estimaria que fosse mais de 90% distópico. Ironicamente, porque grandes modelos de linguagem são treinados em conteúdos da internet, eles não são apenas tendenciosos em relação a aspectos problemáticos da sociedade, mas até a si mesmos. O conceito de IA com auto-aversão é engraçado e traz à mente Marvin de Guia do Mochileiro das Galáxias. No entanto, é uma das muitas realidades que devemos considerar à medida que a IA está integrada na sociedade.

Em seu livro, Vida 3.0: Ser Humano na Era da IA, o professor do MIT, Max Tegmark, explica sua perspectiva sobre como manter a IA benéfica para a sociedade. Ele escreve: “Se a aprendizagem automática puder ajudar a revelar relações entre genes, doenças e respostas ao tratamento, poderá revolucionar a medicina personalizada, tornar os animais de criação mais saudáveis ​​e permitir culturas mais resilientes. Além disso, os robôs têm potencial para se tornarem cirurgiões mais precisos e confiáveis ​​do que os humanos, mesmo sem usar IA avançada.”

Não há dúvida de que a IA terá impacto nos indivíduos, na sociedade e nos sistemas globais, mas há incerteza associada a este impacto. A IA será encarregada de trabalhos delicados, como diagnóstico de saúde, direção autônoma e tomada de decisões financeiras. Ao assumir o risco da confiança, antecipamos retornos na forma de automação, maior produtividade, fluxos de trabalho mais rápidos e interfaces de usuário que nem sequer podemos prever hoje.

Um exemplo disso pode ser visto no relatório recentemente publicado pelo Thomson Reuters Institute Relatório de IA generativa em serviços profissionais de 2024, com base em uma pesquisa global com 1,128 entrevistados qualificados como familiarizados com a tecnologia de IA generativa. A pesquisa demonstra um tema comum de otimismo cauteloso quando se trata de adotar a IA generativa em ambientes profissionais – na verdade, 41% disseram estar entusiasmados porque esperam maior eficiência e produtividade.

Isto mostra uma procura saudável por automação que possa criar novas eficiências para os profissionais, um benefício que eles apoiam a concretizar.

Nenhum local de trabalho ou indústria quer ficar para trás, por isso, enquanto esta corrida para aproveitar a IA nos negócios continua a ganhar impulso, pode-se esperar que os funcionários e profissionais continuarão expostos a essas novas tecnologias de diversas maneiras para fortalecer seu futuro profissional.

Por outro lado, também estamos hiperconscientes do risco potencial que assumimos ao confiar na IA. Tegmark também escreveu isso em Vida 3.0, “Em outras palavras, o risco real da AGI (inteligência artificial geral) não é a malícia, mas a competência. Uma IA superinteligente será extremamente boa em atingir seus objetivos, e se esses objetivos não estiverem alinhados com os nossos, estaremos em apuros.”

Como qualquer nova tecnologia, a IA apresenta uma nova forma de fazer as coisas, e a mudança é muitas vezes um desafio quando não se sabe que resultado esperar. Parte desse risco é altamente dramatizado na ficção que geralmente descreve a IA como misantrópica – no Vale do Silício, você às vezes ouvirá referências jocosas à “Skynet” do Terminator franquia de filmes em conversas casuais sobre medos sobre IA. No entanto, a realidade sobre o risco potencial da IA ​​é muito menos excitante do que a que Hollywood apresenta, na medida em que o desempenho inicial da IA ​​pode simplesmente ser impreciso e com erros. Afinal, IA é software e compartilha as mesmas armadilhas do software tradicional.

Como pesquisador, deparo-me constantemente com a necessidade de mitigar preconceitos em algoritmos de IA, seja por meio de curadoria cuidadosa de dados, transparência algorítmica ou protocolos de teste robustos. O facto de nós, como seres humanos, estarmos hiperconscientes dos perigos da IA ​​(como evidenciado pelo conteúdo que criamos) traz-me conforto ao saber que está a ser dada uma atenção significativa à IA ética e responsável. Esta atenção vem de todos os tipos de partes interessadas: utilizadores, decisores políticos e empresas exigem cada vez mais transparência e responsabilização dos sistemas de IA.

É uma opinião comum que a tecnologia no sector privado avança rapidamente e o governo avança lentamente. É também uma realidade que, assim que se tornar possível, o capitalismo resultará na deslocação de milhões de trabalhadores pela IA, forçando-os a aprender novas competências para permanecerem no mercado de trabalho.

De acordo com um relatório de pesquisa de 2023 do McKinsey Global Institute sobre IA generativa e o futuro do trabalho na América, “Até 2030, as atividades que representam até 30% das horas atualmente trabalhadas na economia dos EUA poderão ser automatizadas – uma tendência acelerada pela IA generativa. No entanto, vemos a IA generativa melhorando a forma como os profissionais STEM, criativos, empresariais e jurídicos trabalham, em vez de eliminar completamente um número significativo de empregos. Os maiores efeitos da automação provavelmente atingirão outras categorias profissionais. O suporte de escritório, o atendimento ao cliente e o emprego no setor de alimentação podem continuar a diminuir.”

É difícil para mim imaginar um mundo onde o governo não desempenhe um papel na ajuda a estes trabalhadores que serão deslocados. Portanto, é importante que o sector público comece já a preparar soluções. Exemplos de soluções incluem a melhoria das competências dos trabalhadores em risco e a disponibilização de um rendimento básico universal. Tenho também esperança de que o sector privado desempenhe aqui um papel, criando novos empregos que talvez não possamos prever hoje.

A renda básica universal sempre foi um conceito interessante para mim e traz à mente a frase “não viva para trabalhar, trabalhe para viver”. Muitas pessoas trabalham para viver. Chame-me de polyannish, mas se este trabalho for automatizável, acredito que é mais do que um sonho que a humanidade possa entrar em uma era onde o trabalho é opcional. Este é um conceito totalmente estranho para nós hoje, mas isso não significa que seja impossível. Na verdade, não deveríamos esperar nada menos que extraordinário de uma tecnologia tão extraordinária como a IA.

Ex-cientista quantitativa e de dados, Sarah Nagy fundou uma startup de automação analítica, Procurar IA, em setembro de 2021. Sarah liderou recentemente a equipe de dados do consumidor na Ashler Capital da Citadel e, antes da Citadel, liderou os braços quantitativos em duas startups encerradas com sucesso e desenvolveu estratégias de negociação algorítmica no ITG. Sarah tem mestrado em Finanças pela Princeton e bacharelado duplo em Astrofísica e Economia Empresarial pela UCLA.