Como os Humanos Podem Navegar na Corrida Armamentista de IA

As ferramentas de IA são vistas por muitos como uma bênção para a pesquisa, desde projetos de trabalho até trabalhos escolares e ciência. Por exemplo, em vez de gastar horas examinando sites na web, você pode simplesmente fazer uma pergunta ao ChatGPT e ele retornará uma resposta aparentemente coerente. A pergunta, no entanto, é – você pode confiar nos resultados? A experiência mostra que a resposta é frequentemente “não”. A IA só funciona bem quando os humanos estão mais envolvidos, dirigindo e supervisionando, e depois verificando os resultados que produz contra o mundo real. Mas com o rápido crescimento do setor de IA geradora e novas ferramentas sendo constantemente lançadas, pode ser desafiador para os consumidores entenderem e abraçarem o papel que devem desempenhar ao trabalhar com ferramentas de IA.

O setor de IA é enorme e está apenas crescendo, com especialistas afirmando que ele valerá mais de um trilhão de dólares até 2030. Não deve ser surpresa, então, que quase todas as grandes empresas de tecnologia – desde a Apple (AAPL ) até a Amazon (AMZN ), IBM, Microsoft e muitas outras – estejam lançando sua própria versão de tecnologia de IA, especialmente produtos de IA geradora avançada.

Dada a importância disso, também não deve ser surpresa que as empresas estejam trabalhando o mais rápido possível para lançar novos recursos que lhes darão uma vantagem sobre a concorrência. É, de fato, uma corrida armamentista, com empresas buscando bloquear o maior número de usuários em seu ecossistema. As empresas esperam que recursos que permitam aos usuários utilizar sistemas de IA da maneira mais fácil possível – como ser capaz de obter todas as informações necessárias para um projeto de pesquisa apenas fazendo uma pergunta a um chatbot de IA geradora – as ajudarão a ganhar mais clientes, que permanecerão com o produto ou a marca à medida que novos recursos são adicionados regularmente.

Mas às vezes, na corrida para ser a primeira, as empresas lançam recursos que podem não ter sido devidamente verificados ou cujos limites não são bem compreendidos ou definidos. Enquanto as empresas competiram no passado por participação de mercado em muitas tecnologias e aplicações, parece que a atual corrida armamentista está levando mais empresas a lançar mais produtos “mal cozidos” do que nunca – com os resultados “mal cozidos” resultantes. Confiar nesses resultados para fins de pesquisa – seja para negócios, pessoais, médicos, acadêmicos ou outros – pode levar a resultados indesejados, incluindo danos à reputação, perdas de negócios ou até risco de vida.

Falhas de IA causaram perdas significativas para várias empresas. Uma empresa chamada iTutor foi multada em $365.000 em 2023, após seu algoritmo de IA rejeitar dezenas de candidatos a emprego devido à sua idade. O mercado de imóveis Zillow perdeu centenas de milhões de dólares em 2021 devido a previsões de preços incorretas por seu sistema de IA. Os usuários que confiaram em IA para conselhos médicos também estiveram em risco. O Chat GPT, por exemplo, forneceu informações imprecisas aos usuários sobre a interação entre a medicação que reduz a pressão sanguínea verapamil e o antiviral Paxlovid da Pfizer (PFE ) para Covid-19 – e se um paciente poderia tomar esses medicamentos ao mesmo tempo. Aqueles que confiaram nos conselhos incorretos do sistema de que não havia interação entre os dois poderiam se colocar em risco.

Embora esses incidentes tenham feito manchetes, muitos outros erros de IA não o fizeram – mas podem ser igualmente letais para carreiras e reputações. Por exemplo, um gerente de marketing atarefado procurando um atalho para preparar relatórios pode ser tentado a usar uma ferramenta de IA para gerá-lo – e se a ferramenta apresentar informações que não são corretas, ele pode se encontrar procurando outro emprego. Um estudante que usa o ChatGPT para escrever um relatório – e cujo professor é suficientemente astuto para perceber a fonte do relatório – pode estar enfrentando um F, possivelmente para o semestre. E um advogado cujo assistente usa ferramentas de IA para trabalhos jurídicos pode se encontrar multado ou até desqualificado se o caso que apresenta for tendencioso devido a má informação.

Quase todas essas situações podem ser evitadas – se os humanos estiverem dirigindo a IA e tiverem mais transparência no loop de pesquisa. A IA tem que ser vista como uma parceria entre humano e máquina. É uma colaboração real – e esse é o seu valor excepcional.

Enquanto recursos de busca, formatação e análise mais poderosos são bem-vindos, os criadores de produtos de IA também precisam incluir mecanismos que permitam essa cooperação. Os sistemas precisam incluir ferramentas de verificação de fatos que permitam aos usuários verificar os resultados de relatórios de ferramentas como o ChatGPT e permitam que os usuários vejam as fontes originais de pontos de dados ou informações específicas. Isso produzirá uma pesquisa superior e restaurará a confiança em nós mesmos; podemos apresentar um relatório ou recomendar uma política com confiança com base em fatos que confiamos e entendemos.

Os usuários também precisam reconhecer e avaliar o que está em jogo ao confiar na IA para produzir pesquisas. Eles devem avaliar o nível de tediosidade com a importância do resultado. Por exemplo, os humanos podem se dar ao luxo de estar menos envolvidos ao usar IA para uma comparação de restaurantes locais. Mas ao fazer pesquisas que informarão decisões comerciais de alto valor ou o design de aeronaves ou equipamentos médicos, por exemplo, os usuários precisam estar mais envolvidos em cada etapa do processo de pesquisa impulsionado por IA. Quanto mais importante a decisão, mais importante é que os humanos façam parte disso. A pesquisa para decisões relativamente pequenas pode ser confiada totalmente à IA.

A IA está melhorando o tempo todo – mesmo sem ajuda humana. É possível, se não provável, que ferramentas de IA que possam verificar a si mesmas surjam, verificando seus resultados contra o mundo real da mesma forma que um humano faria – seja tornando o mundo um lugar muito melhor, ou destruindo-o. Mas as ferramentas de IA podem não atingir esse nível tão cedo quanto muitos acreditam, se é que algum dia. Isso significa que o fator humano ainda será essencial em qualquer projeto de pesquisa. Quão boa a ferramenta de IA é em descobrir dados e organizar informações, ela não pode ser confiada para avaliar o contexto e usar essa informação da maneira que precisamos. Para o futuro previsível, é importante que os pesquisadores vejam as ferramentas de IA pelo que elas são; ferramentas para ajudar a fazer o trabalho, e não algo que substitui os humanos e os cérebros humanos no trabalho. A IA não pode ser confiada para avaliar o contexto e usar essa informação da maneira que precisamos. Para o futuro previsível, é importante que os pesquisadores vejam as ferramentas de IA pelo que elas são; ferramentas para ajudar a fazer o trabalho, e não algo que substitui os humanos e os cérebros humanos no trabalho. hey não podem ser confiados para avaliar o contexto e usar essa informação da maneira que precisamos. Para o futuro previsível, é importante que os pesquisadores vejam as ferramentas de IA pelo que elas são; ferramentas para ajudar a fazer o trabalho, e não algo que substitui os humanos e os cérebros humanos no trabalho.