Ética e Tecnologia: O AI Precisa de um Piloto no Comando?

Resumo: Os avanços na tecnologia de IA conversacional exigem um equilíbrio cuidadoso de interesses que fomentem a inovação, mitigando os impactos potencialmente prejudiciais.

O Fascínio da IA Conversacional

O lançamento do ChatGPT-3 capturou um interesse sem precedentes, com mais de 100 milhões de usuários ativos por mês.

Consumidores e organizações reconhecem como os avanços na IA conversacional podem potencialmente transformar quase todos os aspectos de nossas vidas pessoais e interações profissionais. A aplicação avançada do aprendizado profundo do ChatGPT-3 gera conversas humanas convincentes com resultados impressionantes. Em testes recentes, o ChatGPT-3 passou no Exame de Licença Médica dos EUA e em um exame de MBA de uma das mais prestigiadas escolas de negócios.

Os benefícios comerciais da IA conversacional são imensos, tanto que a Microsoft investiu US$ 10 bilhões na Open AI para acelerar as aplicações comerciais do ChatGPT-3. A Microsoft pretende “turbinar” seus produtos com as capacidades conversacionais do ChatGPT-3.

Exuberância Irracional

Mas vamos respirar fundo antes de deixar que essa tecnologia transformadora nos leve adiante. Sua utilidade potencial não obstante, o ChatGPT-3 ainda está em estágio nascente, com muitas imperfeições. Nossa exuberância pode provar ser prematura. Na ausência de análise significativa, a adoção irrestrita da IA conversacional sem guardiões regulatórios e supervisão humana pode nos levar a um mundo distópico, antevisto pelo romancista inglês Aldous Huxley. Muito dependente da tecnologia sem compreender seus impactos socioeconômicos pode ter consequências graves, embora não intencionais, como emprego, educação, inclusão e justiça.

Afinal, embora o ChatGPT-3 seja um passo à frente, suas capacidades “cognitivas” são baseadas em conjuntos de dados pré-existentes, com viés incorporados que podem ser amplificados, resultando em uma miríade de danos potenciais. O ChatGPT-3 tem um “lado sombrio” que deve ser causa de preocupação e fazer com que apertemos o botão de pausa antes de uma maior proliferação de tal tecnologia consequente.

Risco ou Oportunidade?

Há necessidade de equilíbrio dos riscos associados à aplicação da IA conversacional e suas oportunidades potenciais. Se implantada de maneira pensada, com regulamentação significativa da IA que considere uma abordagem baseada em risco com supervisão robusta, então os benefícios potenciais da IA conversacional podem ser realizados. Deve ser implantada como uma parceria centrada no ser humano com aplicações de IA conversacional que enriqueçam a experiência no local de trabalho. Como todas as inovações que vieram antes, a IA tem o potencial de criar a necessidade de novas habilidades e tornar certos empregos mais gratificantes.

Qual é o Papel do Legislator?

A democratização das tecnologias de IA implica que as autoridades públicas devem desempenhar um papel proativo na regulamentação de seu uso. Os medos associados a inovações disruptivas são reais. Apesar de sua habilidade, a inteligência artificial permanece dependente dos seres humanos, seja para usá-la ou regulá-la. Há de fato um piloto no comando; apenas não sabemos exatamente para qual curso ele está se dirigindo ainda. Há um aumento na necessidade de regulamentação abrangente da IA, mais notavelmente, o projeto de Lei de Inteligência Artificial da UE. Com o potencial de adoção ubíqua da IA conversacional, como o ChatGPT-3, a necessidade de regulamentação e governança mais rigorosas está crescendo com a UE para garantir que medidas sejam instituídas que proíbam aplicações específicas de IA conversacional que sejam consideradas violadoras de direitos humanos fundamentais.