Líderes de pensamento

IA e a Luta Contra a Tecnofobia

Prof. Ioannis Pitas
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveA pesquisa em IA não pode parar, pois é a única esperança da humanidade para gerenciar…
Ver mais
  • A pesquisa em IA não pode parar, pois é a única esperança da humanidade para gerenciar a crescente complexidade global.
  • A maior ameaça da IA é sua capacidade de enganar cidadãos com baixa escolaridade e minar a democracia.
  • Os sistemas de IA devem ser registrados pelo direito internacional e devem notificar os usuários quando interagem com IA.

Quando se trata de IA generativa e grandes modelos de linguagem, como o ChatGPT, o entusiasmo com a IA é misturado com tecnofobia. Isso é natural para o público em geral: eles gostam de coisas novas e empolgantes, mas têm medo do desconhecido. O novo é que vários cientistas proeminentes se tornaram céticos em relação à tecnologia, se não tecnofóbicos. O caso dos cientistas e industrialistas pedindo uma proibição de seis meses para a pesquisa de IA, ou o ceticismo do principal cientista de IA, Prof. A. Hinton, são exemplos disso. O único equivalente histórico relacionado que posso lembrar é a crítica às bombas atômicas e nucleares por parte de uma parte da comunidade científica durante a Guerra Fria. Felizmente, a humanidade conseguiu lidar com essas preocupações de uma maneira razoavelmente satisfatória.

Claro, todos têm o direito de questionar o estado atual dos assuntos de IA:

  • Ninguém sabe por que os grandes modelos de linguagem funcionam tão bem e se eles têm um limite.
  • Há muitos perigos associados à criação de «bombas de IA» por pessoas mal-intencionadas, particularmente se os estados permanecem como espectadores passivos, em termos de regulamentações.

Essas são preocupações legítimas que alimentam o medo do desconhecido, mesmo para cientistas proeminentes. Afinal, eles são humanos também.

No entanto, a pesquisa de IA pode parar, mesmo que temporariamente? Na minha opinião, não, pois a IA é a resposta da humanidade a uma sociedade global e um mundo físico de complexidade cada vez maior. Como os processos de aumento da complexidade física e social são profundos e aparentemente implacáveis, a IA e a formação dos cidadãos são nossa única esperança para uma transição suave da atual Sociedade da Informação para uma Sociedade do Conhecimento. Caso contrário, podemos enfrentar uma implosão social catastrófica.

A solução é aprofundar nosso entendimento dos avanços da IA, acelerar seu desenvolvimento, regular seu uso para maximizar seu impacto positivo, enquanto minimiza os efeitos negativos já evidentes e outros escondidos. A pesquisa de IA pode e deve se tornar diferente: mais aberta, democrática, científica e ética. Aqui está uma lista proposta de pontos para isso:

  • A primeira palavra sobre questões importantes de pesquisa de IA que têm um impacto social de longo alcance deve ser delegada a Parlamentos e Governos eleitos, e não a corporações ou cientistas individuais.
  • Todos os esforços devem ser feitos para facilitar a exploração dos aspectos positivos da IA no progresso social e financeiro e minimizar seus aspectos negativos.
  • O impacto positivo dos sistemas de IA pode superar muito seus aspectos negativos, se medidas regulatórias adequadas forem tomadas. A tecnofobia não é justificada, nem é uma solução.
  • Na minha opinião, a maior ameaça atual vem do fato de que tais sistemas de IA podem enganar remotamente muitos cidadãos comuns que têm pouca (ou média) educação e/ou pouca capacidade de investigação. Isso pode ser extremamente perigoso para a democracia e qualquer forma de progresso socioeconômico.
  • Em um futuro próximo, devemos contrariar a grande ameaça que vem do uso de LLM e/ou CAN em atividades ilegais (o uso para fraudes em exames universitários é um uso relativamente benigno no espaço das possibilidades criminais relacionadas).
  • Seu impacto no trabalho e nos mercados será muito positivo, a médio e longo prazo.
  • À vista do acima, os sistemas de IA devem: a) ser obrigados pela lei internacional a serem registrados em um “registro de sistemas de IA”, e b) notificar seus usuários de que conversam com ou usam os resultados de um sistema de IA.
  • Como os sistemas de IA têm um impacto social enorme, e para maximizar o benefício e o progresso socioeconômico, as tecnologias de sistemas de IA avançadas devem se tornar abertas.
  • Os dados relacionados à IA devem ser (pelo menos parcialmente) democratizados, novamente para maximizar o benefício e o progresso socioeconômico.
  • Esquemas de compensação financeira adequados devem ser previstos para os campeões da tecnologia de IA, para compensar qualquer perda de lucro devido à abertura mencionada anteriormente e garantir fortes investimentos futuros em P&D de IA (por exemplo, por meio de patentes de tecnologia, esquemas de licenciamento obrigatório).
  • O equilíbrio da pesquisa de IA entre a Academia e a Indústria deve ser reavaliado para maximizar a produção de pesquisa, mantendo a competitividade e concedendo recompensas pelos riscos de P&D assumidos.
  • As práticas educacionais devem ser revisitadas em todos os níveis de educação para maximizar o benefício das tecnologias de IA, criando uma nova geração de cidadãos e cientistas (de IA) criativos e adaptáveis.
  • Mecanismos de regulamentação/supervisão/financiamento de IA adequados devem ser criados e reforçados para garantir o acima.

Vários desses pontos são tratados em detalhe no meu livro de 4 volumes sobre “Ciência e Sociedade da IA”, particularmente nos volumes A (reescrito em maio de 2023 para cobrir LLMs e Inteligência Artificial Geral) e C.

Referências do Livro:

Ciência e Sociedade da IA Parte A: Introdução à Ciência da IA e Tecnologia da Informação

Ciência e Sociedade da IA Parte C: Ciência da IA e Sociedade

Prof. Ioannis Pitas (IEEE fellow, IEEE Distinguished Lecturer, EURASIP fellow) é Professor no Departamento de Informática da AUTH e Diretor do laboratório de Inteligência Artificial e Análise da Informação (AIIA). Ele atuou como Professor Visitante em várias Universidades. Ele publicou mais de 920 artigos, contribuiu para 45 livros em suas áreas de interesse e editou ou escreveu, sozinho ou em coautoria, outros 11 livros sobre Visão Computacional e Aprendizado de Máquina. Ele é presidente da International AI Doctoral Academy (AIDA).