Google baniu treinamento de deepfakes no Colab

Em algum momento nas últimas duas semanas, o Google alterou discretamente os termos de serviço para seus usuários do Colab, acrescentando uma estipulação de que os serviços do Colab não podem mais ser usados ​​para treinar deepfakes.

A atualização de maio traz uma proibição de deepfake para o Colab. Fonte: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

A primeira versão arquivada na web do Internet Archive que apresenta a proibição do deepfake foi capturados na última terça-feira, dia 24 de maio. A última versão capturada do Colab FAQ que não não mencione que a proibição foi sobre o 14 Maio.

Das duas distribuições populares de criação de deepfake, DeepFace Lab (DFL) e Troca de rosto, sendo que ambos são bifurcações do código controverso e anônimo postado no Reddit em 2017, só que mais notório DFL parece ter sido alvo direto da proibição. De acordo com o desenvolvedor deepfake 'chervonij' no DFL Discord, executando o software no Google Colab agora produz um aviso:

'Você pode estar executando um código que não é permitido e isso pode restringir sua capacidade de usar o Colab no futuro. Observe as ações proibidas especificadas em nosso FAQ.'

No entanto, curiosamente, o usuário está atualmente autorizado a continuar com a execução do código.

O novo aviso que recebeu os deepfakers do DFL tentando executar o código no Google Colab. Fonte: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

De acordo com um usuário do Discord para distribuição rival FaceSwap, o código desse projeto aparentemente ainda não aciona o aviso, sugerindo que o código para DeepFaceLab (também a arquitetura de alimentação para implementação de streaming deepfake em tempo real DeepFace Live), de longe o método deepfakes mais dominante, foi especificamente visado pelo Colab.

O desenvolvedor co-líder do FaceSwap, Matt Tora, comentou*:

“Acho muito improvável que o Google esteja fazendo isso por quaisquer razões éticas específicas, mais que a razão de ser do Colab é que estudantes/cientistas de dados/pesquisadores sejam capazes de executar código de GPU computacionalmente caro de maneira fácil e acessível, livre de cobrar. No entanto, suspeito que uma quantidade não insignificante de usuários esteja explorando esse recurso para criar modelos deepfake, em escala, o que é computacionalmente caro e leva uma quantidade não insignificante de tempo de treinamento para produzir resultados.

'Você poderia dizer que o Colab se inclina mais para o lado educacional e de pesquisa da IA. A execução de scripts que exigem pouca entrada do usuário, nem compreensão, tende a ir contra isso. No Faceswap, tentamos nos concentrar em educar o usuário em IA e nos mecanismos envolvidos, diminuindo a barreira de entrada. Incentivamos muito o uso ético do software e sentimos que tornar esses tipos de ferramentas disponíveis para um público mais amplo ajuda a educar as pessoas em termos do que é alcançável no mundo de hoje, em vez de mantê-lo escondido para alguns poucos.

'Infelizmente, não podemos controlar como nossas ferramentas são usadas, nem onde são executadas. Entristece-me que um caminho tenha sido fechado para as pessoas experimentarem nosso código, no entanto, em termos de proteção desse recurso específico para garantir sua disponibilidade para o público-alvo real, acho isso compreensível.'

Não há evidências de que a nova restrição se limite apenas ao nível gratuito do Google Colab – no final da lista de atividades proibidas às quais os deepfakes foram adicionados agora, está a nota 'Existem restrições adicionais para usuários pagos', indicando que estes são regulamentos de linha de base. Em relação à proibição de deepfakes, isso tem confundido alguns, já que 'mineração de criptomoeda' e 'envolvendo-se em compartilhamento de arquivos peer-to-peer' estão incluídos na seção 'Restrições' gratuita e profissional.

Por essa lógica, tudo banido na seção gratuita 'Restrições' é permitido na versão Pro, desde que a versão Pro não o proíba explicitamente, incluindo 'executando ataques de negação de serviço'e 'quebra de senha'. As restrições adicionais para o nível Pro estão principalmente relacionadas com a não 'sublocação' do acesso pro Colab, apesar das proibições duplicadas confusas e seletivas.

O Google Colab é uma implementação dedicada de Caderno Jupyter ambientes, que permitem o treinamento remoto de projetos de aprendizado de máquina em GPUs muito mais poderosas do que muitos usuários podem pagar.

Como o treinamento deepfake é uma busca faminta por VRAM e desde o advento da escassez de GPU, muitos deepfakers nos últimos anos têm evitado o treinamento em casa em favor do treinamento remoto no Colab, onde é possível, dependendo da chance e do nível, treinar um deepfake modelo em cartas poderosas como o Tesla T4 (16 GB VRAM, atualmente em torno de $ 2k USD), o V100 (32 GB VRAM, cerca de $ 4k USD) e o poderoso A100 (80 GB VRAM, MSRP de $ 32,097.00), entre outros.

A proibição do treinamento do Colab provavelmente reduzirá o pool de deepfakers capazes de treinar modelos de alta resolução, onde as imagens de entrada e saída são maiores, mais adequadas a resultados de alta resolução e capazes de extrair e reproduzir maiores detalhes faciais.

Alguns dos entusiastas e entusiastas do deepfake mais comprometidos, de acordo com o Discord e as postagens do fórum, investiram pesadamente em hardware local nos últimos dois anos, apesar dos altos preços das GPUs.

No entanto, dados os altos custos envolvidos, subcomunidades surgiram para lidar com os desafios de treinar deepfakes em Colabs, sendo a alocação aleatória de GPU a reclamação mais comum, já que o Colab limitava o uso de GPUs de ponta a usuários gratuitos.

* Em mensagens privadas no Discord

Publicado pela primeira vez em 28 de maio de 2022.
Revisado 7:28 AM EST, correção de erro de digitação da citação.
Revisado 12h40 EST - esclarecimento adicional sobre proibições de deepfake gratuitas e profissionais, da melhor maneira possível nas listas de proibições 'livres' e 'profissionais'.