Os “deepfakes” são um dos recursos tecnológicos mais ameaçadores do atual momento. A funcionalidade permite inserir filtros faciais em vídeos já existentes e dessa forma, mudar de acordo com o gosto o rosto de alguém que esteja no conteúdo. O resultado é uma mudança realista que pode enganar milhares de pessoas e passar uma mensagem completamente deturpada.

Para evitar esse tipo de problema, o Google proibiu os projetos envolvendo o treinamento de mecanismos de aprendizado de máquina para a criação de deeepfakes na plataforma colab. Segundo as informações do BleepingComputer, as mudanças teriam entrado em vigor a partir deste mês e tudo indica que a organização não pretende abrir mão de voltar atrás.

Algumas funções presentes no Google Colaboratory fazem com que a tecnologia seja muito procurada para treinar modelos de deepfake, mas alguns desenvolvedores descobriram que na hora de treinar o deepfake, aparece uma mensagem de erro informando sobre a execução de “código não permitido”.

A plataforma alerta ainda que a insistência pode trazer restrições futuras ao pesquisador, além de recomendar a leitura das diretrizes do serviço. Além de deepfakes, a ferramenta colaborativa da Google proíbe a utilização dos recursos gratuitos para o desenvolvimento de projetos de mineração de criptomoedas, download de torrents e quebra de senhas.