Algumas breves reflexões sobre imagens num mundo onde tudo pode ser facilmente forjado

Foto totalmente 100% super verdadeira do presidente dos EUA, Donald Trump, se encontrando com líder alienígena em 32 de Março de 2027.

Diante dessa nova realidade onde fotos e vídeos podem ser facilmente falsificados, venho pensando em alguns desfechos para esses cenário: O primeiro deles, e talvez o mais provável, é o que as câmeras passariam a vir com uma espécie de “EXIF criptográfico”, onde seu iPhone, por exemplo, ao tirar uma foto criaria um código de autenticação afirmando que aquela foto é verdadeira e que o arquivo dela é real e que não fora modificado de nenhuma maneira, talvez até codificando dados de geolocalização também.

Existiria então uma espécie de padronização com diferentes câmeras, celulares, tablets, notebooks, etc… rodando esse firmware. A ideia seria que esse sistema se tornaria o “padrão” e as fotos que não tivessem esse certificado seriam consideradas falsas. De fato, essa é essencialmente a ideia e a “solução” que Adobe e outras big techs vem trabalhando, o chamado “Content Authenticity Initiative” (Iniciativa de Autenticidade de Conteúdo).

Porém, isso levanta algumas questões e problemas a meu ver:

Em primeiro lugar, o governo certamente teria uma porta dos fundos com tapete vermelho estendido para eles. Ou seja, poderiam simplesmente pedir para a Apple “Oh, nos dê acesso à sua backdoor que nos permite colocar um selo de autenticação falso em imagens geradas por IA”. Em outras palavras, acreditar cegamente nesse certificado daria um poder muito grande para o governo mentir e criar falsas narrativas.

Em segundo lugar, hackers existem, provavelmente não seria só o governo que teria essa capacidade. É difícil concebermos um sistema que seja tão à prova de invasão que não consiga ser eventualmente violado, tal como ocorre com consoles de videogame e outros dispositivos com firmware bloqueado. Isso levaria a soluções cada vez mais invasivas e prejudiciais à privacidade para tentar diminuir as chances de manipulação, como um sistema cada vez mais conectado e integrado à nuvem. Algo similar ao DRM que tentaram implementar no XBOX One e que de fato colocam em prática em muitos jogos hoje em dia. O que seria algo horrível para a privacidade.

E embora horríveis para a privacidade, um cenário onde existe uma dificuldade relativamente alta para falsificar tais atestados talvez garantisse que as coisas não mudassem tanto em relação ao cenário atual. Digo, mesmo antes da IA generativa, mega corporações e governos, especialmente os das grandes potências, têm capacidade técnica de manipular imagens e vídeos a décadas. Parte do motivo de imagens e vídeos valerem tanto como evidência se dava justamente na improbabilidade de tal imagem e, especialmente vídeos, serem forjados num mundo onde os recursos para tal são restritos, chame de “autenticidade por irrelevância” se quiser.

De modo que um cenário hipotético, onde essencialmente fotos sem esse certificado digital são presumidas falsas e fotos com o mesmo são presumidas verdadeiras, porém apenas um pequeno número de agentes e organismos internacionais têm a capacidade técnica de falsificar tais comprovantes – ainda que distópicos e altamente indesejados por este autor – talvez não mudasse tanto o paradigma pré-IA.

Todavia, contudo, porém, entretanto, posso estar enganado sobre esse cálculo e análise de como o cenário pré-IA, e mais especificamente as dificuldades/vantagens do governo ao falsificar mídia antigamente, se comparam com as dificuldades/vantagens do governo de falsificar esses certificados no futuro. Talvez não seja uma “tradução” exata.

Por exemplo, sem sombra alguma de dúvida pedir para a IA criar um vídeo e depois colocar um certificado de autenticidade falso nele será várias ordens de magnitude mais fácil e barato do que era filmar um vídeo fake bem editado como fariam antigamente, dessa forma, o amplo acesso do governo a essa capacidade de falsificação numa escala e facilidade nunca antes vistas, diferentemente das limitações técnicas prévias, poderia levá-lo a produzir conteúdo falso de modo muito mais irrestrito e prolífero.

Por fim, e talvez aqui mais à título de curiosidade, penso num cenário onde esse certificado não existe, nunca é implementado por N motivos, onde essencialmente fotos e vídeos deixam de ser evidências de qualquer coisa. E, ironicamente, isso lembraria muito o mundo pré-fotografia e pré-vídeo, onde eventos eram confirmados por testemunhas oculares, documentos históricos, registros, etc, etc. Não sei o quanto esse cenário é provável de vir a se realizar, mas mesmo achei válido imaginar essa possibilidade:

“Antigamente não tinha foto de nada, por isso não tinha no que acreditar. Hoje tem uma foto de literalmente tudo, então não dá para acreditar em nada.”

A Realidade Generativa

Vídeo de usuário usando filtro baseado no Stable Diffusion para ter uma aparência feminina / Cena do filme “2047: Virtual Revolution”, na qual homem acorda em um avatar feminino.

Acho que… conceitualmente, e como caminho da humanidade e de sua constante busca pelo progresso e pela evolução tecnológica, toda essa coisa de IA generativa me lembra muito o episódio “San Junipero”, que já devo ter mencionado aqui umas 300 vezes, mas realmente é um fantástico episódio do Black Mirror. Enfim, a IA generativa me lembra essa coisa de você poder construir mundos digitais que pareçam reais.

É como se a habilidade de criar mídia sintética fosse um ensaio, um prelúdio do que está por vir, que é conectar o digital ao cérebro humano e passar a criar realidades sintéticas e interagir com elas da mesma forma que interagimos com o mundo real. Não vai ser apenas você poder ouvir uma performance do Michael Jackson cantando “Mayonaka no Door (Stay With Me)” da cantora Miki Matsubara, você vai poder ver essa performance numa versão virtual do Japão dos anos 80 onde isso aconteceu.

A IA generativa é o prelúdio duma realidade generativa. O que nós estamos fazendo com sons e imagens, ao criar a tecnologia para enxergarmos cenas que nunca existiram e ouvir palavras nunca antes ditas por pessoas que muitas vezes nem estiveram vivas numa mesma época… tudo isso vai acontecer com os outros sentidos humanos. E quando você faz isso com todos os outros sentidos, você tem San Junipero.

Diário: 04/04/2023

“Obras criadas por IA não podem ter direitos autorais, diz escritório dos EUA”

Se a IA arte criada via “prompt” não é passível de proteção de direitos autorais porque “é apenas um resultado mecânico previsível” ou porque “falta envolvimento/técnica”, a fotografia também não deveria ser passível da mesma proteção.

Primeiro, qualquer um pode tirar uma foto, e mesmo que você aperte um botão sem esforço algum e fotografe a parede do seu quarto, aquela foto é elegível para direitos autorais, de acordo com a lei atual.

Segundo, pegue a foto do início do post, por exemplo: essa imagem provavelmente tem direitos autorais, mesmo que teoricamente qualquer um pudesse recriá-la. Você poderia sair e comprar o mesmo sofá, o mesmo espelho e outros objetos nesta imagem, recriar a mesma iluminação e afins, até o ponto em que você tivesse uma imagem essencialmente idêntica.

Fazendo uma analogia, seria como usar o mesmo “prompt/número de seed/modelo/demais parâmetros” no Stable Diffusion para recriar uma cópia exata duma imagem. A única diferença aqui é que você está fazendo isso no mundo real com objetos reais.

Meu ponto é que a curadoria de arte e decidir o que você vai querer selecionar entre toda a arte possível imaginável já é uma expressão artística por si só. Ela desempenha um papel na fotografia e desempenha um papel na arte gerada com o auxílio da IA também.

Não estou necessariamente apoiando os direitos autorais como conceito, acho que têm muitos problemas, só não vejo nenhum sentido em fazer uma distinção dizendo que a IA art seria menos merecedora da proteção dos direitos autorais do que, por exemplo, a fotografia.