Algumas breves reflexões sobre imagens num mundo onde tudo pode ser facilmente forjado

Foto totalmente 100% super verdadeira do presidente dos EUA, Donald Trump, se encontrando com líder alienígena em 32 de Março de 2027.

Diante dessa nova realidade onde fotos e vídeos podem ser facilmente falsificados, venho pensando em alguns desfechos para esses cenário: O primeiro deles, e talvez o mais provável, é o que as câmeras passariam a vir com uma espécie de “EXIF criptográfico”, onde seu iPhone, por exemplo, ao tirar uma foto criaria um código de autenticação afirmando que aquela foto é verdadeira e que o arquivo dela é real e que não fora modificado de nenhuma maneira, talvez até codificando dados de geolocalização também.

Existiria então uma espécie de padronização com diferentes câmeras, celulares, tablets, notebooks, etc… rodando esse firmware. A ideia seria que esse sistema se tornaria o “padrão” e as fotos que não tivessem esse certificado seriam consideradas falsas. De fato, essa é essencialmente a ideia e a “solução” que Adobe e outras big techs vem trabalhando, o chamado “Content Authenticity Initiative” (Iniciativa de Autenticidade de Conteúdo).

Porém, isso levanta algumas questões e problemas a meu ver:

Em primeiro lugar, o governo certamente teria uma porta dos fundos com tapete vermelho estendido para eles. Ou seja, poderiam simplesmente pedir para a Apple “Oh, nos dê acesso à sua backdoor que nos permite colocar um selo de autenticação falso em imagens geradas por IA”. Em outras palavras, acreditar cegamente nesse certificado daria um poder muito grande para o governo mentir e criar falsas narrativas.

Em segundo lugar, hackers existem, provavelmente não seria só o governo que teria essa capacidade. É difícil concebermos um sistema que seja tão à prova de invasão que não consiga ser eventualmente violado, tal como ocorre com consoles de videogame e outros dispositivos com firmware bloqueado. Isso levaria a soluções cada vez mais invasivas e prejudiciais à privacidade para tentar diminuir as chances de manipulação, como um sistema cada vez mais conectado e integrado à nuvem. Algo similar ao DRM que tentaram implementar no XBOX One e que de fato colocam em prática em muitos jogos hoje em dia. O que seria algo horrível para a privacidade.

E embora horríveis para a privacidade, um cenário onde existe uma dificuldade relativamente alta para falsificar tais atestados talvez garantisse que as coisas não mudassem tanto em relação ao cenário atual. Digo, mesmo antes da IA generativa, mega corporações e governos, especialmente os das grandes potências, têm capacidade técnica de manipular imagens e vídeos a décadas. Parte do motivo de imagens e vídeos valerem tanto como evidência se dava justamente na improbabilidade de tal imagem e, especialmente vídeos, serem forjados num mundo onde os recursos para tal são restritos, chame de “autenticidade por irrelevância” se quiser.

De modo que um cenário hipotético, onde essencialmente fotos sem esse certificado digital são presumidas falsas e fotos com o mesmo são presumidas verdadeiras, porém apenas um pequeno número de agentes e organismos internacionais têm a capacidade técnica de falsificar tais comprovantes – ainda que distópicos e altamente indesejados por este autor – talvez não mudasse tanto o paradigma pré-IA.

Todavia, contudo, porém, entretanto, posso estar enganado sobre esse cálculo e análise de como o cenário pré-IA, e mais especificamente as dificuldades/vantagens do governo ao falsificar mídia antigamente, se comparam com as dificuldades/vantagens do governo de falsificar esses certificados no futuro. Talvez não seja uma “tradução” exata.

Por exemplo, sem sombra alguma de dúvida pedir para a IA criar um vídeo e depois colocar um certificado de autenticidade falso nele será várias ordens de magnitude mais fácil e barato do que era filmar um vídeo fake bem editado como fariam antigamente, dessa forma, o amplo acesso do governo a essa capacidade de falsificação numa escala e facilidade nunca antes vistas, diferentemente das limitações técnicas prévias, poderia levá-lo a produzir conteúdo falso de modo muito mais irrestrito e prolífero.

Por fim, e talvez aqui mais à título de curiosidade, penso num cenário onde esse certificado não existe, nunca é implementado por N motivos, onde essencialmente fotos e vídeos deixam de ser evidências de qualquer coisa. E, ironicamente, isso lembraria muito o mundo pré-fotografia e pré-vídeo, onde eventos eram confirmados por testemunhas oculares, documentos históricos, registros, etc, etc. Não sei o quanto esse cenário é provável de vir a se realizar, mas mesmo achei válido imaginar essa possibilidade:

“Antigamente não tinha foto de nada, por isso não tinha no que acreditar. Hoje tem uma foto de literalmente tudo, então não dá para acreditar em nada.”

Num país onde simplesmente não dá para acreditar na justiça, todo mundo perde

Não existem direitos, eles não são como uma lei da física. Não acontecem sozinhos. Eles são uma ideia. Um conceito em que todo mundo concordou e que instituições precisam tomar medidas para ele se realizar. E quando as pessoas deixam de acreditar que alguém vai fazer algo a respeito, que ninguém será punido, elas naturalmente tomam a justiça em suas próprias mãos e isso têm consequências.

O que vemos no Brasil é uma total descrença do povo na justiça e nas instituições, o que essencialmente resulta no povo resolvendo por conta própria “do jeito que dá“, com cada um conseguindo e realizando “sua própria justiça”. O país do jeitinho.

Patrick Reis, policial assassinado em confronto com o tráfico.

Você é policial e mataram um de seus colegas? Vá e pratique execuções sumárias antes que a justiça brasileira mande soltar o criminoso porque estava faltando uma vírgula no processo. Você é um bacana e mataram a sua filha? Mova os pauzinhos para conseguir acesso a uma justiça especial, que só vai valer no seu caso porque você tem amigos poderosos e pode implementar a prisão perpétua no Brasil para aquele criminoso, enquanto ainda defende publicamente que apenas a sua família merece esse nível exemplar de justiça. Sendo que psicopatas em casos tão graves quanto o seu são soltos e protegidos pelo ECA, e até mesmo por parte da grande imprensa, que de modo geral defende igualmente a impunidade.

Tudo isso, por sua vez, desaguando em uma previsível rotineira série de execuções extrajudiciais movidas pela justificável total e absoluta descrença na justiça, o que – além da questão de policiais estarem agindo como vítima, juiz e executor (papel que no ordenamento jurídico brasileiro atual aparenta ser restrito apenas aos ministros do STF) – resulta em um altíssimo número de inocentes sendo feridos ou mortos pela polícia, já que as execuções, ao contrário de países onde a pena de morte existe, ocorrem sem a devida investigação e perícia, em situações de conflito, com o policial tendo poucos instantes para decidir sobre a culpabilidade do indivíduo e a “aplicação da pena”.

Felipe Café e Liana Friedenbach, assassinados em 2003 / Champinha, à época com 16 anos de idade, cumprindo pena até hoje, pois o pai de Liana era alguém influente e por isso teve acesso a uma justiça que a família da absoluta maioria dos brasileiros vítimas de crimes similares jamais terá.

No caso de pessoas influentes, com amigos na cúpula do poder, movendo a justiça para conseguir essencialmente tratamento VIP, como o pai de Liana Friedenbach, estuprada e assassinada por Champinha em 2003, a injustiça está precisamente no fato de que esse é um tratamento que só ele teve acesso. Este caso em particular é bem emblemático: o Estado Brasileiro essencialmente criou um regime de punição ultra VIP, onde só existem entre 2 a 5 internos nele, única e exclusivamente pelo fato de que as pessoas que eles assassinaram eram filhas de gente muito rica e muito poderosa.

O que por sua vez aproxima mais o Brasil de um sistema de castas, onde os ricos, na prática e independentemente do que está escrito na tal constituição de 88 que tanto falam, têm acesso a uma justiça premium, tanto quando são vítimas de um crime, como até mesmo quando são os autores de tais: recursos quase que ilimitados, prisão especial para certos grupos, presídios melhores, etc, etc… (a única “mudança”, se é que pode se chamar assim, vem sendo no sentido de deixar os privilégios para uma elite cada vez mais VIP, para um grupo cada vez mais restrito de privilegiados).

E quando ocorrem abusos, estes praticamente destinados a acontecer num sistema de justiça mantido com barbante e fita crepe, na base de gambiarra e do jeitinho – quando um policial atira num inocente, quando alguém é preso ilegalmente e sem provas e passando vários anos na cadeia porque um delegado ou desembargador não foi com a cara dele, quando isso dá “merda”…

É muito fácil para jornalista e juiz engomadinho do STF ir criticar a “ponta da lança”, o “último elo da corrente”, e simplesmente ignorar que todo o resto dessa lança, dessa corrente, foram forjados por eles mesmos. Nas redações de jornais e plenários do STF.

Traficante André do Rap sendo solto por decisão da mais alta corte do país.

Todo o descrédito da justiça, essa ode a impunidade, isso é fruto duma agenda defendida por eles mesmos. Ao soltar traficantes e perseguir inocentes, ao se opor à redução da maioridade penal, ao defender a impunidade exceto quando eles próprios se veem vítimas de um crime…

Poderia terminar citando Capitão Nascimento, “a gente vem aqui para desfazer a merda que você faz”, mas creio que a resposta do jornalista José Nêumanne Pinto ao, à época então ministro da Suprema Corte Brasileira, Marco Aurélio, resume melhor a situação:

Before futurism could be born, people had to believe in progress

James Gleick – Time Travel: A History

O Futuro À Sua Porta

O Fim e o Começo de Tudo

É curioso como algumas pessoas esperam a vida toda por algo, muitas vezes só vendo aquilo muito nos últimos anos de suas vidas, na maioria das vezes, simplesmente nunca vendo tais acontecimentos. Enquanto outras nascem exatamente no momento certo, com a história despretensiosamente tomando forma diante de seus olhos, nascendo com o futuro à sua porta. E é verdadeiramente fascinante pensar nas implicações disso:

Houve pessoas que nasceram em 1840 e que sonhariam ver a ida do homem à lua, e que se tivessem nascido apenas uns 30 anos mais tarde, em 1870, poderiam ter conseguido viver o bastante para alcançar isso. Claro, talvez a ida do homem à lua não “faça diferença na sua vida”, mas agora pense em alguém que ficou tetraplégico em 1980, e ele vai ter que viver a vida inteira assim.

Pois bem, pense nessa mesma situação, mas agora falamos de alguém ficando tetraplégico no distante ano de 2030, e acontece que em 2031 cientistas descobrirão a cura para lesões na espinha e toda aquela vida de limitações, dor e sofrimento que ele estava destinado a viver… desaparece. Aquelas páginas do livro de seu futuro escritas em vermelho sangue sumindo, com páginas em branco dando lugar à elas, como naquela cena do “Synecdoche, New York”.

Acredito que nós, da geração millennial, fomos abençoados com a perspectiva de termos vivido o suficiente para saber o que era vida antes de todos esses inventos disruptivos, mas de ao mesmo tempo sermos jovens ao ponto de poder viver a maior parte de nossas existências tendo testemunhado tais extraordinárias façanhas.

Gerações passadas ansiaram por realizações que jamais se concretizaram em sua época, porém para nós, todas essas inúmeras deslumbrantes inovações se materializam bem à nossa porta, feitos que outrora imaginávamos demandar séculos e, se acaso afortunados, só os presenciaríamos aos 102 anos de idade…

Acho que estou começando a ficar velho e repetindo histórias que ninguém liga, indo à parques digitais alimentar pombos, mas já falei sobre isso em alguns posts. Esse meu ponto do homem tetraplégico é essencialmente tirado do canal “The School of Life”, do fantástico vídeo “Envy From The Future”, que tal como a obra Keta do “The Dictionary of Awe”, vou levar comigo por toda minha vida, a contemplação da ida do homem à Lua por sua vez é essencialmente uma continuação de meu texto “As Limitações Esquecidas”.

Meio que me sinto inferior à gente rica

Meio que me sinto inferior à gente rica. Digo, o nome do jogo que todo mundo tá jogando é “Dinheiro”. Eles têm mais, então eles venceram, eles são melhores, eu perdi. Sim, não precisa dizer, eu sei que não faz o menor sentido esse raciocínio, sei que é falso, sei que tá errado e poderia ficar aqui até amanhã enumerando as incontáveis formas de como está errado.

A pessoa pode ser endinheirada e ser um pilantra, um bosta, um merda, um pau no cu. Dinheiro não o critério universal para porra nenhuma, etc, etc, etc…

Sei de tudo isso, mas é como um instinto irracional, como caminhar por uma ponte de vidro blindado super resistente e olhar para baixo, você sabe que não vai cair, mas tem aquela partezinha do seu cérebro primata que faz você sentir medo e insegurança.

“Eles podem ter coisas legais que eu não tenho, então eles são melhores”, é patético e profundamente autodepreciativo de minha parte me sentir inferior à alguém porque essa pessoa mora numa casa melhor que a minha e afins, mas nunca fui de ter uma autoestima muito grande. Talvez alguns diriam também, “Oh, você tá dando muito valor ao o dinheiro”, mas isso sempre me faz recordar daquela cena do filme “O Aviador”:

– Nós não nos importamos com dinheiro aqui.
– Bem, isso é porque vocês sempre tiveram.

So what do you think life is going to be like for your grandchildren?

One sort of basic thing to say about why it wasn’t a natural idea [to wonder about how the future is gonna be] is imagine yourself in the 16th century, you’re a farmer let’s say and somebody asks you, “So what do you think life is going to be like for your grandchildren?”.

You would say, “What do you mean? That question doesn’t make any sense.Life is going to be the same for my grandchildren. Life is the same for me as it’s always been. There’s nothing different about the world I live in from the world of my known ancestors”.

The world wasn’t changing fast enough for anybody to have a sense of technological progress, much less a sense that technological progress is kind of inevitable, that we are on a conveyor belt bringing us inexorably into the future.

James Gleick – Time Travel in Science Fiction: A Brief History

Motorista Não é Babá

“Jovem estuprada após show: advogado avalia se motorista pode responder por abandono de incapaz”

O “empoderamento feminista” acaba no momento em que as escolhas das mulheres tem consequências negativas: Motorista de aplicativo não é babá. Se “a mulher é incapaz”, ao ponto de que você tem que tratá-la feito criança, faria mais sentido o Brasil implementar algo similar ao sistema de tutelagem masculina dos países árabes, e o parente homem mais próximo; pai, tio ou irmão mais velho – ficar responsável por tomar conta da mulher e fazer as escolhas mais apropriadas para ela, uma vez que a mesma é incapaz.

Em última instância, o feminismo se trata de um movimento de terceirização de responsabilidades e no desvio de obrigações: a mulher tem direito ao voto, mas nunca vi feminista pedindo para elas, tal como os homens, serem obrigadas a ir se alistar no exército.

Pelas ruas caminham futuros mortos

Eu