Plataformas, Inteligência Artificial e o Risco de Censura


Há algumas semanas atrás havia publicado o post “Google e a Organização da Informação da Internet?”, falando sobre o potencial de diversas tecnologias de inteligência artificial para otimizar e tornar pesquisável “todo” o conteúdo criado pela humanidade.

Porém, talvez eu tenha focado excessivamente na questão das limitações técnicas e sobre como podemos superá-las e acabei não focando no lado humano/empresárial/social de toda essa questão. Em outras palavras:

“Quais informações eles decidirão que teremos acesso?”

Hoje em dia vivemos um período tecnológico um tanto distinto no qual por muitas vezes as plataformas são tremendamente alheias e tem muito pouco conhecimento em relação ao que estamos fazendo dentro delas ao mesmo tempo em que possuem um nível de usabilidade relativamente alto. É meio que uma faca de dois gumes, ao aumentarmos a compreensão do Big Data através de IA para aprimorar as pesquisas e usos da plataforma, consequentemente aumenta-se também a capacidade de manipulação da mesma para outros usos… digamos, moralmente questionáveis.

Por exemplo, suponhamos que você publica uma mensagem no Facebook que eles considerem que viola as diretrizes da plataforma. Talvez alguma opinião polêmica, ou alguma imagem violando leis de copyright…

O Facebook não tem como analisar as bilhões de mensagens postadas lá todos os dias para monitorá-las. Embora nós talvez até tenhamos tecnologia de compreensão de texto para analisar o conteúdo de mensagens dum modo restrito e limitado, como o computador Watson, que venceu o programa Jeopardy em 2011, porém, não é algo escalável.

De modo que essas plataformas, seja o Facebook ou a Google e por aí vai, geralmente usam uma combinação de: denúncias de usuários, que removem uma mensagem automaticamente (inclusive isso é um dos motivos pelo qual, muitas vezes, coisas que não infringem de fato os regulamentos do site acabam sendo deletados mesmo assim) com uma comparação de conteúdo com bancos de dados de referência (como geralmente é aplicado na questão de conteúdos que violam leis de direitos autorais).

De certo modo, podemos dizer que há um maior equilíbrio entre o poder dos utilizadores de uma plataforma e a capacidade da plataforma de controlar todo esse Big Data gerado dentro dela (não dizendo que isso é algo bom ou ruim, apenas que é um fato). Inclusive, esse é um dos motivos pelo qual o Twitter tem tantos problemas com terroristas usando a rede deles para fazer propagandas e obter seguidores.

Porém, o que acontece quando plataformas tiverem complexos algoritmos e inteligências artificiais que monitorem e saibam tão bem quanto um humano o que você está fazendo lá? O que ela vai julgar conveniente lhe mostrar?

Eu creio que isso é um pouco assustador. O potencial para censura e manipulação de informação seria, aliás, será algo inimaginável. Hoje mesmo, com nossas tecnologias tão limitadas, já há tantas polêmicas envolvendo esse assunto. Tal como as notícias recentes de que a Google estaria manipulando as pesquisas em favor da candidata do partido democrata, Hillary Clinton. 

Há um livro que parece bem interessante, vim a descobrir sobre ele enquanto pesquisava para esse post, chamado “Next Generation Search Engines: Advanced Models for Information Retrieval” (A Próxima Geração de Mecanismos de Busca: Modelos Avançados de Recuperação de Informação), em especial o breve capítulo “SEs And Danger of Censure” (Mecanismos de Busca e o Risco de Censura) na página 449, que traduzo abaixo:

“Um único bit de informação que não é indexado por mecanismos de busca, não pode ser alcançado por outras pessoas e é praticamente inexistente. A grande maioria das pessoas não vai sequer estar ciente da existência dessa informação. Mecanismos de busca podem alegar que usam um critério justo para filtrar e classificar as informações através da web. No entanto, tal poder e autoridade podem ser facilmente abusados e usados para fins ideológicos e políticos. Tecnologia de mecanismos de busca dá aos governos tal poder.

Esta é uma maneira muito mais sofisticada de censura em relação aos métodos anteriores de proibir livros ou jornais na medida em que é difícil até mesmo detectar e entender a existência da censura. À medida que a tecnologia se torna mais avançada, torna-se impossível para pessoas comuns compreenderem a extensão total de seus efeitos. Mecanismos de busca com inteligência artificial habilitada irá incluir avançada tecnologia de IA que é praticamente o tipo mais avançado e sofisticado de tecnologia. Até mesmo estudiosos de IA ou pessoas mais inteligentes não conseguem compreender plenamente os aspectos totais de melhorias na tecnologia de IA.

Para resumir, tal tecnologia pode tornar possível o uso de novas e sofisticadas formas de censura. É mesmo muito difícil provar que existe uma censura. Não há como as pessoas reagirem a uma censura oculta. Isto é verdade mesmo para segmentos altamente qualificados e intelectuais da sociedade. Em outras palavras, os mecanismos de busca podem vir a ser as principais ferramentas de censura nas próximas décadas.”

Acredito que esse é mais um dos grandes desafios que as novas tecnologias nos trarão e que precisaremos aprender a lidar com isso. Pessoalmente a ideia de plataformas mais descentralizadas me parece talvez um passo importante, embora certamente existir limitações técnicas sobre até que ponto isso é algo viável. Mas acredito que acima disso é extremamente necessário que o poder esteja menos concentrado em meia duzia de plataformas, como nos dias de hoje. Acredito que essa divisão de poder seria uma boa coisa, vide o celebre ditado “o poder corrompe e o poder absoluto corrompe absolutamente”.

Não houve uma conclusão e nem tão pouco um final feliz…

“Não houve uma conclusão e nem tão pouco um final feliz, houve apenas aquilo que aconteceu… tal como a vida.”

Estava assistindo a esse antigo documentário chamado “Snatched” (Rapto), falando a respeito de um caso em que o pai sequestrou as filhas, as levando para Bósnia. E a mãe da criança então, obviamente, é claro, estava as procurando, tentando reaver a guarda (faziam 6 anos que elas haviam sido raptadas).

O pai havia se casado de novo e construído uma nova vida. As meninas nem se quer falavam mais inglês. E a mãe da criança viaja até lá para tentar resgatar suas filhas, porém, as crianças nem se quer se lembravam mais dela. Ela havia se tornado uma estranha obscurecida pelo passar do tempo, uma mulher sem nome numa rua qualquer.

E… bem, resumidamente, a mãe meio que… percebeu que não poderia ganhar isso. Não nas circunstâncias que o passar do tempo havia a imposto. Não com os anos de lavagem cerebral que o pai provavelmente havia feito. E ela resolve deixar as crianças viverem com ele, retirando todos os mandatos internacionais sobre o rapto, em troca dele permitir que ela as visitasse.

Sempre falo muito sobre o Zeitgeist roubado, isso é um assunto que sempre, eventualmente, acabo voltando até ele. A ideia do “o tempo que passou é o tempo que passou”, e esse documentário demonstra de forma brilhante essa sensação de… quão fodidamente irreparável é o passar do tempo e também sobre quão inocentes e ingênuos em relação a realidade que nos cerca nós nascemos.

Uma Vida Sem Memórias é como a Morte


Oscar Wilde definiu a memória como “o diário que todos nós carregamos conosco”. Diário esse que, por mais imperfeito, impreciso e sujeito a subjetividade da mente humana, como tantos estudos acadêmicos provavelmente comprovam, é tudo que temos.

Nós construímos uma narrativa sobre o que está acontecendo conosco nesse exato momento, “Oh, eu acordei, tomei banho, comi algo, mexi no computador, abri o navegador e agora estou aqui escrevendo esse texto”, e por ai vai. E nós construímos planos baseados nisso, nós construímos um futuro.

Editamos, é claro. A maior parte da vida é esquecida logo após acontecer (como o canal “The Dictionary of Obscure Sorrows” ilustra de forma brilhante nesse vídeo), e nós meio que guardamos um resumo um tanto abstrato daquilo que aconteceu. Na maioria absoluta das vezes não nos recordamos das palavras exatas que nos foram ditas, mas sim dos elementos principais da conversa, de como nosso cérebro processou e interpretou o conceito daquilo dito. Resumidamente: lembramos das partes importantes.

Mas, enfim, estou me delongando demais. Indo ao assunto principal do texto: estava assistindo esse documentário, “The Man with the 7 Second Memory” (O Homem com a Memória de 7 Segundos), que, como o título do documentário já revela, é sobre um homem, Clive Wearing (foto acima), que sofreu um dano cerebral no hipocampo devido a uma infecção que afetou gravemente sua memória.

Nas palavras de sua esposa: “O mundo de Clive agora consiste de um momento sem nenhum passado ancorado nele e nenhum futuro à frente para olhar. É um momento dum piscar de olhos, ele vê o que está bem na sua frente. É uma consciência de momento em momento, um vácuo de tempo”.

Clive perdeu a capacidade de reter novas memórias e até mesmo muitas de suas memórias anteriores ao acidente vieram a ser gravemente comprometidas. Se a memória é como um diário, Clive é um homem sem um diário que constantemente acorda para um mundo no qual tudo que ele vê é a primeira vez que ele o vê. Você até consegue manter uma conversa com ele por alguns segundos, mas é apenas isso.

E um dos comentários que ele diz e que achei muito interessante é:

“Eu sei como é estar morto agora. Dia e noite é a mesma coisa, nenhuma diferença, nenhum sonho, nenhuma sensação. Meu cérebro está totalmente inativo. Nenhum sonho, nenhum pensamento ou qualquer coisa do tipo.”

Não no sentido de “dor e sofrimento” que, embora sejam um problema horrível, isso só é um problema se você é capaz de se lembrar dos motivos que há para sofrer. De modo que esse “acordar constantemente”, esse constante vazio existencial é algo que… talvez se pareça muito com como é estar morto de fato. Sem dor e sem prazer, apenas uma indiferença em relação a sua própria condição existencial.

É o tipo de coisa que nos faz apreciar… simplesmente poder se lembrar das coisas, lembrar o que aconteceu há 10 minutos. O mais surpreendente de tudo é que, apesar dessa indescritivelmente gigante limitação, Clive ainda é capaz de pensar em boas frases e ter bons insights. Quando questionado sobre “Onde fica o lar?”, ele respondeu:

“O Lar é Ontem.”

Quanta verdade numa frase pensada num momento de 7 segundos. O lar são as nossas lembranças, são as nossas recordações, são “as filmagens banais de tempos ordinários”, como diria John Koenig.

A Confortante Solidão das Madrugadas Chuvosas…

Certos momentos têm um poder muito grande de transmitir emoções, e um desses, que julgo fascinante, são as madrugadas chuvosas das noites onde a sua conexão com a internet cai e “você está sozinho”, tal como essa na qual escrevo.

Em momentos como esse se faz surgir uma solidão reconfortante, você tem um vislumbre nostálgico (muito provavelmente idealizado, no entanto, tal como a maioria das nostalgias) de como deveria ser viver em tempos passados, quando as palavras não se moviam a milissegundos por cabos oceânicos de fibra óptica.

É como se o mundo lá fora tivesse desaparecido, como se só houvesse você no universo. E este é um sentimento muito agradável de se ter às vezes. Um senso de “desglobalização”, uma “interiorização” do mundo, um senso de “desconectamento” das outras bilhões de pessoas. Uma “offialização” da realidade… por algumas horas apenas.

É o tipo de coisa que talvez hoje em dia, pelo menos nas partes do mundo onde as pessoas têm acesso à internet, seja uma lembrança arcaica que se perpetuou até a geração millenium. Digo, hoje em dia somos transbordados com o “FOMO”, com o medo de ficar de fora, com o sentimento de que sempre tem algo rolando na internet e no mundo, e se há alguma diferença entre nós e a geração pós anos 2000 e além é que elas nem se quer se lembrarão de um mundo onde não existia esse sentimento de solidão. Momentos assim que nos proporcionavam esse senso, ilusório admito, de: “o resto do mundo parou.”

E… bem, talvez devêssemos tentar buscar artificialmente mais momentos como esses. Embora, infelizmente ainda seja um tanto difícil fazermos chover nas madrugadas (risos).

Me lembro do começo dos anos 2000, quando chegava da escola e os dias estavam nublados, me enrolava nas cobertas e assistia TV, e havia um senso de desconexão: o dia nublado, meio escuro, a casa meio deserta… E o mesmo vale para as madrugadas de por volta dessa mesma época, onda assistia “O Fim de Noite” no SBT, ou o “Intercine” e “Corujão” na Globo.

Na minha cabeça,eu meio que imaginava que… toda aquela programação televisiva e toda aquela manutenção daquele sinal que estava vendo era uma coisa gravada e operada por máquinas, que não havia ninguém na estação de TV, que não havia ninguém no mundo, que as pessoas que tinham dado início aquela transmissão não existiam mais. Exatamente como talvez um dia alienígenas recebam as nossas antigas transmissões, transmissões de pessoas mortas. Como é ilustrado de forma brilhante na cena inicial do filme “Contato”, aliás.

E eu dei essa volta toda para dizer que: na internet você não tem essa sensação, essa “ilusão”. Isso porque ela é uma via de mão dupla, você envia e recebe informação, enquanto na televisão, entre outros, você apenas recebe.

E tudo isso era uma coisa legal e… é uma solidão nostálgica, é algo que não temos hoje enquanto assistimos Netflix em nossos computadores conversando com amigos no Facebook.

Diário: 15/08/16

macbook1.pngÀs vezes é difícil, ao menos para mim, não querer ser um daqueles esteriótipos que vemos nos filmes de Hollywood. Dos escritores bebendo café em seus macbooks numa Starbucks, ou algo do tipo, talvez algum outro típico esteriótipo, talvez ser a líder de torcida loira e bonita e por ai vai…

Os seres humanos são criaturas… sociais e influenciáveis. Queremos fazer parte dos padrões descolados. Queremos nos reunir em tribos em busca de confirmação e reafirmação. Nós meio que “compramos” conceitos e ideias por padrão, por “default”. E é o tipo de coisa que é muito difícil, difícil pra caralho, de se lutar contra. Ainda mais que, por muitas vezes, se adaptar ao padrão parece uma solução… mais fácil, falando dum ponto de vista mais utilitarista… e talvez realmente seja, quem sabe. Se isso for possível.

Porém, muitas vezes, não é o mais fácil. Ou pior, é completamente, totalmente, além de qualquer margem de dúvida, errado querer fazer parte daquele padrão. É assassinar uma parte de si mesmo. Tipo um gay em 1730 querer ser hétero apenas para se encaixar no padrão do “normal e descolado” da época.

Provavelmente talvez sempre seja errado querer mudar pra se adequar a norma social… mas acredito que alguns casos sejam mais errados do que outros, que alguns violem ainda mais profundamente quem somos. Isso na minha opinião de merda.

Vilsumbres dos Diários de Meu Pai


Lembro-me de um antigo seriado de televisão, a respeito de um médium que podia ver a história de tudo aquilo que tocava. Ao colocar suas mãos em um quadro de 200 anos ele vislumbrava o exato momento em que aquele quadro havia sido pintado, ele via o artista o criando. Ao segurar um diário de um soldado, ele ouvia a artilharia e granadas ao fundo, ele o via temendo por sua vida, temendo morrer na guerra, e o via escrevendo na carta suas esperanças de voltar para casa… para sua mulher e filha.

Guardo um antigo caderno de viagens de meu pai, não é algo como um testamento ou confissões profundas de sua existência, não é um fiel retrato daquilo que passou por sua mente ao longo dos anos em que ele viveu. Infelizmente, não é. É apenas um caderno com endereços de viagens, e números de lojas de automóveis, e alguns outros rabiscos e etc.

E… talvez um dos motivos pelo qual guardo esse diário, “sem valor”, é uma “irracional esperança subconsciente” de que um dia, por mágica, por magia, as leis que guiam esse universo parassem de funcionar por alguns instantes, por alguns segundos… e ao tocá-lo um clarão inundasse meus olhos e após isso eu o visse mais uma vez, eu o visse jovem e saudável, como há anos fora  mesmo a simples corriqueira, cotidiana, relês e banal imagem de lhe ver escrevendo rabiscos… seria absolutamente mais do que eu tenho agora.

Um blog sobre transhumanismo, filosofia, taras… e niilismos ocasionais.