Blame, o Filme.

Blame (2017) é um filme anime de Hiroyuki Seshita. Depois de ter tido uma série manga, a Netflix produziu o filme animado e através da sua plataforma estreou-o.

O realizador em causa é responsável por outros filmes do género, que podem ser encontrados na plataforma de streaming.

A anime ganha especial destaque pelo ambiente apocalíptico que nos é mostrado e a falta de luz, realçada com cenários embutidos em tons frios e negros.

Eu não tive a oportunidade de ver a série manga. Porém, parece-me que este anime é suficiente para cativar possíveis fãs, tal como me aconteceu a mim.

O enredo leva-nos, uma vez mais, para um mundo futuro, onde as máquinas já quase conseguiram dizimar a humanidade. Contudo, neste anime em especial as máquinas não se revoltaram contra a humanidade como se esta fosse um parasita.

Pelo contrário, as máquinas foram afetadas por uma infecção que as levou a considerar a humanidade como uma presa que tinha que ser extinta. As máquinas, fruto de um sistema neuronal quântico apenas continuaram a fazer aquilo para que foram concebidas. Isto é, a expandir as estruturas de uma cidade, tornando-a assim numa super mega estrutura de tamanho titânica.

Sendo que não encontro as palavras certas para revisar o filme, decidi apenas deixar uns frames da anime de forma a salientar a sua excepcional qualidade.

A Inteligência Artificial e os Dados. Evolução ou Manipulação?

O assunto não é de todo um daqueles que consiga a atenção das massas. Pois está a entrar no nosso quotidiano ainda de forma subliminar. Porém, para mim tem sido razão de reflexão nestes últimos dias. Acerca dele já escrevi bastante aqui no blog.

Porém, como sempre, não despolpou qualquer interesse nas pessoas que possam, supostamente, ler este blog. Mas também isso não interessa para nada.

Mesmo assim, sinto uma necessidade inata de analisar os meus pensamentos sobre este assunto e o que tem vindo ao meu conhecimento sobre o mesmo.

Concretamente estou a falar da Inteligência artificial (AI) e como esta tecnologia está a ter impacto nas sociedades do todo mundo, com ênfase na arte. Porém este post vai distanciar-se um pouco desse assunto e vai alinhar-se numa perspectiva mais geral.

Ontem houveram alguns artigos de jornais de referência mundial.  Publicaram notícias sobre o assunto em questão. O The Guardian num artigo menciona que em Junho do ano passado cinco pesquisadores da unidade de Inteligência Artificial do Facebook publicaram um artigo demonstrando como os bots podem simular conversas semelhantes a negociações.

Passado um mês após essa pesquisa a Fast Company publicou um artigo intitulado AI Is Inventing Language Humans Can’t Understand. Should We Stop It?.  O artigo tornou-se viral e o mesmo insinuava que as máquinas estavam a criar uma nova linguagem entre si. A proporção de tal suposição levou mesmo os investigadores a desligarem as máquinas, dando a impressão que elas estavam fora de controlo. Porém, a decisão foi tardia e o artigo tornou-se viral e outros meios famintos por noticias promoveram ainda mais essa narrativa.

Zachary Lipton, professor assistente do departamento de aprendizagem de AI da Carnegie Mellon University, assistiu com frustração à história transformar-se de “pesquisa interessante” em “porcaria sensacionalista”.

O que esta história em concreto nos prova é que deve haver um distanciamento bem alargado sobre o que realmente interessa e o depósito que não tem interesse nenhum no estudo científico da IA. Porque se os media começam a noticiar estas novas descobertas como um qualquer monstro Frankstein o problema das Fake News pode tomar proporções apocalípticas.

Por isso mesmo tem que haver um bom entendimento entre o que é IA e o que é o Deep Learning. Podemos assumir a aprendizagem aprofundada como um sub sector da IA. Que basicamente consiste em que as máquinas sejam capazes de aprender sozinhas. 

Contudo, atualmente isso só é possível porque existe a inserção de dados (milhões de terabytes) que permitem à máquina, depois de muitas tentativas falhadas, chegar a uma conclusão concreta e que corresponda há realidade. 

Pode ser um assunto complicado para não-especialistas, e as pessoas muitas vezes confundem erroneamente a inteligência artificial contemporânea com a versão com a qual estão mais familiarizados: uma visão científica de um computador consciente, muitas vezes mais inteligente que um humano. 

Os especialistas referem-se a essa instância específica da inteligência artificial como inteligência geral artificial e, se criarmos algo assim, provavelmente será um longo caminho no futuro. Até então, ninguém é ajudado por exagerar a inteligência ou as capacidades dos sistemas de inteligência artificial.

O entusiasmo sobre a IA é exagerado neste momento. E muito longe está o tempo em que esta tecnologia seja capaz de gerir a nossa vida. Os principais avanços podem demonstrar que a inteligência desta ferramenta esteja ao nível da inteligência humana. Os principais avanços têm a capacidade de deslumbrar o público, mas um novo relatório atesta que isso ainda está longe de ser verdade. 

Os estudos na área apontam que a IA nos próximos anos vai modificar muito as economias mundiais, mas o que realmente foi alcançado a nível de evolução está restringido há classificação de imagens e reconhecimento de voz. Porém, não podem adaptar-se muito se a natureza dos dados mudar ou se analisarem algo completamente desconhecido.

Através de entrevistas com os principais especialistas em IA, o relatório também tenta identificar áreas-chave onde o progresso ainda é necessário. Vários apontam para a necessidade de enormes quantidades de dados para treinar sistemas atuais de IA, e para a sua incapacidade de generalizar sobre a solução de uma variedade de problemas. E aqui reside a questão chave sobre todo o uso que a IA pode ter na forma como existimos. A inserção de dados e a forma como eles são utilizados já é de forma flagrante um problema que as grandes corporações de tecnologia, como a Google ou Facebook se têm debatido nos últimos tempos.

O escândalo da Cambridge Analytica também ilustra onde o teórico utilitarista teria se oposto às práticas do Facebook. Ser descuidado com a maneira como os dados dos utilizadores são compartilhados com terceiros é uma coisa. Mas a tentativa de traçar psicologicamente os usuários do Facebook para apresentar cada um deles com o conteúdo mais provável de influenciar a votação vai além de apenas melhorar a publicidade, para uma forma de manipulação que ameaça o que o liberalismo mais se preocupa: a liberdade do indivíduo.

Alguns escritores de tecnologia, como o historiador israelense Yuval Noah Harari, chegaram a ver o poder do Facebook capaz de manipular o  nosso comportamento como uma confirmação de que o livre-arbítrio é uma ilusão. Essa é uma conclusão extrema a ser tirada do escândalo da Cambridge Analytica, mas devemos ter uma profunda preocupação com as possíveis maneiras pelas quais o Facebook pode estar a minar a nossa autonomia. 

Nesse sentido, se a IA ainda carece da inserção de dados para poder ser denominada de inteligente! Onde é que entra a capacidade de empresas como a Google ou Facebook, que têm uma infinita base de dados, manipular a IA com esses mesmos dados e daí serem capazes de manipular o livre arbítrio de cada indivíduo? Mais, onde pode chegar o poder destas empresas com ajuda do deep learning? 

São perguntas que cada um de nós devia fazer de forma introspectiva. Porque se longe está o tempo em que uma máquina vai ter capacidade de decidir por si mesma. Vivemos o tempo em que os dados e quem mais tem acesso a eles tem o poder absoluto. 

O Impacto da AI na Sociedade.

Tenho lido bastante sobre este assunto e a verdade é que foram tantas as fontes que li, que considero que já é em exagero o que sei sobre o assunto. Sendo, que aquele facto me fez distanciar um bocado da escrita e da análise sobre o assunto. Os meus dois últimos artigos em que toquei no assunto focaram-se na forma como uma série pode ser premonição de um futuro que parece ser uma uma visão distótipa que todos ignoram. Dessa forma concluí a minha análise sobre West World da seguinte forma:

Em conclusão, o fim da segunda temporada de West World ainda levantou mais perguntas que respostas. Para o fãs da série, como eu esse acontecimento é uma coisa boa - deixa-nos desejosos por mais-. A série destaca-se das outras do mesmo género porque aposta numa perspectiva sobre a máquina e como esta consegue sucumbir os seus criadores. Todo esse mundo criado e aparentemente distópico faz-me olhar para o mundo que vivemos hoje e pensar que a IA está cada vez mais desenvolvida. E a criação de máquinas com consciência é inevitável porque o ser humano procura cada vez mais o seu conforto. E com isso um mundo mais automatizado e capaz de limitações. Mas existe a possibilidade de que se esse cenário acontecer um dia os hosts se virem contra ele. Num mundo assim, West World acabaria por ser o melhor exemplo actual.

Também analisei se de alguma forma podemos considerar a arte criada pela AI, como arte. Na verdade este talvez seja o assunto mais complicado de explorar, porque a sua análise é complicada e demasiado ambígua. De qualquer das formas tentei explicar que:

Pegar nesta ideia e passar para a arte criada pela IA é a resposta há pergunta feita anteriormente. Não é o facto de ser arte feita por máquinas. Que não tem qualquer esforço pelo ser humano, mas não deixa de ser uma experiência estética. Por isso, o autor fala no livro sobre os encontros estéticos e não sobre a condição para acontecer tais encontros. Nesse sentido, poupa-nos às conclusões científicas que caracterizam essa escrita. Assim, o neurocientista coneta a estética psicológica evolutiva com a neurociência. Focando-se sobre o cérebro e os quadros que ajudam melhor a compreender a estética interligando aquelas duas áreas científicas para melhor iluminar o caminho labiríntico da beleza, prazer e arte.

A ideia básica da psicologia evolutiva é que as nossas faculdades mentais ou biologia evoluíram para melhor potencializar as nossas hipóteses de sobrevivência. Assim, talvez a resposta sobre se a arte criada pela IA é realmente arte esteja na evolução da biologia para potencializar a sobrevivência.

Tolstoy no seu livro toca no ponto em que a humanidade conheceu a arte. Os escritores das epopeias, não receberam nenhum dinheiro pela sua escrita e pela sua obra. Enquanto nas sociedade das épocas de correntes artísticas era típico haver artistas que recebiam. A crítica da arte não existe e eu concordo com ele. Analisar a arte é o mesmo que entender o cosmos: não há resposta [pelo menos cientificamente plausível]. A obra é toda uma crítica à arte em si mesmo. Porque ele afirma que arte não se ensina. É impossível ensinar a arte a um homem. O que parece ser contraditório - porque parece que é possível ensinar a arte a uma máquina.

Desta forma assumo que é possível que a AI seja capaz de aprender com o tempo. Talvez a sua evolução lhe permita até aprender sozinha. O que já aconteceu! Na forma como nós podemos passar a amar os robots e a forma como eles facilitam a nossa vida. Como demonstra este artigo da New Yorker. 

Pausando um bocado e se pensarmos bem como a AI está infiltrada na nossa vida.  A verdade é que ela está em todo lado e dentro de pouco tempo passará a fazer parte da realidade como mais uma ferramenta de uso na busca infinita do ser humano obter conforto.
Nestes mundos imortalizados pela literatura e pelo cinema como dimensões impossíveis de existir, está bem presente e não podemos fugir dela. Para os mais leigos a aceitação será, como sempre, adaptação e não pensar nas consequências mas sim nas soluções. Mas aqui parece que as consequências podem ser mais perigosas. Pelo menos se nada for feito.

O gráfico acima foi conseguido através de um estudo que afirma que os homens, os mais jovens e as minorias serão os mais afetados pela automação de sistemas de trabalho repetitivo. Os números são altos e reflete bem as diferentes sociedades existentes no mundo.

E é toda esta questão que me aquenta a reflexão. Porque por um lado, parece que ainda não existe uma preocupação imediata sobre o assunto. Uma intervenção ao nível das forças do poder, como políticos ou Governos ou até um bilionário. Que ninguém tome as rédeas sobre esta quarta revolução.  

Por outro, mais assustado fico, quando leio que que há quem já tenha percebido as implicações da AI na sociedade e tenham tido a ideia do Rendimento Mínimo Incondicional, que este tenha sido testado e não tenha funcionado. 

O RMI, no fundo, é uma mesada pelo simples facto de estarmos vivos. Mas na verdade é dar mais liberdade ao livre arbítrio de cada um. Pois num mundo em que as as tarefas rotineiras são feitas por máquinas, as pessoas têm mais tempo para viver a vida que querem. Então esta ideia foi implementada e daí saiu um outro estudo intitulado From Idea To Experiment que decorreu na Finlândia há uns anos atrás e que consistia em testar o RMI junto da população Finlandesa. As conclusões desses estudo podem ser lidas aqui. 

Por outras palavras, a inteligência artificial como tecnologia está no perfeito auge. Permitiu novas formas de comunicar, novas formas de criar arte, novas formas cinematográficas de podermos imaginar o mundo daqui a umas décadas. Reinventou o trabalho e criou novos desafios à existência humana. 

É este último ponto que me chama mais a atenção, Porque há medida que as coisas vão mudando, as verdadeiras implicações do uso da AI ainda não chegaram a um ponto que sintamos que realmente reinventou algo. Um sentimento parecido aquando o Telemóvel se tornou acessível a todos. Mas agora temos homepods com nomes próprios que respondem às nossas perguntas. Carros que se conduzem sozinhos. Drones que entregam as nossas encomendas em casa. Para não falar nas mais diversas utilidades que a AI tem hoje nos diferentes objetos que utilizamos no trabalho, em casa, no ginásio, no hospital, em tudo.

Se por um lado a AI pode ser reflexo de uma evolução da inteligência humana, por exemplo na construção de artefactos artísticos. Por outro essa mesma arte pode mostrar  para  que mundo nós caminhamos, quando automatizamos séculos de trabalho, fruto de uso do árduo esforço físico e mental do ser humano.

Castle

Dark

In the Stars

O AI é capaz de produzir arte?

Enquanto certas séries me fazem pensar sobre o futuro da IA como um mal quase apocalíptico. Já que na forma que é abordada é nos mostrado através da arte da televisão, do cinema simulações sobre possíveis futuros em que a máquina domina o seu criador. Há um outro lado da IA que me tem chamado a atenção e é a sua capacidade de criar arte. Ou algo que possa ser considerado arte.

Num artigo da Scientific American essa pergunta também é colocada e analisada de forma a tentar responder. A certa altura do artigo diz o seguinte: 

A mass-produced print of the Mona Lisa is worth less than the actual Leonardo painting. Why? Scarcity—there's only one of the original. But Amper churns out another professional-quality original piece of music every time you click “Render.” Elgammal's AI painter can spew out another 1,000 original works of art with every tap of the enter key. It puts us in a weird hybrid world where works of art are unique—every painting is different—but require almost zero human effort to produce. Should anyone pay for these things? And if an artist puts AI masterpieces up for sale, what should the price be?

Imagem gerada no Deep Dream

A importância do excerto vai no sentido de qual pode ser o valor deste tipo de arte? Mas em primeiro lugar é considerado arte?

A resposta tentei procurar num livro que fala que a arte é um feliz acidente. The Aesthetic Brain: How We Evolved to Desire Beauty and Enjoy Art (2013) de Anjan Chatterjee.

A teoria apresentada pode ser refutada ou até apoiada por outros autores, mas a verdade é que este é do poucos livros que li sobre o assunto de forma mais científica e profunda.

No livro o autor assume uma teorização científica. Porque normalmente, a objectividade assume uma forma quantitativa. E traduzir experiências estéticas, aparentemente transcendentes, em números é crítico para uma abordagem experimental à estética. Ou seja, informações precisam de ser quantificadas, hipóteses precisam de ser testadas e reivindicações precisam de ser replicadas ou falsificadas.

Aqueles são os fundamentos básicos sobre o qual o progresso em ciência é construído.

No entanto, é esta abordagem que é necessária para haver uma ciência da estética. Talvez porque a experiência estética e uma propriedade emergente de componentes diferentes, que não podem ser derivados a estudar as suas partes.

A mesma imagem gerada do Deep Dream mas com resultado diferente.

Ou seja, a arte criada pela AI tem que se  submeter a algum tipo de estudo científico. Como todas as correntes anteriores, conseguir a definição de arte passa por uma discussão sobre o impacto que este tipo de arte tem.

Mas no entanto indo ao âmago do livro o poder da arte é a sua capacidade de mover-nos e fazer-nos experimentar temas antigos com novos olhos e transmitido através da sua expressão local. 

O conteúdo da arte é moldado por condições locais: a cultura em que nasce, os seus antecedentes históricos, as condições económicas da sua produção e recepção e referências relevante para o seu tempo e lugar. 

A arte é uma coleção bagunçada de adaptações e é repleta de modificações e plug-ins formado por episódios históricos e nichos culturais. 

Quando as pressões culturais selecionam tipos específicos de arte, a arte produzida cai dentro de limites estilizados estreitos. Quando as pressões seletivas culturais são relaxadas, a arte floresce. Não temos um único instinto artístico. Temos instintos que desencadeiam um comportamento artístico. Em vez de ser dominado pelos instintos, é o relaxamento do controle instintivo que permite à arte expressar-se plenamente.

Pegar nesta ideia e passar para a arte criada pela IA é a resposta há pergunta feita anteriormente. Não é o facto de ser arte feita por máquinas. Que não tem qualquer esforço pelo ser humano, mas não deixa de ser uma experiência estética.  Por isso, o autor fala no livro sobre os encontros estéticos e não sobre a condição para acontecer tais encontros. Nesse sentido, poupa-nos às conclusões científicas que caracterizam essa escrita.

Assim, o neurocientista coneta a estética psicológica evolutiva com a neurociência. Focando-se sobre o cérebro e os quadros que ajudam melhor a compreender a estética interligando aquelas duas áreas científicas para melhor iluminar o caminho labiríntico da beleza, prazer e arte.

A ideia básica da psicologia evolutiva é que as nossas faculdades mentais ou biologia evoluíram para melhor potencializar as nossas hipóteses de sobrevivência.

Assim, talvez a resposta sobre se a arte criada pela IA é realmente arte esteja na evolução da biologia para potencializar a sobrevivência.

Tolstoy no seu livro toca no ponto em que a humanidade conheceu a arte. Os escritores das epopeias, não receberam nenhum dinheiro pela sua escrita e pela sua obra. Enquanto nas sociedade das épocas de correntes artísticas era típico haver artistas que recebiam.
A crítica da arte não existe e eu concordo com ele. Analisar a arte é o mesmo que entender o cosmos: não há resposta [pelo menos cientificamente plausível].

A obra é toda uma crítica à arte em si mesmo. Porque ele afirma que arte não se ensina. É impossível ensinar a arte a um homem. O que parece ser contraditório - porque parece que é possível ensinar a arte a uma máquina.

West World, interrogação sobre a Inteligência Artificial

Terminou recentemente a segunda temporada de West World, uma série que aqui já falei num post anterior e que depois de revisto. Levou-me a pensar que o assunto nesse post está pouco desenvolvido depois do fim da segunda temporada.

Sobre a primeira escrevi:

Na série, ao contrário de Lord of the Rings o foco não está no CGI mas na capacidade guionista de como conseguir que o espetador se interrogue pelas personagens e os seus jogos políticos na conquista e passar da imaginação para a realidade.

Em Westworld temos um mundo que foi construído para satisfazer os nossos desejos mais macabros, monstruosos. Que no fundo só é a nossa parte animal!

O post intitulei-o de Fruto Proibido, porque apenas ainda ia a uns episódios na série e bem longe da narrativa que teve um climax inesperado no ultimo episódio da segunda temporada. Mas já na primeira o desenlace foi bem surpreendente.

Na primeira série West World é apresentado como um mundo habitado por hosts que vivem num parque criado por ser humanos e que estes procuram para fugir da sua realidade e entrar noutra onde todo o fruto proibido é permitido.

A narrativa desenvolve-se com alguns dos hosts a mostrarem uma vontade de livre arbítrio e consciência do que são na realidade e para o que servem. Pelo meio percebemos que  a acção acontece em vários períodos no tempo e as personagens se cruzam num complexo jogo distópico entre máquina e homem.

Quase como o livro de Philip K. Dick que foi adaptado para o cinema e já conta com duas versões cinematográficas: Blade Runner  e Blade Runner: 2049.

Frame de Blade Runner 2049

As histórias em si não têm nada a ver, mas o tema é o mesmo. A construção de máquinas para um determinado uso pelo seres humanos. Posteriormente o seu uso torna-se descartável. Surge assim o nascimento de uma consciência de uma nova espécie, que neste caso são robôs e por essa razão, temidos pelo ser humano.

Um mundo onde existem máquinas que pensam como o ser humano e sentido-se usado por ele, viram-se contra ele. Há também uma história de amor entre duas personagens e como esse factor determina toda a narrativa.

Mas ao contrário de Exterminador Implacável não conhecemos já a conclusão das máquinas sobre o seu criador. Em West World assistimos ao início da revolução e como as máquinas começam a rebelião de dentro para fora.

Mas é em toda esta trama  de um mundo distópico produzido pela indústria televisiva que podemos olhar à nossa volta e perceber que a Inteligência Artificial é um recurso que está presente e cada vez tem mais uso nas tarefas humanas. Desde as lojas da Amazom que não possuem caixas de pagamento ao projeto Maven que nos devem fazer pensar sobre esta possível realidade.

Toda a série é caracterizada por diálogos filosóficos e frases complexas que nos interrogam sobre o ser humano, as suas acções e seu lado mais animal. Mas também como a máquina pode ter uma consciência e uma alma e depois de isso acontecer sentir-se como um animal num zoo.

É complexa a resposta perante esta invenção da IA que está a mexer as colunas da sociedade em todas as suas frentes, mesmo na arte. Onde até a seguinte pergunta  é feita por um orgão de comunicação social: A Arte Criada por IA é Realmente Arte?

Em conclusão, o fim da segunda temporada de West World ainda levantou mais perguntas que respostas. Para o fãs da série, como eu esse acontecimento é uma coisa boa - deixa-nos desejosos por mais-.
A série destaca-se das outras do mesmo género porque aposta numa perpectiva sobre a máquina e como esta consegue sucumbir os seus criadores.
Todo esse mundo criado e aparentemente distópico faz-me olhar para o mundo que vivemos hoje e pensar que a IA está cada vez mais desenvolvida. E a criação de máquinas com consciência é inevitável porque o ser humano procura cada vez mais o seu conforto. E com isso um mundo mais automatizado e capaz de limitações. Mas existe a possibilidade de que esse cenário acontecer um dia os hosts  se virem contra ele. Num mundo assim, West World acabaria por ser o melhor exemplo actual.




  

My Facebook.

Layers

Presunção e Água benta