Entrevista: pesquisador André Lemos fala sobre tecnologia na atualidade

Professor e pesquisador da UFBA conversou com o Instituto Ciência e Fé PUCPR. Ele participará  segunda edição de “O que há de nós em Black Mirror”, evento organizado pelo Identidade Institucional PUCPR

Por Eduardo Veiga Nogueira | Foto: Pixabay

Em entrevista concedida com exclusividade para o Instituto Ciência e Fé da PUCPR, o professor e pesquisador da UFBA, André Lemos, conversou sobre os dilemas que surgiram com a tecnologia na atualidade. Lemos é estudioso das áreas de ciberculturas e cidades digitais. Entre suas publicações, está o livro “Isso (não é) muito Black Mirror”, lançado em 2018, trazendo discussões sobre tecnologia e sociedade a partir dos episódios da série de TV.

O temas também são debate na segunda edição de “O que há de nós em Black Mirror?”, realizado na próxima terça-feira (17). O evento é idealizado pelo Identidade Institucional PUCPR. As inscrições são gratuitas, abertas a comunidade e feitas pelo site da organização.

Confira também a matéria completa sobre “O que há de nós em Black Mirror?”.

Professor André Lemos fala sobre Black Mirror e o uso da Tecnologia nos dias atuais

Confira abaixo a entrevista com o professor André Lemos na integra:

Quando se menciona que há uma diferença intransponível entre o humano e a máquina, comumente o argumento é quanto à mente consciente. É, de fato, um limite intransponível ou podemos considerar a existência de alguma forma de consciência da máquina? Quais seriam as consequências práticas se isso for realizável?

– A consciência é um processo de autorreflexão que implica reconhecimento de si e também do outro. A consciência é individual, mas tem assim um componente moral. Mentir, por exemplo, revela a ação de uma consciência, pois implica reconhecimento de si que infere sobre o comportamento do outro. Embora as máquinas possam trocar muitas informações e analisá-las de forma complexa e rápida, elas estão longe de possuir esse tipo de pensamento autorreflexivo e moral. Não acho impossível que os sistemas de inteligência artificial quânticos ou as redes neurais venham a dotar máquinas de uma consciência próxima da humana. Mas digamos que, por hora, ela ainda não existe. Há inteligência, comunicação, mas não consciência. Sobre esse assunto, sempre penso no computador HAL, de 2001: Uma Odisseia no Espaço. Ele tentar controlar a nave e matar os astronautas. Dave consegue chegar perto do seu núcleo para desligá-lo. Ao perceber a intenção, HAL diz: “I’m afraid Dave, I’m afraid”. Quando uma máquina realmente sentir medo (ou inveja, ou raiva…) e puder expressá-los autonomamente, ou mesmo mentir deliberadamente, acredito que aí sim, ela demonstrará a existência de uma consciência.

Em um mundo onde as máquinas são mais inteligentes e eficientes do que os seres humanos para uma série de atividades que são, ou eram, exclusivamente humanas, qual será o nosso papel no planeta?

– Tudo depende de como definimos inteligência e eficiência. Posso defini-las como capacidade de adaptação ao mundo. Nesse sentido, alguns insetos, micróbios e vírus são mais inteligentes do que nós, humanos, pois são flexíveis o suficiente para se adequarem às mudanças no meio externo. Não podemos compreender os humanos como seres independentes das coisas, dos artefatos, de micro-organismos. Estamos sempre entrelaçados a um amplo sistema. Nossa vida é condicionada por outros e nossa existência, sempre coletiva. A novidade, portanto, não é estar associado a artefatos. A questão central que se coloca hoje é como desenvolveremos associações com essas máquinas inteligentes que processam grande quantidade de dados em sistema de IA. Estamos num impasse, pois a ação humana está colocando em risco a vida no planeta, com a crise ambiental do Antropoceno.

Na série de T.V. Black Mirror, os capítulos nos atraem muito, pois se comunicam com nossa realidade em vários pontos. Podemos dizer que os cenários retratados nessa série já são existentes ou até ultrapassados diante do mundo em que estamos vivemos?

– O argumento central do meu livro “Isso (não) é muito Black Mirror” (EDUFBA, 2018) vai nessa direção. O “não”, entre parênteses, materializa essa tese. Aparentemente a série fala do futuro próximo, mas, de fato, ela está presa ao passado por estabelecer um enquadramento das mídias e das tecnologias típico do início do século XX (crítica à sociedade do espetáculo, ao isolamento, à vigilância panóptica…). A série apresenta dispositivos ainda inexistentes, o que induz a pensar que ela fala do futuro. Mas, na minha opinião, ela falha por não conseguir discutir (apenas toca em alguns episódios) os atuais problemas da cibercultura (vigilância distribuída, dataficação, controle de emoções e indução de ações em redes sociais). Nesse sentido, a série não trata nem do nosso presente, quanto mais do futuro.

O escritor de ficção científica Arthur Clarke afirma que “qualquer tecnologia suficientemente avançada é indistinguível da magia”. Por que o tema da Inteligência Artificial gera tanta dúvida na atualidade?

– A inteligência artificial pode criar uma verdadeira “algocracia” (Danaher). Há um problema cognitivo e epistemológico, já que entendemos os dados e a análise maquínica como neutros, inteligentes e eficientes, sendo assim a maneira de desvelamento do mundo. Ora, sabemos que não há dados brutos e que o algoritmo é uma escrita e, como toda escrita, produz enviesamentos. Como os dados são coletados e tratados como se fossem brutos, e como esses algoritmos funcionam como uma inteligência maquínica (técnica e racional), a IA seria, para uma tecnocracia, a forma de conhecimento do mundo. Caminhamos, com a IA, para uma “datadriven life”. Portanto, a questão da inteligência artificial é o que ela pode decidir sobre tudo, como em um passe de mágica, como a matemática podia para Newton no século XVII, “ler o grande livro da natureza”. Temos que politizar a IA e combater essa ideia de neutralidade politica, de isenção moral e ética dos dados e dos algoritmos.

O filme-documentário O dilema das redes expressa a ponta do iceberg desse novo cenário vivido pela humanidade?     

– Sim. O dilema das redes denuncia o capitalismo de vigilância, o capitalismo de dados. Ele expressa os perigos do que chamo de PDPA, ou seja, a nova fase da cultura digital regida pela ampla Plataformização da sociedade, pelo rastreamento de todas as nossas ações (Dataficação) processado através de uma ampla Performatividade Algorítmica. O documentário chama a atenção para o agenciamento da PDPA, ou seja, para a criação de influência sobre o que as pessoas fazem ou deixam de fazer a partir da lógica algorítmica pouco visível e da coleta de dados pessoais gerando assim engajamento e dependência a essas plataformas. O documentário aponta para perigos reais, embora haja certa ingenuidade em deixar implícito que a tecnologia determinaria a vida social. Na realidade, há muitos exemplos históricos sobre como os meios de comunicação e os artefatos são apropriados e desviados pela dinâmica social. Temos que levar a sério os alertas do documentário, mas sem esquecer da história social das técnicas e das mídias.