Um “mundo sem mente”: a perigosa influência do Big Tech

Não há quem não conheça a célebre frase do filósofo francês René Descartes: “Penso, logo existo.” Mas, na era digital, nossa forma de pensar e de viver está sob a influência muito forte de algumas poucas empresas de tecnologia. O Google nos mantém informados e a Apple nos entretém; socializamos no Facebook e compramos na Amazon. É hora de reclamarmos nossas identidades e reafirmarmos nossa independência intelectual, conforme explica Franklin Foer, correspondente nacional da The Atlantic e ex-editor da The New Republic, em seu livro “Mundo sem mente: a ameaça existencial do Big Tech” [World Without Mind: The Existential Threat of Big Tech]. Foer esteve recentemente no programa da Knowledge@Wharton, que vai ao ar pelo canal 111 da SiriusXM,  e explicou por que o domínio dessas empresas sobre a sociedade deve servir de advertência para o futuro. 

Segue abaixo a versão editada da entrevista.

Knowledge@Wharton: Empresas de tecnologia, como a Amazon, realmente mudaram muito ao longo das últimas décadas tendo se tornado parte importante da nossa vida.

Franklin Foer: A Amazon é sem dúvida alguma um dos espécimes mais impressionantes de toda a história corporativa dos EUA. Ela começou como livraria, depois se transformou em loja de “tudo”, e, em seguida, se transformou mais ainda. Hoje temos os Serviços de Web da Amazon e sabemos da sua força na nuvem. Vimos como a empresa continua a se expandir culminando mais recentemente na decisão de comprar a Whole Foods. O mesmo se pode dizer do Google, que começou organizando o conhecimento e depois se tornou a Alphabet, dona de um portfólio enorme de empresas, inclusive uma de ciências da vida, cujo propósito é nos tornar imortais.

Até onde essas empresas pretendem chegar? O tamanho delas seria um problema para nós? São perguntas que dizem respeito diretamente à natureza da nossa economia e que nos levam a refletir: será possível, realmente, um sistema capitalista que seja competitivo? Há indagações mais fundamentais a serem feitas sobre o futuro da nossa cultura e democracia, uma vez que essas empresas detêm um volume imenso e precioso de dados a nosso respeito. Esses dados são retratos da nossa psique. As empresas usam essa montanha extraordinária de informações a nosso respeito para alterar nosso comportamento. São inúmeras as conveniências que acompanham tudo isso, mas há também perguntas importantes que essas empresas precisam responder.

De alguns meses pra cá, começamos a fazer algumas dessas perguntas. O resultado da última eleição, em que proliferaram inúmeras notícias falsas suscitando o debate em torno da culpa do Facebook por sua divulgação, foi motivo de uma verdadeira reação adversa à empresa. Alguns pontos críticos mudaram consideravelmente o debate sobre a sociedade e a tecnologia.

Knowledge@Wharton: Há três ou quatro empresas, de presença avassaladora no mundo da tecnologia, que controlam com força incrível várias coisas em nossa sociedade.

Foer: Sem dúvida. O europeus chamam essas empresas de GAFA: Google, Amazon, Facebook e Apple. Há várias razões pelas quais essas empresas suscitam tanta ansiedade e que me levaram a fazer perguntas difíceis a elas. A primeira delas diz respeito ao acúmulo de dados. A segunda é a maneira pela qual os dados são aproveitados. Estamos no reino dos algoritmos, da aprendizagem de máquina e da inteligência artificial, em que as vantagens creditadas às empresas que têm o domínio sobre essas coisas acabam aumentando ao longo do tempo.

Portanto, cresce a lacuna entre as quatro grandes e o restante. Talvez já tenhamos chegado ao ponto em que as pessoas tenham desistido de persegui-las. No Vale do Silício, a grande ambição hoje em dia não é mais desbancar o Google ou o Facebook. É ser comprado pelo Google e pelo Facebook. Aqui temos uma pergunta importante sobre o futuro do empreendedorismo. Onde estão as oportunidades? Se você deixa de existir em uma economia onde pode desbancar as grandes empresas, diminui o incentivo para mirar as estrelas e tentar criar aquelas coisas que criam as empresas-unicórnio [start-ups cujo valor de mercado chega a US$ 1 bilhão].

Knowledge@Wharton: Você diz em seu livro: “Com a expansão dessas empresas, que se venderam como campeãs da individualidade e também do pluralismo, seus algoritmos nos reduziram à conformidade e acabaram com nossa privacidade. Elas criaram uma cultura instável e tacanha de informações equivocadas e nos impeliram em direção a um mundo onde não há contemplação privada, pensamento autônomo ou introspecção solitária. Um mundo sem mente.”

Foer: Há tanta coisa fantástica na tecnologia. Tenho uma filha de 12 anos. Quando ela nasceu, não havia iPhone, Kindle, as mídias sociais praticamente não existiam. Com o passar da década, coisas incríveis aconteceram, coisas que são verdadeiros monumentos da criatividade humana, e fica difícil não “tirar o chapéu” para tudo isso.

Contudo, as qualidades mágicas dessas criações não deveriam nos distrair, não deveriam nos impedir de fazer perguntas céticas, uma vez que a aposta aqui é excepcionalmente alta. Com o desenrolar da história da humanidade, sempre tivemos ferramentas que foram como que extensões de nós mesmos. Podemos dizer que a tecnologia é uma dessas coisas que nos definem enquanto espécie.

No entanto, o que está sendo automatizado agora não é a força sobre-humana. Não estamos automatizando nossa capacidade de arar o campo ou de fazer um objeto qualquer. Estamos falando da automação de exercícios mentais. Essas empresas têm tecnologias que são tecnologias intelectuais. Elas se colocam entre nós e a realidade. São o filtro que usamos para acessar notícias e informações. Seu objetivo é criar realidades virtuais nas quais habitaremos. Elas estão tentando completar essa longa fusão entre o homem e a máquina.

Em breve, as tecnologias não serão apenas usadas no pulso ou em forma de óculos. Elas serão implantadas em nós. Temos de fazer as perguntas que realmente importam e que dizem respeito ao que nos torna humanos, que coisas queremos preservar nessa transição? É impossível lutar contra o fluxo da tecnologia. Contudo, temos de partir do pressuposto de que, enquanto seres humanos, podemos interferir. Temos a capacidade de moldar nosso destino, e isso deveria ser uma coisa constante em nossa vida, em vez de aceitar passivamente o que vem pela frente.

Knowledge@Wharton: Qual o impacto dessas mudanças no varejo? O número de shoppings diminuiu bastante nos últimos anos, e a fabricação está cada vez mais automatizada.

Foer: Vamos nos limitar, por exemplo, ao futuro do varejo. Meu pai tinha um pequeno negócio, uma pequena rede de lojas. Ele me ensinou a valorizar a pequena empresa e o capitalismo. Ele era também ─ numa estranha combinação ─ um advogado antitruste, o que realmente marcou meu pensamento sobre o capitalismo, sobre as virtudes de um mercado competitivo e diverso e o que isso significa para nós enquanto consumidores. No entanto, temos de pensar também no que isso significa para nós enquanto cidadãos.

Embora os preços possam estar baixos [graças à automação], é preciso começar a questionar o futuro do trabalho. Com o desaparecimento das lojas, uma grande fonte de emprego vai simplesmente evaporar. Penso nisso tendo sempre em mente o que dá sentido para a vida. Se vivemos em um mundo em que estamos imobilizados dentro de casa podendo ver qualquer filme, tendo qualquer livro na ponta dos dedos, isso tira uma grande oportunidade de sair e de experimentar a cultura coletivamente. Acho que o comércio é fundamental para a experiência social. Quando vou a uma loja, saio de casa. Interajo com as pessoas. Pode parecer trivial, muito superficial mesmo, mas essas interações são realmente importantes para nós no que diz respeito à forma como pensamos no ser humano, nosso próximo, e na qualidade da nossa vida.

O que acontecerá quando o comércio for totalmente virtual? Como será a interação humana? Como será a sociedade? Estamos contentes com essas mudanças? Quanto nos custarão o conforto e a eficiência? Não vou fingir que as repostas sejam fáceis, assim como não posso fingir e dizer que não estamos desfrutando de vantagens incríveis graças a todas essas mudanças. No entanto, é importante que dediquemos um tempo para pensar sobre o que estamos perdendo nesse processo.

Knowledge@Wharton: Qual o papel do Facebook na forma como consumiremos no futuro as mudanças por que estão passando as mídias?

Foer: Já que sou jornalista, vou falar sobre isso a partir de um perspectiva bastante restrita. No decorrer da minha carreira de jornalista, a profissão se tornou muito dependente do Google e do Facebook. Com o colapso dos mercados de publicidade, surgiu a necessidade de ganhar escala bem rápido, e a única maneira de conseguir receita era através do crescimento do tráfego. A única maneira de fazer o tráfego crescer consistia em recorrer a essas plataformas. Isso significava que o jornalismo tinha de dominá-las. É um estado de dependência muito insalubre. Os valores dessas plataformas acabam se tornando os valores de todos os que dependem delas.

Como editor, o tipo de trabalho que eu fazia mudou porque tinha de ser bem-sucedido no Facebook. Foi meio humilhante ter de escrever manchetes sensacionalistas para que pudessem navegar pelo Facebook. Os assuntos sobre os quais escrevíamos tinham de se enquadrar na mentalidade de rebanho que havia no Facebook. Em vez de trabalhar as notícias, em vez de fazer escolhas que honrassem nossos leitores, buscando expandir sua mente, tínhamos de nos contentar com fofocas. Com o tempo, não podia ser algo saudável.

Editei uma revista de centro-esquerda. Hoje o mundo não está mais em sintonia com esse posicionamento; hoje ele é mais de esquerda. Descobri que, para ter tráfego, havia a tentação constante de agradar o que os políticos chamam de “base”. Vejo isso o tempo todo. Quem discorda do consenso é tachado de dissidente ─ o sujeito é marginalizado. No fim das contas, não é saudável para a nossa política ter essas duas tribos.

Achamos que a política está muito polarizada, e é verdade. Mas ela é também extremamente conformista hoje em dia. Se você pertence a uma dessas duas tribos, seu ecossistema de informações será extremamente restrito. O Facebook é uma espécie de ciclo de realimentação onde você escuta o que quer ouvir. Somos empurrados cada vez mais para o nosso canto através dessa tecnologia que nos dá o que queremos.

Knowledge@Wharton: Qual o papel da Apple?

Foer: Das quatro grandes empresas, a Apple é a que menos me preocupa. Não gosto da forma como ela coleta dados. No fim das contas, porém, ela é uma empresa de hardware e está menos envolvida no tipo de tecnologia intelectual que descrevi. Por exemplo, a empresa tem feito coisas para reformular a indústria da música que, provavelmente, no cômputo geral, não me agradam. No entanto, se tivesse de classificar as empresas pelo grau de perniciosidade, colocaria a Apple em último lugar.

Knowledge@Wharton: E o Google?

Foer: Para mim, o problema do Google são seus objetivos cada vez mais dilatados. O que me incomoda no Google é a intensidade quase que religiosa em tudo o que a empresa faz. Seus fundadores, Sergey Brin e Larry Page, vêm do mundo da inteligência artificial, que é uma coisa incrível, mas há formas distintas de colocá-la em prática. Há várias maneiras pelas quais ela proporciona uma conveniência incrível. No entanto, existem outras pessoas que querem alcançar o que chamam de “IA completa”, que consiste na criação de uma inteligência artificial que é verdadeiramente próxima da inteligência humana, capaz de compreender a linguagem. Ela vem acompanhada de uma visão quase que messiânica.

Tenho certeza de que você já ouviu falar de Ray Kurzweil, um engenheiro extraordinário que trabalha com a ideia de singularidade, isto é, aquele momento em que nos fundiremos totalmente com a máquina, e as máquinas se tornarão mais inteligentes do que os humanos. Acabaremos por fazer o download do nosso cérebro nesse mundo virtual em que viveremos para sempre. É, na verdade, uma visão religiosa. Ray Kurzweil atualmente é diretor de engenharia do Google, e eu acho que Larry Page cultiva uma versão desse tipo de fantasia. Essa é sua ambição para a empresa.

Tem um pouco de fantasia própria da ficção científica, por isso não me preocupo com essa tal de singularidade. O que me preocupa é o sujeito que acredita estar imbuído de uma missão messiânica, que se dedica ao seu trabalho como um fervor religioso, e tudo o que é temporal, que diz respeito à lei e à ética e ao presente, e o que pode estar sendo destruído, acaba jogado pela janela. Esse é o problema que tenho, de modo geral, com essas empresas. Talvez você ache que eu escrevi um livro de centro-esquerda; eu, porém, acho que escrevi um livro extremamente conservador e que demonstra minha preocupação com o destino de instituições importantes. Há muita sabedoria nas coisas que desenvolvemos ao longo do tempo. Receio que algumas dessas empresas sejam tão fervorosas, tão arrogantes e autoconfiantes em relação às coisas que estão fazendo que nem sequer parem para pensar no que está sendo destruído em meio a essa correria rumo ao futuro glorioso.

Knowledge@Wharton: Também nos transformamos em uma sociedade em que a desigualdade de renda é uma questão alarmante.

Foer: Sem dúvida. É preciso analisar as maneiras pelas quais essas empresas exageram no que fazem ampliando esse fosso, os meios de que se valem para sentar em cima de tanto dinheiro. Se você trabalha para uma dessas empresas, sua vida é uma maravilha, não é verdade? Todos sabemos como são seus câmpus e os incríveis benefícios que acompanham quem trabalha em uma dessas empresas monopolistas. No entanto, o que vemos com frequência na economia não é apenas uma lacuna entre ricos e pobres em geral. Há praticamente uma lacuna entre ricos e pobres dentro de cada um desses setores.

Se sua empresa estiver em segundo ou terceiro lugar em um desses setores, você não ganhará a mesma coisa porque essas empresas é que ficam com o lucro desse monopólio. Elas são capazes disso porque seu domínio em seu campo é de tal ordem que não têm de se preocupar com a concorrência. Ficam lá sentadas em cima de um monte de dinheiro e o distribuem do jeito que acharem melhor. Elas podem acumulá-lo, como faz a Apple, ou podem distribuí-lo entre seus funcionários como benefícios que os mantêm atrelados a elas. No entanto, os demais agentes econômicos não podem desfrutar do prazer de se beneficiar dos lucros desses monopólios, por isso o fosso vai sempre aumentando.

Citando a Universia Knowledge@Wharton

Close


Para uso pessoal:

Por favor, use as seguintes citações para referências de uso pessoal:

MLA

"Um “mundo sem mente”: a perigosa influência do Big Tech." Universia Knowledge@Wharton. The Wharton School, University of Pennsylvania, [25 October, 2017]. Web. [19 November, 2017] <http://www.knowledgeatwharton.com.br/article/um-mundo-sem-mente-perigosa-influencia-big-tech/>

APA

Um “mundo sem mente”: a perigosa influência do Big Tech. Universia Knowledge@Wharton (2017, October 25). Retrieved from http://www.knowledgeatwharton.com.br/article/um-mundo-sem-mente-perigosa-influencia-big-tech/

Chicago

"Um “mundo sem mente”: a perigosa influência do Big Tech" Universia Knowledge@Wharton, [October 25, 2017].
Accessed [November 19, 2017]. [http://www.knowledgeatwharton.com.br/article/um-mundo-sem-mente-perigosa-influencia-big-tech/]


Para fins Educacionais/Empresariais, use:

Favor entrar em contato conosco para usar com novos propósitos artigos, podcasts ou vídeos através do nosso formulário de contato para licenciamento de conteúdo. .

 

Join The Discussion

No Comments So Far