Figurinha carimbada nos cursos de ciências da computação e engenharia na Universidade de Stanford, o professor Mehran Sahami também circula em discussões menos óbvias, como a ética. “Não se pode excluir a tecnologia desse debate”, afirma ao NeoFeed.

Por isso, ao lado dos colegas Rob Reich, filósofo; e Jeremy Weisntein, cientista político, Sahami assinou o livro “System Error: Where Big Tech Went Wrong and How We Can Reboot”, ainda sem tradução para o português.

Lançada em setembro de 2021, a obra é um conjunto dos debates que os docentes trazem à sala de aula há pelo menos quatro anos. “É preciso questionar quem está controlando os algoritmos, quem decide como os dados serão usados e outras tantas coisas incômodas”, diz. “E é urgente que essa discussão ganhe proporções maiores, e não fique apenas em ambiente acadêmico. Por isso que escrevemos o livro”.

Antes de entrar para o corpo docente da Stanford, Sahami foi pesquisador sênior no Google, onde atuou por alguns anos. “Quando trabalhei lá, o mantra interno era ‘não seja cruel’”, relembra, e pondera que a busca pelo lucro tem levado grandes empresas de tecnologia, como essa, a outros caminhos.

Defensor de uma regulamentação mais rígida e da interoperabilidade das plataformas, Sahami afirma ainda que esse mais recente livro é quase um ato de desespero, porque estamos em tempo de corrigir as rotas das big tech, que estão tomando decisões baseadas em interesses próprios, sem considerar o impacto na sociedade.

Em entrevista exclusiva ao NeoFeed, o professor defendeu veementemente a regulamentação das tecnologias e se colocou favorável à proibição de certas fusões e aquisições lideradas pelas big tech – “se o Facebook não tivesse permissão para adquirir o Instagram, haveria ali um concorrente real”. Acompanhe a seguir o bate-papo na íntegra:

Você trabalhou para grandes empresas de tecnologia quando elas ainda eram pequenas startups. Você já sabia, naquela época, o potencial dessas empresas? Chegou a ter algum tipo de diálogo com a liderança dessas gigantes sobre ética e privacidade?
Eu trabalhei no Google cerca de 20 anos atrás, quando o mantra da empresa ainda era o famoso “não seja cruel”. Acho que, naquela época, a sociedade tinha um sentimento muito positivo em relação a essas companhias, e as consequências negativas de seus produtos ou serviços não era algo que estava à mostra, e ninguém falava disso. A gente não fazia ideia, por exemplo, do impacto que a desinformação teria no campo político. Isso só ficou claro em 2016, quase 10 anos depois que eu deixei o Google.

Você está falando sobre a questão da coleta de dados?
Também, porque isso foi piorando com o tempo. Cada vez coletamos mais dados para alimentar o machine learning, mas no início era impossível enxergar tão longe. O problema é que a motivação sistêmica dessas empresas é o lucro. Quando uma companhia ganha escala e cresce, o peso para trazer mais dinheiro fica maior – e para aumentar o lucro dessa maneira é preciso avançar alguns sinais e coletar mais dados para fazer mais interferências, melhores recomendações, mostrar mais anúncios ou qualquer coisa que seja. São essas motivações que trazem esse impacto negativo para a sociedade. ….Leia mais em neofeed 04/02/2022