Em um preocupante episódio do seriado Black Mirror da Netflix, as pessoas atribuem e recebem notas em aplicativo no celular em todas as interações com outras pessoas. Serviços são prestados ou negados aos cidadãos conforme sua pontuação.

Na China isso acontece de verdade. A lógica do sistema é parecida, mas quem dá nota não é o cidadão, mas um algoritmo. Ele analisa dados pessoais, entre eles histórico de pagamentos, publicações em redes sociais, comportamento no trânsito e em jogos online, e até cumprimento do planejamento familiar. Quem tiver pontuação alta, ganha descontos e passa direto pela segurança no aeroporto. Os outros terão restrições em bancos e aeroportos. O que era apenas uma ficção distópica vira realidade.

Yuval Harari, no seu livro “21 lições para o século 21” descreve uma tentativa de empréstimo no banco em algum futuro(?). O empréstimo é negado porque “O algoritmo disse que não”. Você pergunta: “Por que o algoritmo disse não? O que há de errado comigo?”. “Não sabemos. Ninguém entende esse algoritmo, porque é baseado em inteligência artificial e aprendizado de máquina avançado. Mas confiamos nele e não vamos dar o empréstimo”. E Harari conclui: “O algoritmo pode ter encontrado algo que não gostou no seu DNA, em sua história pessoal ou nas suas redes sociais. A discriminação deixa de ser por raça ou gênero, mas porque você é você”.

O marketing digital, com ferramentas poderosas, permite uma relação até perigosamente individual. No lugar de lidar com grupos homogêneos, por exemplo, homens, classe A/B, mais de 50 anos, casados, é possível distinguir essas pessoas individualmente. Uns são esportistas, variando o esporte, outros gostam de cinema ou viajam muito, ou se vestem informalmente, ou bebem vinho, ou são abstêmios. Com essas informações, colhidas em bancos, redes sociais, compras online, registros médicos, cartões de crédito, redes de ensino, registros de emprego, documentos pessoais etc. é possível conhecer cada pessoa. Assim, uma abordagem direta terá alta taxa de sucesso. A empresa Cambridge Analytics fez isso na campanha vitoriosa de Trump.

As ferramentas para desenvolvimento e operação de aplicativos ou sites de ecommerce caminham na direção de se relacionar cada vez mais individualmente com os usuários. Jornada do cliente, UX, IA, design thinking, mapas de calor, analytics, growth hacking e outros tendem a mergulhar na experiência de cada um.

A transformação digital vai fazer, no limite, empresas e governos(ou algoritmos) se comunicarem só com você, no pé do ouvido, sem ninguém por perto – para o bem ou para o mal.