Porque os especialistas em tecnologia evitam estas apps com IA (riscos de privacidade e segurança)

Alguém levantou um telemóvel, a guinchar que aquilo te podia transformar numa estrela de cinema com um só toque. Surgiu uma fila de rostos, brilhantes e inquietantes, como se tivessem sido passados a ferro. As pessoas riram e trocaram fotos de antes e depois, a escorregar para aquele lugar feliz e vertiginoso onde a tecnologia parece um espetáculo de magia.

Ao fundo da secretária, o engenheiro de segurança nem levantou os olhos. Limitou-se a abanar a cabeça, um movimento pequeno que dizia tudo. Não rabugento. Não superior. Apenas cansado de uma forma muito específica. Demorei um minuto a reparar na divisão silenciosa na sala - e foi nesse momento que comecei a perguntar por que razão as pessoas que melhor conhecem tecnologia raramente usam as apps com IA que nós adoramos exibir.

O dia em que a app de selfies entrou no escritório

O Sam, o engenheiro, escrevia sem olhar para o ecrã, um hábito que fazia o teclado soar como chuva num telhado de zinco. Mesmo assim, alguém lhe abanou a app à frente. “É só por diversão, e é grátis”, disseram. Ele sorriu, disse que não tinha o telemóvel com ele, e voltou ao terminal. Grátis, naquela sala, caiu com o peso de uma piada.

No comboio para casa, experimentei a app eu própria, porque a curiosidade ganha sempre. Era brilhante e um pouco assustadora. Os filtros sabiam exatamente como me lisonjear e exatamente quanto tempo me tentar antes de pedir acesso ao rolo da câmara. Apaguei a app antes de o meu café arrefecer. Todos já passámos por aquele momento em que um brinquedo novo começa a parecer um negócio com letras miudinhas em tamanho microscópico.

O que os profissionais veem quando leem uma política de privacidade

O resto de nós vê confetes e botões de partilhar. Os especialistas veem um contrato que pode esvaziar a tua vida. Leem “usamos os seus dados para melhorar os serviços” e traduzem para “a sua cara, voz e palavras são material de treino”. Leem “parceiros” e imaginam um desfile escondido de empresas de analytics, redes de publicidade e fornecedores de cloud a sugar metadados como ar. Quando aprendes a linguagem, é difícil deixar de a ver.

O Sam mostrou-me uma vez a diferença entre palavras bonitas e o que significam na prática. “Podemos recolher conteúdo que cria” muitas vezes inclui rascunhos que nunca guardaste. “Mantemos os dados enquanto necessário” pode esticar-se por anos porque “necessário” é elástico. E aquela linha de “interesse legítimo” que soa educada? É um calço legal na porta.

A frase que decide tudo

Quase sempre há uma única frase que decide se um especialista instala uma app ou não. É a cláusula que diz que os dados podem ser partilhados com terceiros para “investigação”, “analytics” ou “melhoria do modelo”. As apps que dizem que não a isso, que fazem processamento no dispositivo, que minimizam de verdade - essas são raras. O resto são máquinas de vending onde o produto na ranhura és tu.

O problema das permissões: microfone, câmara, teclado

As apps de IA mais espertas precisam dos sentidos para fazer os seus truques. Câmara para filtros e tradução. Microfone para assistência por voz e notas de reuniões. Teclado para magia preditiva. Faz sentido, até perguntares o que acontece ao fluxo depois de o truque acabar.

Pergunta a alguém de segurança e vão falar-te de chamadas de rede em segundo plano que não param quando a app já nem está no ecrã. Algumas apps escutam palavras de ativação e enviam pequenos excertos de áudio para a cloud para “melhorar a precisão”. Algumas lêem os nomes dos teus contactos para desenhar um mapa privado da tua vida social. Apps de teclado podem capturar tudo o que passa por elas, incluindo aqueles seis dígitos que escreveste quando achavas que ninguém estava a ver.

A tua cara, a tua voz, a tua escrita - dados de treino perfeitos

A IA precisa de exemplos como um chef precisa de ingredientes. Rostos, vozes, sotaques, estilos de escrita, até os erros de digitação estranhos que te tornam tu. É assim que um modelo fica melhor a adivinhar o que vem a seguir. Por isso, quando uma app diz que vai “usar o seu conteúdo para melhorar os nossos algoritmos”, está a descrever uma estrada de sentido único da tua realidade para o gráfico de crescimento dela.

Os especialistas não gostam de ser treinadores não pagos. Já viram empresas dizerem “anonimizado” e depois voltarem a coser perfis com suficientes pedaços soltos. Uma app de selfies guardava “templates faciais” como vetores porque vetores não parecem fotografias. Outra prometia eliminação, mas a equipa de suporte avisava que as cópias de segurança podiam demorar meses a rodar. Algumas apps são honestas quanto a isto. Muitas não são.

Os trackers dentro das ferramentas

A maioria das apps de IA não é construída como uma casinha com uma porta e uma janela. São blocos de apartamentos com corredores onde não podes andar, cheios de SDKs - kits de software de motores de voz, empresas de analytics e parceiros de publicidade. Descarregas uma app, levas cinco. Cada uma com os seus hábitos de privacidade. Cada uma com fome.

Uma vez vi um registo de rede enquanto alguém usava uma ferramenta “gratuita” de transcrição com IA. O ecrã encheu-se de endereços que não reconhecerias, pequenos apertos de mão a acontecer em segundo plano. Não era só fala-para-texto. Era replay de sessões, mapas de calor e relatórios de falhas - palavras inocentes que, mesmo assim, podem derramar o teu contexto. Se alguma vez te sentiste um pouco seguido na internet, provavelmente estavas.

Peças pequenas, exposição grande

A cadeia de fornecimento é onde o problema se infiltra. Uma app de teclado pode prometer não guardar as tuas mensagens e depois incluir uma biblioteca de terceiros que o faz. Uma ferramenta de chat pode manter os teus prompts localmente, enquanto a biblioteca de analytics lê IDs do dispositivo e localização. E quando uma empresa é vendida, se funde ou muda de rumo, os dados mudam de dono enquanto ainda estás a beber chá. É por isso que os especialistas não apostam a menos que consigam ver o baralho todo.

O mito da IA anónima

“Anonimizamos os seus dados” soa como uma manta quentinha. Os especialistas sabem que é uma cortina de renda num dia de vento. A ideia é simples: remover nomes, desfocar detalhes, chamar-lhe seguro. Mas datas, lugares, maneirismos de escrita e grafos sociais combinam-se como peças de puzzle. A reidentificação não é rara. É um passatempo para estudantes de mestrado e um negócio para corretores de dados.

Uma vez um investigador de privacidade explicou-me assim: se alguém gritar num pub cheio, talvez não vejas a cara, mas ainda assim consegues perceber quem é pela gargalhada, pela história, pelo timing. Os dados são assim. O estilo é uma impressão digital. E o estilo é exatamente o que a IA quer aprender. Tu és o conjunto de dados.

“Personalização” que sabe demais

As apps de IA vendem calor humano. O assistente que soa como um amigo. O feed que prevê as piadas de que vais gostar às 2 da manhã. A ferramenta de escrita que termina as tuas frases e pede desculpa quando falha. Parece íntimo até te lembrares de que intimidade exige esquecer de propósito - e as apps não esquecem a não ser que as obriguem.

É aí que fica escorregadio. A personalização apoia-se em perfis: ritmos de localização, escrita tardia, pesquisas sazonais que dizem mais do que o teu estado civil alguma vez diria. Dados que antes viviam dentro da tua cabeça são subcontratados para servidores onde rendem. A história que contas a uma app pode aparecer como anúncio noutra. E depois o telemóvel vibra com uma recomendação que adivinha a coisa que ainda não disseste em voz alta.

As crianças em segundo plano

Não falamos disto o suficiente. Muitas apps de câmara e voz com IA aprendem com pessoas que não deram consentimento - como a criança que entrou no enquadramento ou o amigo que resmungou na cozinha. O modelo não sabe a quem pertence o consentimento. Só vê pixels e forma de onda. Junta-os ao seu banco de memória e segue em frente.

Pais que trabalham em tecnologia traçam muitas vezes uma linha dura. Nada de brinquedos com IA que “ligam para casa”. Nada de microfones “para melhorar a leitura do seu filho” que guardam as gravações. Não é medo. É o conhecimento calmo de que os dados recolhidos agora podem durar mais do que a infância. Uma futura universidade, empregador ou seguradora não precisa de uma conspiração para saber demais - só de boa pesquisa.

A fantasia da eliminação

Todas as apps prometem um botão de apagar. Parece responsável, e por vezes é. As melhores apps podam pelo caminho, guardam dados no dispositivo e deixam-te recomeçar com um toque. Muitas não. Põem eliminações em fila, mantêm backups, baralham cópias entre regiões enquanto o pó assenta em servidores que nunca vais ver.

Já apresentei pedidos de acesso a dados e vi empresas contorcerem-se. Muitas vezes nem sabem onde vivem todas as cópias, o que é a resposta mais honesta de todas. Os logs existem para manter sistemas estáveis, e os logs têm memória. Isso não é mau por si só. Só torna a promessa de apagamento total numa história para adormecer que os adultos contam uns aos outros para dormir.

“Mas eu preciso destas ferramentas para trabalhar”

Eu também. O truque está na escolha. Os especialistas procuram processamento no dispositivo, caches locais, planos pagos que desligam a “melhoria do modelo”, e fornecedores que publicam auditorias de segurança sem drama. Verificam se a empresa ganha dinheiro com subscrições ou se vende “insights” em volume. Negócio diferente, incentivos diferentes.

Também separam identidades. O trabalho fica num dispositivo gerido com perfis restritos. A vida pessoal vive num telemóvel com poucas apps e ainda menos permissões. E, quando testam algo arriscado, usam uma conta isco, como quem usa luvas de forno. Não porque sejam paranoicos. Porque dedos queimados doem.

Sinais de alerta que se sentem

Não precisas de ser engenheiro para perceber quando uma app quer demais. O pop-up que pede contactos antes de te mostrar seja o que for. A definição que volta a “partilhar” depois de cada atualização. Os e-mails simpáticos que dizem “atualizámos a nossa promessa de privacidade” e depois, discretamente, acrescentam um novo parceiro que não consegues pronunciar. O teu instinto é um sensor. Deixa-o tocar.

Também há sinais verdes. Páginas de privacidade curtas e com palavras simples. Atualizações que se gabam de recolher menos, não mais. Um painel onde podes ver e apagar dados de treino sem implorar ao suporte. E a rara empresa que diz não a investidores que a empurram para “monetizar” a base de utilizadores. Essa palavra pertence a folhas de cálculo, não a pessoas.

O que os especialistas em tecnologia fazem em vez disso

Usam apps de câmara que não carregam nada a menos que lhes digas. Notas de voz que ficam no dispositivo. Navegadores que bloqueiam cookies de terceiros e removem trackers dos links como cotão de um casaco. Para tradução, escolhem ferramentas que correm localmente. Para escrita, mantêm rascunhos sensíveis offline e colam fragmentos, não o diário inteiro. Parece picuinhas até virar hábito.

Também definem limites. Sem assistentes de IA no quarto. Sem microfones sempre ligados no quarto do bebé. Sem “teclado da semana” por conveniência. E leem os dois primeiros ecrãs da política de privacidade como se fosse um menu, à procura de azeitonas que detestam. Sejamos honestos: ninguém faz isto todos os dias. Mas quando é uma ferramenta que vais alimentar com a tua voz, a tua cara, os teus planos privados, vale três minutos e uma sobrancelha levantada.

A verdade desconfortável sobre o “grátis”

O grátis faz-nos clicar como o estalar de dedos de um hipnotizador. É social. É brincalhão. Parece um presente do futuro. O custo aparece mais tarde, medido em anúncios que te encurralam, em modelos treinados com a tua semelhança, em faturas de cloud que nunca vês mas ainda pagas com a tua atenção. O grátis é um reembolso que nunca vais receber.

Os especialistas não rejeitam a alegria. Rejeitam a fatura que chega anos depois. Preferem pagar uma vez, receber um recibo, e sair da loja com algo que lhes pertence. O resto de nós também pode fazer a sua versão disso. Paga com dinheiro quando puderes. Paga com menos dados quando não puderes.

Porque é que a recusa silenciosa importa

Sempre que alguém como o Sam diz que não, não é snobismo. É um pequeno protesto em defesa da atenção, da privacidade e do direito a esquecer. O “não” abranda a fome um bocadinho, deixa algumas rondas de treino à fome, empurra um gestor de produto a acrescentar um interruptor de desligar a sério. Abre espaço para melhores ferramentas crescerem.

E às vezes muda uma sala. Naquele dia no escritório, o riso amoleceu. Algumas pessoas pousaram os telemóveis e olharam para as caras reais umas das outras. A chaleira fez clique na cozinha, um som pequeno e caseiro. Alguém perguntou: “Então qual é que tu usas?” A conversa virou, não contra a IA, mas em direção a ela, com olhos mais claros e um telemóvel mais leve.

Uma regra simples para guardar

Se precisa da tua câmara, microfone ou teclado, decide se sussurrarias os mesmos segredos num elevador cheio. Se não, não o faças. Se a app quer tudo logo à partida, vai-te embora. Se parece polida demais para algo que não custa nada, pergunta o que mais vende.

E quando uma app te dá dignidade - escolha, controlo, eliminação real - recompensa-a. Diz aos teus amigos. Carrega no botão de pagar se puderes. O futuro que teremos é o futuro que alimentamos. A privacidade não é um interruptor. É uma prática, como trancar a porta à noite e ainda assim abri-la a quem confias.