A sua empresa pode estar a ensinar a IA a tornar o seu know-how menos valioso

Satya Nadella publicou recentemente um artigo chamado “The Reverse Information Paradox” que levanta uma questão que, na minha opinião, vai começar a ocupar cada vez mais espaço nas discussões sobre Inteligência Artificial nas empresas.

A ideia é provocadora: podemos estar a pagar duas vezes pela inteligência que compramos. Primeiro com dinheiro e depois com algo potencialmente muito mais valioso, o conhecimento da nossa própria empresa.

Nadella parte do chamado Information Paradox, descrito pelo economista Kenneth Arrow. Se alguém tem conhecimento para vender, precisa de revelar alguma coisa para que o comprador perceba o seu valor. O problema é que, ao fazê-lo, pode acabar por entregar precisamente aquilo que queria vender.

Com a IA, diz Nadella, o paradoxo inverte-se. Compramos inteligência a um fornecedor, mas para conseguirmos realmente tirar partido dela temos de lhe explicar cada vez mais sobre nós. Damos contexto, documentos, exemplos, processos e dados. Mas sobretudo corrigimos.

Dizemos ao modelo que determinada resposta está errada, explicamos porquê e mostramos-lhe como faríamos. Ele tenta novamente, voltamos a corrigir e, ao fim de algumas iterações, chegamos muitas vezes a uma solução bastante boa. É precisamente aqui que, para mim, começa a parte mais interessante desta discussão.

Imaginemos um técnico experiente da KI a utilizar um LLM para preparar uma migração complexa de Microsoft 365. O modelo pode conhecer muito bem Microsoft 365, mas não tem necessariamente os anos de experiência prática daquele técnico. Pode não saber que, perante uma determinada combinação de ADFS, identidades, SharePoint e coexistência, existe um problema que já encontrámos várias vezes, que uma abordagem perfeitamente correta na documentação tende a falhar num determinado cenário, ou simplesmente qual é a ordem certa das perguntas que devemos fazer antes de começar a migração.

O técnico sabe e, quando corrige o modelo, está a exteriorizar esse conhecimento. Não está apenas a fornecer dados sobre um cliente, está a explicar como resolve problemas. Se repetirmos este processo centenas ou milhares de vezes, por vários técnicos e ao longo de vários anos, começamos a produzir algo extremamente valioso: um registo de como os melhores profissionais da organização pensam, corrigem, decidem e resolvem problemas.

Nadella chama a esta parte do fenómeno “intelligence exhaust”: prompts, correções, feedback, avaliações, ferramentas utilizadas pelos agentes, decisões e resultados. É conhecimento que nasce da utilização da própria IA.

E aqui convém não cair no exagero. Isto não significa que OpenAI, Anthropic ou outros fornecedores estejam necessariamente a pegar nas conversas dos clientes Enterprise e a treinar os seus modelos com elas, até porque os contratos empresariais atuais têm proteções importantes precisamente sobre isso. Mas a questão colocada por Nadella é mais ampla do que saber se um determinado prompt entra ou não no treino do próximo GPT ou Claude.

A utilização de sistemas de IA produz aprendizagem e essa aprendizagem tem valor. Existem mecanismos de feedback, evals, telemetria, programas voluntários de partilha de dados, análise de padrões de utilização e todo um conjunto de informação que pode ajudar um fornecedor a perceber como os clientes utilizam os seus modelos, onde falham, que ferramentas precisam, que workflows estão a surgir e como tornar os seus sistemas melhores.

Nas palavras de Nadella, “in consuming intelligence, you are creating intelligence”. Ao consumir inteligência, também estamos a criar inteligência, e a pergunta que interessa é: quem fica com ela?

É precisamente aqui que Alex Karp, CEO da Palantir, tem vindo a fazer um alerta muito semelhante. Karp fala frequentemente do “alpha” de uma empresa. Simplificando muito, é aquilo que sabemos fazer melhor do que os outros. O conhecimento, experiência, processos e pequenas decisões acumuladas ao longo dos anos que constituem uma vantagem competitiva.

E o risco não é propriamente um concorrente conseguir perguntar ao ChatGPT quais são os segredos da nossa empresa, é bastante mais subtil. Suponhamos que uma determinada atividade exige hoje um profissional com dez anos de experiência, alguém que passou anos a encontrar problemas, cometer erros, perceber exceções e desenvolver uma forma própria de chegar à solução certa. Esse conhecimento tem valor porque é raro.

Se a IA conseguir progressivamente executar essa tarefa com qualidade semelhante, qualquer empresa passa a ter acesso a uma parte daquela capacidade simplesmente através de um modelo. O concorrente não precisa de conhecer os nossos processos ou ler os nossos documentos, basta conseguir fazer a pergunta e obter uma resposta suficientemente boa. Aquilo que era know-how pode tornar-se commodity.

É por isso que esta discussão não pode ficar apenas na privacidade dos dados. Há uma segunda questão que considero igualmente importante e talvez mais negligenciada: onde estamos nós próprios a guardar toda esta aprendizagem?

Um colaborador pode passar uma hora a trabalhar com um LLM até chegar a uma excelente solução. No final guarda o documento, o código ou a apresentação, mas tudo aquilo que aconteceu até chegar ao resultado desaparece muitas vezes dentro da conversa: as alternativas que foram rejeitadas, as correções feitas pelo especialista, os critérios utilizados, as exceções descobertas e o contexto necessário para transformar uma resposta medíocre numa boa resposta. Isto também é know-how e, se amanhã outro colaborador da mesma empresa tiver exatamente o mesmo problema, é perfeitamente possível que comece novamente do zero. Parece-me um desperdício gigantesco.

Na era da cloud habituámo-nos a pensar que as empresas acumulavam dados. Na era da IA terão também de aprender a acumular aprendizagem. Podemos chamar-lhe memória empresarial, contexto, IQ, Context Graph ou Ontology, e a terminologia vai provavelmente mudar várias vezes nos próximos anos: a Palantir chama-lhe Ontology, a Microsoft começa a falar de Work IQ, Fabric IQ, memória, evals e learning loops.

O nome interessa-me bastante menos do que o princípio, que é o de a empresa conseguir conservar aquilo que aprende.

E isso ajuda também a perceber outra mensagem recente da Microsoft. Mustafa Suleyman defendeu que qualquer modelo utilizado num produto ou sistema de agentes deve ser substituível, com o contexto, a memória, as ferramentas e o espaço de ação a existirem independentemente de uma determinada família de modelos. Hoje posso usar GPT para uma determinada tarefa, amanhã Claude pode ser melhor e depois pode surgir um modelo MAI, Gemini ou um modelo especializado muito mais barato.

O modelo não deveria ser o nosso ativo estratégico. O ativo estratégico são os 20 anos de conhecimento da empresa.

Para mim, é esta a mudança de mentalidade mais importante. Se uma empresa sabe hoje 100 e começa a utilizar IA intensivamente, daqui a três anos deveria saber 150, 200 ou 500, porque cada projeto, cada decisão, cada correção e cada interação com IA deveria aumentar a inteligência acumulada dentro da própria organização.

O cenário que devemos evitar é utilizar IA durante três anos, produzir muito mais e muito mais depressa, mas chegar ao fim com praticamente o mesmo know-how institucional com que começámos, enquanto os modelos ficaram bastante melhores. Se isso acontecer, a IA aumentou a nossa produtividade, mas pode ter reduzido a nossa diferenciação.

Até agora temos perguntado, e bem, se os nossos dados são utilizados para treinar modelos, onde ficam armazenados e quem lhes pode aceder. Talvez seja altura de acrescentarmos outras perguntas.

Onde ficam as correções dos nossos especialistas? Onde ficam as decisões dos nossos agentes? Onde ficam os critérios que definem aquilo que consideramos uma boa resposta? Se amanhã mudarmos de modelo, levamos connosco aquilo que aprendemos? E, principalmente, a utilização da IA está a aumentar o know-how da nossa empresa ou apenas a nossa dependência de inteligência que pertence a terceiros?

É essa, para mim, a parte mais relevante do Reverse Information Paradox.