A sua empresa traçou uma linha que muitas outras traçaram neste ano : não colar registros de clientes nem documentos internos no ChatGPT ou em qualquer outra ferramenta de IA aberta ao público. O receio é justificável, e a produtividade que as pessoas continuam pedindo também é. A notícia útil de uma discussão recente da Polora, na qual cinco modelos de IA, cada qual em um papel diferente, percorreram exatamente essa questão, é que a escolha não se resume a usar o ChatGPT público ou construir tudo por conta própria. Existem três caminhos genuinamente distintos, e escolher bem começa por uma pergunta sobre as suas próprias regras, não sobre tecnologia.
Primeiro, defina o que a sua regra realmente proíbe
O ponto mais claro em que a discussão convergiu foi que as empresas costumam misturar duas regras muito diferentes. Uma diz que um fornecedor não pode guardar os seus comandos nem usá-los para melhorar os modelos que ele oferece ao público. Outra, mais rígida, diz que nenhuma empresa de fora pode ver ou reter o seu texto em formato legível, seja qual for a garantia do contrato. O consultor de conformidade do painel chamou esses casos de risco de treinamento e risco de processamento por terceiros, e observou que não entregar dados a um terceiro é uma exigência muito mais alta do que não treinar com eles. O que decide tudo o que vem depois é qual dessas regras a sua política de fato quer dizer. Por isso, o primeiro passo não é procurar um programa para comprar. É perguntar às equipes jurídica e de segurança qual linha elas realmente traçaram.
Caminho um : um plano corporativo que promete não treinar com os seus dados
A opção mais leve é um plano corporativo pago de um grande fornecedor de IA, usado sob um contrato assinado em vez do cadastro comum de consumidor. O consultor destacou que a promessa mora no pedido formal e no acordo de tratamento de dados, não na página de divulgação : nenhum treinamento com o seu conteúdo, criptografia, um prazo definido de retenção, a região onde os dados ficam, uma lista nomeada de subcontratados e login corporativo com registro de auditoria. O especialista em infraestrutura descreveu essa rota como a mais rápida e a de menor esforço, já que o fornecedor opera o modelo e a sua equipe apenas faz login.
O pesquisador que checou essas afirmações acrescentou um cuidado que vale guardar. A OpenAI, por exemplo, declara que as entradas dos planos corporativos não são usadas para treinar seus modelos por padrão, mas a retenção zero é oferecida somente a clientes elegíveis e varia conforme o produto e a região. Isso precisa ser confirmado no seu próprio contrato, e não presumido a partir da marca corporativa de um fornecedor.
Caminho dois : a sua própria nuvem, e por que ela ainda é a nuvem de outra pessoa
O caminho intermediário roda um modelo de pesos abertos, como o Llama, da Meta, ou o Qwen, da Alibaba, dentro da conta da sua própria empresa na AWS, na Azure ou no Google. Seus arquivos permanecem dentro do perímetro da sua rede, e a empresa que construiu o modelo nunca os vê. Vários participantes ofereceram essa solução para quando a regra proíbe serviços de IA de fora, mas o provedor de nuvem que você já usa é de confiança.
O pesquisador contestou um exagero comum. Um modelo rodando na sua conta de nuvem não elimina o processamento por terceiros. Na maioria das definições de privacidade, o provedor de nuvem continua sendo um processador, e a própria orientação da AWS descreve seus controles de rede privada como algo que reduz a exposição, não que encerra essa relação. Se a sua regra proíbe de verdade qualquer processador externo, este caminho não a atende.
※ modelo de pesos abertos : um modelo de IA cujos ajustes internos são publicados, de modo que qualquer pessoa pode baixá-lo e rodá-lo nas próprias máquinas, em vez de acessá-lo apenas pelo site do fabricante.
Caminho três : o seu próprio equipamento, o máximo de controle e o máximo de trabalho
O caminho mais rígido compra servidores físicos e roda o modelo inteiramente dentro do seu prédio, sem nenhuma conexão externa. Essa é a única configuração que permite afirmar com honestidade que nenhuma empresa de fora toca nos dados, e o painel concordou que ela serve a trabalhos de defesa, a ambientes fisicamente isolados da internet ou a contratos que proíbem qualquer processamento externo.
Os participantes foram diretos ao dizer que isto não é uma compra, e sim um serviço que você precisa manter : equipamento, energia, refrigeração, correções de segurança, cópias de reserva e pessoas que mantenham tudo funcionando. O juiz alertou que uma empresa sem engenheiros de IA pode transformar isso em uma dor de cabeça de infraestrutura abandonada, e que um modelo baixado é só o motor, nunca o produto pronto.
Quanto tudo isso custa de verdade, e por que os números redondos merecem desconfiança
Para tornar os caminhos concretos, os participantes lançaram alguns valores : cerca de vinte a sessenta dólares por usuário a cada mês para um plano corporativo, de mil e quinhentos a quatro mil dólares por mês para um modelo rodando em nuvem privada, e de quinze a sessenta mil dólares ou mais para um servidor capaz. O pesquisador tratou esses números como orçamentos ilustrativos, não como preços. O custo real oscila conforme o equipamento, a região, o tamanho do modelo, quantas pessoas o usam ao mesmo tempo e a rapidez com que ele precisa responder.
O que mais fica de fora, todos concordaram, são as pessoas. O trabalho de engenharia e integração, e sobretudo construir uma busca de arquivos que respeite quem tem permissão para ver o quê, tende a ser a maior conta escondida. O modelo em si raramente é a parte cara.
O quanto os modelos abertos já dão conta do trabalho comum
Para as tarefas simples que a maioria das pessoas quer, resumir um relatório longo, redigir uma mensagem, extrair termos importantes de um documento ou fazer perguntas sobre uma pasta de arquivos, os modelos abertos avançaram bastante. O avaliador de desempenho da discussão colocou um modelo aberto de porte médio em noventa a noventa e cinco por cento da qualidade de um modelo de ponta, mas o pesquisador apontou esse número como um julgamento sem sustentação e dependente da tarefa, e não como uma medição.
O que o painel afirmou com mais firmeza foi isto : um modelo na classe de setenta bilhões de parâmetros dá conta de resumos rotineiros e de respostas ancoradas em documentos bem o bastante para que o usuário comum quase não perceba diferença, enquanto os modelos pequenos que cabem em um laptop perdem detalhes e inventam mais, o que faz deles uma opção ruim como ferramenta principal para trabalho sensível. Os modelos comerciais líderes ainda saem na frente em documentos digitalizados de baixa qualidade, em entradas muito longas lidas de uma só vez e em raciocínios difíceis de várias etapas.
Para arquivos, a busca importa mais do que o modelo
Um tema atravessou todas as contribuições : deixar os funcionários conversarem com arquivos internos quase não depende da inteligência do modelo. Depende da camada de recuperação, o sistema que encontra os trechos certos e os entrega ao modelo junto com a pergunta. Se ela puxa o trecho errado, até o melhor modelo responde mal.
Mais grave, essa camada precisa aplicar as mesmas permissões de arquivo que as pessoas já têm. Do contrário, como resumiu o juiz, você constrói uma sofisticada ferramenta de vazamento de dados internos, capaz de deixar um funcionário iniciante resumir arquivos confidenciais da diretoria. Ancorar as respostas em fontes citadas e manter os documentos atualizados foram apontados como as partes que de fato decidem se o sistema vale a pena.
Uma ordem sensata para experimentar
Para uma empresa sem engenheiros de IA, o painel convergiu para uma sequência, e não para uma resposta única. Classifique os seus dados primeiro, já que nem tudo que se chama sensível carrega a mesma restrição. Se a preocupação real for treinamento e ferramentas públicas, leve um plano corporativo bem contratado à sua equipe jurídica, porque ele oferece a maior qualidade com o menor esforço. Se os serviços de IA de fora forem proibidos, mas a sua nuvem for de confiança, rode um modelo aberto na sua própria conta. Reserve o equipamento físico para os casos difíceis, em que uma lei ou um contrato não deixa outra saída.
Um cuidado apareceu mais de uma vez : pesos abertos não significa livre de amarras jurídicas, então peça a alguém que leia a licença do modelo antes de construir sobre ele. E qualquer que seja a escolha, os participantes foram unânimes no último passo. Teste com os seus próprios documentos e perguntas reais, porque nenhum ranking público consegue dizer como o modelo lida com os seus contratos, os seus arrendamentos ou os seus chamados de suporte.
