A OpenAI contrata centenas de prestadores de serviços terceirizados para ler, resumir e avaliar conversas reais de usuários com o ChatGPT. Documentos internos e prompts analisados mostram que conteúdos sensíveis podem chegar aos revisores, embora a empresa adote medidas para remover informações pessoais.
Os profissionais participam do aprimoramento dos modelos de inteligência artificial. Eles avaliam respostas do chatbot e identificam comportamentos inadequados, como a sicofancia — quando o sistema concorda ou elogia o usuário de forma excessiva.
A avaliação humana também inclui a análise do prompt original, o resumo da intenção do usuário e a comparação entre diferentes respostas produzidas pelo ChatGPT. As orientações aos revisores incluem reduzir a chamada “fala de IA”, evitar emojis e estruturas consideradas artificiais, impedir a antropomorfização e identificar respostas que possam reforçar ideias irracionais.
Como desativar o uso das conversas
Nas contas pessoais Free, Plus e Pro, o uso das conversas para aprimoramento dos modelos vem ativado por padrão. Em contas Enterprise, Business e Edu, a opção fica desativada automaticamente.
Para impedir que novas conversas sejam usadas nesse processo, o usuário deve abrir o ChatGPT no navegador ou aplicativo, acessar o ícone de perfil, entrar em “Configurações”, tocar em “Controles de dados” e desativar “Melhorar o modelo para todo mundo”.
A alteração não impede que a OpenAI processe conversas para outras finalidades, como segurança e prevenção de abusos. Também é recomendado evitar o envio de informações sensíveis a qualquer chatbot, mesmo com mecanismos de proteção e configurações de privacidade.
Projeto Lily
O Projeto Lily é o codinome interno de uma iniciativa da OpenAI ligada à avaliação humana das respostas do ChatGPT. O trabalho é realizado por profissionais contratados por empresas terceirizadas.
Os documentos descrevem ainda um filtro automatizado criado para identificar e ocultar informações pessoalmente identificáveis antes da análise humana. O sistema pode ter dificuldades com informações ambíguas ou identificadores incomuns.
Alguns revisores também podem receber um resumo das memórias associadas ao usuário, com dados sobre profissão, localização geral e outros detalhes compartilhados anteriormente. A Anthropic afirma usar análise semelhante quando o usuário autoriza o uso das conversas para treinamento. O Google informa que revisores podem analisar determinados chats salvos do Gemini.
