Objetivo do capítulo
Reconhecer os tipos de erro da inteligência artificial, montar uma rotina de conferência e saber quando não usar a ferramenta.
Roteiro do capítulo
Olá. Você já sabe usar a inteligência artificial para textos, planilhas e atendimento. Agora é hora de falar do assunto que protege o seu trabalho: os limites, os erros e a conferência. Neste capítulo, você vai conhecer os tipos de erro mais comuns, aprender uma rotina simples de verificação e entender em quais situações é melhor nem usar a ferramenta.
Vamos começar com os erros mais frequentes. O primeiro é a informação inventada, que os especialistas chamam de alucinação. O assistente cita uma lei que não existe, uma data errada ou uma fonte que ninguém publicou, e escreve tudo com a mesma segurança de quem sabe. O segundo é o erro de conta, especialmente quando há muitos números. O terceiro é a falta de contexto: ele responde como se fosse para qualquer empresa ou pessoa, sem saber da sua situação.
Existem outros erros menos óbvios. Um deles é a informação desatualizada. O assistente aprendeu com materiais de um certo período e pode não saber de mudanças recentes em regras, preços ou procedimentos. Outro é o viés: como ele aprendeu com textos escritos por pessoas, pode repetir preconceitos ou estereótipos, por exemplo, sugerindo um tom diferente para pessoas diferentes. E há o erro de bajulação, quando ele concorda com você só porque você parece acreditar naquilo.
Por que isso acontece? Porque o assistente não verifica se o que escreveu é verdade. Ele gera o que parece natural. Quando falta informação, ele tende a preencher o vazio com algo plausível, em vez de admitir que não sabe. Você pode ajudar pedindo explicitamente: se você não tiver certeza, diga que não sabe e não invente. Essa instrução reduz o problema, mas não o elimina. Por isso, a conferência é obrigatória.
Uma pergunta para você pensar. Na sua função, qual seria o erro mais caro: um preço errado, um prazo errado, uma instrução de segurança errada ou uma informação errada sobre um cliente? Quanto maior o custo do erro, mais forte precisa ser a conferência, e em alguns casos a melhor escolha é não usar a ferramenta.
Conto o caso do Edson, que trabalha em recursos humanos. Ele pediu um texto sobre uma regra de trabalho e recebeu um parágrafo bem escrito, citando um número de artigo e um prazo. Antes de divulgar, ele foi consultar a fonte oficial e descobriu que o artigo citado tratava de outro assunto e que o prazo não existia. Por conferir, ele evitou espalhar uma orientação errada para a empresa inteira.
Vamos montar uma rotina simples de conferência. Primeiro, separe o que é fato verificável: nomes, datas, valores, regras e citações. Segundo, confirme esses fatos em uma fonte confiável, como o documento oficial, o sistema da empresa ou um colega que conhece o assunto. Terceiro, releia o texto procurando coisas estranhas, como exageros ou frases que não combinam com a sua realidade. Quarto, se o assunto for importante, peça que uma segunda pessoa dê uma olhada antes de enviar.
Também é preciso saber quando não usar. Evite a ferramenta para decisões que afetam diretamente a saúde, a segurança ou o dinheiro de alguém, a menos que haja revisão de um responsável qualificado. Evite para tarefas em que você não tem como conferir o resultado. Evite quando a regra da empresa proíbe. E nunca use uma resposta de assistente como se fosse um parecer de médico, advogado ou engenheiro. Para esses assuntos, procure o profissional adequado ou o responsável da sua empresa.
Por fim, um erro comum: achar que, se deu certo cinco vezes, vai dar certo sempre. O assistente pode acertar muitas vezes seguidas e errar na hora em que você menos espera. A conferência não é desconfiança exagerada. É o mesmo cuidado que se tem ao revisar o trabalho de alguém novo na equipe, por mais talentoso que seja.
Vale falar de uma situação delicada: textos que parecem verdadeiros e viram boatos. Hoje é possível criar imagens, vozes e vídeos falsos com inteligência artificial, e eles podem parecer reais. Se você receber um áudio estranho pedindo dinheiro com urgência, ou uma mensagem de um suposto chefe pedindo um pagamento fora do normal, desconfie. Confirme por outro canal, como uma ligação para o número que você já conhece, antes de fazer qualquer coisa. Golpes com vozes falsas já existem e exploram a pressa das pessoas.
Uma técnica útil é pedir ao próprio assistente que ajude na conferência, mas com cuidado. Você pode perguntar: quais afirmações deste texto eu preciso verificar em uma fonte oficial? Ele costuma apontar números, datas e regras. Isso não substitui a verificação, porque ele pode deixar algo passar, mas funciona como uma lista de atenção. A checagem em si deve ser feita por você, no documento ou sistema de onde a informação realmente vem.
E lembre-se de registrar o que você faz. Em tarefas importantes, guarde uma anotação simples de como o texto foi produzido, quem conferiu e qual fonte foi usada. Se alguém questionar o conteúdo depois, você consegue explicar o caminho. Essa transparência protege você e a empresa, e mostra maturidade no uso da tecnologia. Quem usa a ferramenta com responsabilidade ganha confiança dos colegas e dos gestores, e passa a ser referência no assunto.
Resumindo. Primeira ideia: a inteligência artificial pode inventar informações, errar contas, ignorar o contexto e repetir vieses, e tudo isso com muita confiança. Segunda ideia: confira fatos, números e citações em fontes confiáveis, e peça uma segunda opinião quando o assunto for importante. Terceira ideia: em decisões de saúde, segurança ou dinheiro, procure um profissional ou o responsável da empresa. No próximo capítulo, falaremos de privacidade e dados sensíveis. Até logo.
Conteúdo educativo e geral. Não substitui normas técnicas, protocolos da instituição, orientação de profissionais habilitados nem formação ou certificação profissional.