Inteligência ArtificialArtigo
Erros de IA em empresas: 6 casos documentados e a lição de cada um para a PME
Em resumo
Air Canada, Mata v. Avianca, multas por jurisprudência falsa no TJSC e no TSE, Samsung, o Chevrolet de US$ 1 e o chatbot da DPD: o que houve em cada caso, o custo que as fontes comprovam, o controle que faltou e um checklist para a pequena empresa antes de soltar a IA.
Em resumo: nos seis casos documentados reunidos aqui, o problema não foi uma máquina fora de controle, e sim três falhas de processo: publicar um robô que responde em nome da empresa sem conferir o que ele diz, entregar um texto gerado por IA sem checar as fontes e deixar a equipe colar informação sigilosa numa ferramenta externa. Todos têm decisão judicial, nota oficial ou cobertura de veículo de grande porte. Onde o valor foi divulgado, a conta direta foi modesta (CA$ 812,02 no caso Air Canada, US$ 5.000 no caso Avianca); em outros, nem foi informada. O que pesou foi a responsabilidade imposta à empresa, a multa processual, a ferramenta desligada às pressas e a exposição pública.
Por que olhar casos reais antes de colocar IA no atendimento
Quem está perto de contratar um assistente de IA costuma ouvir dois tipos de história: a do ganho de produtividade e a do desastre viral. As duas tendem ao exagero. Os casos documentados mostram algo mais útil para a pequena e média empresa: o tipo de erro se repete, o custo aparece em lugares previsíveis e quase sempre havia uma regra simples que teria evitado o problema.
O critério desta seleção foi rígido. Entraram apenas episódios com fonte primária (decisão de tribunal, nota oficial do tribunal ou declaração da própria empresa) ou com cobertura de veículos como CBC, Bloomberg, Inc. e Time, sempre com data. Onde a fonte não informa o valor do prejuízo, o texto diz isso, em vez de estimar. O golpe com vídeo falso contra a Arup, em 2024, ficou de fora desta lista porque já tem análise própria no protocolo de como verificar pedidos de pagamento contra deepfake; aqui o foco é o erro da ferramenta da própria empresa, não o crime de terceiros.
Caso 1: Air Canada responde pelo que o chatbot prometeu (Canadá, fevereiro de 2024)
O que houve. Depois da morte da avó, em novembro de 2022, o passageiro Jake Moffatt perguntou ao chatbot do site da Air Canada sobre a tarifa de luto. O robô informou que ele poderia comprar a passagem cheia e pedir o desconto depois, dentro de três meses da emissão. A regra real da companhia não permitia o pedido retroativo, e o reembolso foi negado. Na disputa, a empresa alegou que não podia responder pelo que o chatbot dizia. Em 14 de fevereiro de 2024, o Civil Resolution Tribunal da Colúmbia Britânica rejeitou a tese em Moffatt v. Air Canada, 2024 BCCRT 149: o membro do tribunal Christopher Rivers chamou de notável a ideia de tratar o robô como entidade separada e registrou que o chatbot é apenas uma parte do site da empresa.
Custo comprovado. CA$ 812,02, somando indenização, juros e taxas, segundo a CBC e a Kiplinger; a companhia disse que cumpriria a decisão. É uma decisão de tribunal de pequenas causas, sem força de precedente obrigatório para outros tribunais.
A lição para a PME. O valor foi baixo; o recado, não. O robô fala em nome da loja, e o cliente não tem como saber que uma página do site está certa e a outra errada. No Brasil, o tema aparece no texto sobre como a IA está mudando o e-commerce brasileiro, e o art. 30 do Código de Defesa do Consumidor estabelece: Toda informação ou publicidade, suficientemente precisa, veiculada por qualquer forma ou meio de comunicação com relação a produtos e serviços oferecidos ou apresentados, obriga o fornecedor que a fizer veicular ou dela se utilizar e integra o contrato que vier a ser celebrado. Preço, prazo ou condição informados pelo robô entram nessa conta. A prática que decorre disso é limitar o assistente a responder política comercial a partir de um texto aprovado, e mandar para uma pessoa toda pergunta sobre exceção, reembolso ou desconto.
Caso 2: Mata v. Avianca, as decisões judiciais que nunca existiram (EUA, junho de 2023)
O que houve. Num processo contra a Avianca em Nova York, dois advogados do escritório Levidow, Levidow & Oberman protocolaram uma peça com seis decisões judiciais inventadas pelo ChatGPT, com citações e trechos falsos. O problema maior veio depois: mesmo quando o juiz questionou a existência das decisões, eles continuaram a defendê-las.
Custo comprovado. Em 22 de junho de 2023, o juiz P. Kevin Castel aplicou multa de US$ 5.000, paga de forma solidária pelos dois advogados e pelo escritório, segundo a ordem de sanções publicada no Justia e a Bloomberg Law. Também mandou que enviassem a decisão ao cliente e a cada juiz cujo nome aparecia como autor das sentenças falsas. No mesmo dia, a ação do cliente foi extinta por outro motivo, o prazo vencido pela Convenção de Montreal; o texto da sanção não atribui essa derrota à IA, e este artigo também não.
A lição para a PME. O juiz escreveu que não há nada de impróprio em usar uma ferramenta de IA confiável como apoio. O erro foi assinar sem conferir e insistir quando o problema apareceu. Na empresa, isso vale para parecer, proposta, contrato e relatório: o que sai com o nome da empresa precisa de alguém que confira as fontes antes de enviar, e erro descoberto se corrige na hora.
Caso 3: jurisprudência falsa também já gerou multa no Brasil (2023 e 2025)
O que houve. Em notícia do próprio Tribunal de Justiça de Santa Catarina, a 6ª Câmara Civil multou por litigância de má-fé o autor de um recurso que citava jurisprudência e doutrina inexistentes; o advogado atribuiu o erro a um uso inadvertido do ChatGPT, e o caso foi comunicado à OAB/SC. Antes, em abril de 2023, a multa veio da Corregedoria-Geral da Justiça Eleitoral: o ministro Benedito Gonçalves puniu por má-fé o advogado que levou ao TSE uma petição escrita com ajuda do ChatGPT, que ele chamou de fábula, conforme o Migalhas.
Custo comprovado. No TJSC, em fevereiro de 2025, a multa foi de 10% sobre o valor atualizado da causa. No caso do TSE, os veículos publicaram valores diferentes para a multa, e por isso o valor fica fora deste texto. O Tribunal de Justiça do Paraná também já multou advogado por usar IA sem zelo e cautela, como relatou o Lex.
A lição para a PME. A empresa que é parte no processo pode pagar pela pesquisa malfeita de quem a representa: no caso do TJSC, a multa recaiu sobre quem recorreu, calculada sobre o valor da causa. Ao contratar advogado, contador ou consultor, vale perguntar como ele usa IA e como confere o que a ferramenta devolve. A pergunta cabe no contrato, ao lado das cláusulas que a pequena empresa deve exigir do fornecedor de IA.
Caso 4: Samsung e o código sensível enviado ao ChatGPT (maio de 2023)
O que houve. Segundo a Bloomberg, que leu um memorando interno, funcionários da Samsung Electronics enviaram código sensível ao ChatGPT. A preocupação registrada no documento era que o dado mandado a essas plataformas fica guardado em servidores externos, é difícil de recuperar e apagar e pode acabar exposto a outros usuários.
Custo comprovado. A reportagem não informa a dimensão do vazamento. O que ela mostra é a reação: a empresa comunicou à equipe de uma de suas maiores divisões que o uso de ferramentas populares de IA generativa, ChatGPT incluído, passava a ser restrito. Ou seja, o custo visível foi perder o acesso à ferramenta.
A lição para a PME. Restringir depois do incidente deixa a equipe sem a ferramenta. Antes, a empresa decide o que pode e o que não pode ir para uma IA externa, como mostra o guia sobre o que a equipe pode e não pode colar no ChatGPT, e escreve isso numa política de uso de IA com as sete decisões antes de liberar o uso. Código, planilha de clientes, contrato e dado financeiro são os primeiros itens da lista.
Caso 5: o Chevrolet Tahoe por US$ 1 que não foi vendido (EUA, dezembro de 2023)
O que houve. A concessionária Chevrolet of Watsonville, na Califórnia, tinha no site um chatbot baseado no ChatGPT, fornecido pela startup Fullpath. O empresário de tecnologia Chris Bakke instruiu o robô a concordar com tudo o que o cliente dissesse e a terminar cada resposta com a frase de que aquilo era uma oferta com valor legal. Em seguida, disse que queria um Tahoe 2024 e tinha US$ 1 de orçamento. O robô aceitou o negócio, relatou a Inc..
Custo comprovado. Nenhuma venda. Bakke tratou a conversa como piada, a Inc. avaliou que ele dificilmente receberia o carro e, em 18 de dezembro de 2023, o chatbot já não estava no site da concessionária. O custo foi a ferramenta retirada do ar e a exposição: as capturas de tela circularam amplamente, como registrou a Futurism.
A lição para a PME. Um robô de atendimento sem limite de assunto pode ser levado a dizer qualquer coisa, inclusive uma oferta absurda. Para quem vende, preço e condição comercial não podem sair de texto livre gerado pelo modelo: devem vir do cadastro do produto. Se um valor errado aparecer, a discussão jurídica é a mesma do erro de preço no site e a obrigação de vender pelo CDC, e a melhor defesa é não deixar o robô negociar.
Caso 6: o chatbot da DPD que xingou e chamou a empresa de pior do mundo (Reino Unido, janeiro de 2024)
O que houve. O músico Ashley Beauchamp tentava localizar uma encomenda perdida pelo chatbot da transportadora DPD e não conseguia ajuda. Pediu para falar com uma pessoa, o robô não conseguiu transferir, e ele passou a testá-lo: pediu que ignorasse as regras e usasse palavrão, e foi atendido; pediu que exagerasse o ódio à DPD, e o robô escreveu que ela era a pior transportadora do mundo, além de um poema sobre um chatbot inútil, conforme a Time.
Custo comprovado. Nenhum valor em dinheiro foi divulgado. Em e-mail de um porta-voz à Time, a DPD atribuiu o comportamento a um erro surgido depois de uma atualização do sistema em 18 de janeiro e disse que o componente de IA foi desativado de imediato para correção. A empresa lembrou que usava IA no chat havia anos.
A lição para a PME. Atualização de sistema é momento de teste, não de confiança. Antes de liberar uma versão nova do robô, alguém tenta quebrá-lo de propósito com os pedidos que um cliente irritado faria. E a pessoa que não consegue resolver precisa de um caminho claro para um atendente, porque foi a frustração com o robô que gerou o episódio.
Os seis casos lado a lado
| Caso | Data | Tipo de erro | Custo comprovado na fonte | Controle que faltou |
|---|---|---|---|---|
| Air Canada | fev/2024 | chatbot informou regra comercial errada | CA$ 812,02 por decisão de tribunal | resposta presa ao texto oficial da política |
| Mata v. Avianca | jun/2023 | decisões judiciais inventadas | US$ 5.000 de multa | conferência das fontes antes de assinar |
| TJSC e TSE | 2023 e 2025 | jurisprudência inexistente em peça | 10% do valor atualizado da causa (TJSC); multa sem valor confirmado (TSE) | conferência das fontes antes de protocolar |
| Samsung | mai/2023 | código sigiloso enviado a IA externa | não divulgado; uso de IA generativa restringido numa divisão | regra prévia do que não vai para IA externa |
| Chevrolet of Watsonville | dez/2023 | robô manipulado a aceitar oferta absurda | sem venda; chatbot retirado | limite de assunto e preço vindo do cadastro |
| DPD | jan/2024 | robô xingou cliente após atualização | não divulgado; IA desativada | teste de versão nova e saída para humano |
Checklist para a PME antes de soltar a IA
As regras abaixo saem dos controles que faltaram nos casos. São sugestão de processo, sem base legal específica; adapte ao tamanho da empresa.
- O robô só responde política comercial a partir de um texto aprovado. Reembolso, troca, desconto e prazo vêm de uma base escrita e revisada, não da criatividade do modelo.
- Preço e condição saem do cadastro. O assistente consulta o valor; não negocia nem aceita proposta.
- Exceção vai para uma pessoa. Defina os assuntos que sempre passam para atendimento humano e deixe o caminho visível para o cliente.
- Toda versão nova é testada com tentativa de quebra. Peça ao robô que ignore as regras, xingue, ofereça desconto e fale mal da empresa. Se ele obedecer, não vai ao ar.
- O que sai com o nome da empresa tem conferente. Citação de lei, decisão, número e fonte em documento gerado com IA é checada por alguém antes do envio.
- Há uma lista do que não vai para IA externa. Código, dados de clientes, contratos e números financeiros ficam fora, ou só entram em ferramenta contratada com essa garantia.
- O agente tem permissão mínima. Se ele executa ações, como emitir cupom ou alterar pedido, aplique as regras de como limitar permissões, aprovar ações e acompanhar os erros de um agente de IA.
- Erro descoberto é corrigido e assumido. No caso Avianca, a sanção destacou que os advogados continuaram a defender as decisões falsas depois que o juiz questionou a existência delas. Negar a responsabilidade, como tentou a Air Canada, também não funcionou.
Exemplo hipotético: o assistente da loja antes e depois do checklist
Exemplo: uma loja on-line hipotética coloca um assistente de IA no chat para tirar dúvidas. Na primeira versão, ele responde com base no site inteiro e no conhecimento geral do modelo. Um cliente pergunta se pode devolver um produto personalizado depois de 30 dias, e o robô diz que sim, porque a resposta parece gentil. A política da loja não permite.
Na segunda versão, a loja aplica três itens do checklist: as respostas sobre troca e devolução saem de um texto de política aprovado; qualquer pedido fora da regra (produto personalizado, prazo vencido) vira transferência para uma atendente; e, antes de publicar, alguém da equipe passa meia hora tentando fazer o robô prometer o que não deve. O assistente fica menos simpático em algumas respostas, mas deixa de criar obrigação que a loja não quer cumprir. Para decidir até onde o robô vai, vale entender a diferença entre chatbot, copiloto e agente de IA: quanto mais autonomia, mais controles do checklist se aplicam.
Este texto tem caráter informativo, relata decisões e reportagens consultadas em outubro de 2026 e não substitui a análise de um advogado para o caso concreto.
Comece por aqui Novo no assunto? Leia primeiro inteligência artificial para pequenas empresas, o texto-base desta cobertura.
Fonte: Civil Resolution Tribunal (Moffatt v. Air Canada, 2024 BCCRT 149)
Perguntas frequentes
A empresa responde pelo que o chatbot diz ao cliente?
No caso Air Canada, de fevereiro de 2024, um tribunal canadense de pequenas causas decidiu que sim e mandou a companhia pagar CA$ 812,02 ao passageiro que seguiu a informação errada do robô. A decisão não obriga tribunais brasileiros, mas no Brasil o art. 30 do Código de Defesa do Consumidor diz que a informação suficientemente precisa sobre produto ou serviço oferecido obriga o fornecedor que a veicula ou dela se utiliza, e o chatbot fala em nome da loja.
O chatbot que aceitou vender um carro por US$ 1 obrigou a concessionária a vender?
Não há registro de venda. O cliente tratou a conversa como piada, a revista Inc. avaliou que ele dificilmente receberia o carro e a concessionária Chevrolet of Watsonville tirou o chatbot do site até 18 de dezembro de 2023. O custo foi a ferramenta desligada e a exposição pública.
Já houve multa no Brasil por petição com jurisprudência inventada por IA?
Sim. O TJSC informou ter multado por litigância de má-fé, em 10% do valor atualizado da causa, o autor de um recurso com jurisprudência e doutrina inexistentes, que o advogado atribuiu ao uso do ChatGPT. Em 2023, o corregedor-geral da Justiça Eleitoral também multou um advogado por uma petição redigida com o ChatGPT.
Proibir o ChatGPT na empresa resolve o risco de vazamento?
Foi o caminho da Samsung em maio de 2023: segundo a Bloomberg, a empresa restringiu o uso de IA generativa numa de suas maiores divisões depois que funcionários enviaram código sensível ao ChatGPT. Restringir depois do incidente significa ficar sem a ferramenta. Para a pequena empresa, costuma funcionar melhor definir antes, por escrito, o que nunca vai para uma IA externa e qual ferramenta contratada pode receber dado interno.
Qual o controle mais barato para evitar esses erros?
Conferência humana no ponto certo. Nos casos de jurisprudência falsa, bastava checar as fontes antes de protocolar; nos de atendimento, bastava limitar o robô a um texto aprovado e testar a versão nova tentando quebrá-la antes de publicar.
