I.A que inventa informação, decide sem explicar ou trata clientes de forma desigual não é só um problema técnico: é um risco para a sua reputação. Veja como usar a tecnologia com responsabilidade.
Publicado em · Inteligência Artificial
Em 2023, advogados nos Estados Unidos foram multados por um tribunal depois de apresentar uma petição com decisões judiciais que simplesmente não existiam. Elas tinham sido geradas por uma ferramenta de I.A e ninguém conferiu. O caso virou referência mundial, e não porque a tecnologia falhou: ela fez exatamente o que modelos de linguagem fazem quando não têm a resposta. O erro foi de quem usou, e de como usou.
É isso que a discussão sobre ética na Inteligência Artificial tem de mais prático para uma empresa. Não é filosofia. É a diferença entre uma ferramenta que ajuda o seu negócio e uma que, sem que você perceba, coloca em risco a sua reputação, os seus clientes e as suas responsabilidades legais.
A I.A não “sabe”: ela calcula a resposta mais provável
Modelos de linguagem como os que estão por trás do ChatGPT geram texto prevendo quais palavras fazem mais sentido em sequência. Na maior parte do tempo, o resultado é útil e correto. Mas quando falta informação, o modelo não diz “não sei”: ele produz algo que parece certo. Uma cláusula que não está no contrato. Um artigo de lei com o número errado. Um valor de reajuste calculado com o índice errado.
No mercado, isso é chamado de alucinação. Para quem trabalha com responsabilidade técnica ou legal (advogados, contadores, engenheiros, síndicos) uma resposta errada dita com confiança é mais perigosa que resposta nenhuma.
A boa notícia é que existem técnicas para reduzir muito esse risco. A má notícia é que elas não vêm prontas. Precisam ser projetadas.
Os cinco princípios de uma I.A responsável
1. Transparência: o usuário sabe que está falando com uma máquina
Clientes e moradores têm o direito de saber quando estão sendo atendidos por um assistente automático. Esconder isso para parecer mais “humano” corrói a confiança no primeiro erro. Ser transparente, pelo contrário, prepara o usuário para conferir o que recebe.
2. Rastreabilidade: toda resposta importante mostra de onde veio
Uma I.A usada para decisões de negócio precisa citar a fonte: o documento, a cláusula, a página, o índice oficial. Se não há fonte, o sistema deve responder “não encontrei”, e não improvisar. Esse é o princípio que seguimos no SindiOps: cada resposta sobre a convenção do condomínio vem com artigo, parágrafo e trecho, e a ferramenta se recusa a preencher lacunas com dados que apenas parecem plausíveis.
3. Supervisão humana: a I.A sugere, uma pessoa decide
Automatizar o rascunho é ótimo. Automatizar a decisão final sobre algo que afeta pessoas (uma cobrança, uma notificação, a aprovação de um orçamento, a triagem de um cliente) é outra conversa. A LGPD, inclusive, garante ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais (art. 20). Um sistema bem desenhado deixa claro onde a pessoa confirma antes de a ação acontecer.
4. Justiça: o sistema não trata grupos de forma desigual
Modelos aprendem com dados do mundo real, e o mundo real tem distorções. Uma I.A que classifica inadimplência, prioriza chamados ou avalia currículos pode reproduzir preconceitos sem que ninguém tenha programado isso de propósito. Evitar esse viés exige testar o sistema com cenários variados e acompanhar os resultados depois que ele entra em produção.
5. Privacidade e segurança: o dado é do cliente, não da ferramenta
Nenhum princípio ético se sustenta se os dados vazam. Usar I.A com responsabilidade passa por saber para onde os dados vão, quem acessa e por quanto tempo ficam guardados. Aprofundamos esse tema em Inteligência Artificial e LGPD: como usar I.A no seu negócio sem expor os dados dos seus clientes.
Ética também é responsabilidade profissional
Cada segmento tem suas próprias regras, e elas continuam valendo quando a I.A entra no processo:
- Advocacia: o sigilo profissional e o dever de diligência não mudam. A OAB já publicou orientações sobre o uso de I.A generativa na advocacia, e a responsabilidade pelo que é protocolado continua sendo do advogado.
- Contabilidade: dados fiscais e financeiros de clientes exigem confidencialidade, e um cálculo errado gerado por I.A continua sendo um erro do escritório.
- Síndicos e administradoras: decisões sobre o dinheiro do condomínio precisam ser justificadas em assembleia. “A I.A sugeriu” não é justificativa; “o contrato prevê, na cláusula 7” é.
- Engenharia: laudos, medições e documentos técnicos têm responsável técnico. A ferramenta pode acelerar o trabalho, não assinar por ele.
Em todos os casos, a pergunta é a mesma: se algo der errado, quem responde? A resposta é sempre a empresa, nunca o fornecedor da ferramenta.
Por que a escolha do parceiro de tecnologia define o resultado
Qualquer pessoa consegue ligar um chatbot a um modelo de linguagem em poucas horas. A diferença entre uma I.A que ajuda e uma que cria problemas está em decisões que não aparecem na demonstração:
- Como o sistema é instruído a responder quando não tem certeza.
- Como as fontes são indexadas, versionadas e citadas.
- Onde está o ponto de confirmação humana.
- Como os dados pessoais são protegidos, isolados e descartados.
- Como o sistema é protegido contra usuários tentando manipulá-lo.
- Como os resultados são monitorados depois da entrega.
Essas decisões exigem profissionais que dominem ao mesmo tempo engenharia de software, segurança da informação e o negócio do cliente. Um fornecedor que só entende da ferramenta entrega algo que funciona no primeiro dia e vira passivo nos meses seguintes.
Sinais de alerta ao contratar um projeto de I.A:
- Promessa de “100% de acerto” ou de substituir totalmente um profissional.
- Nenhuma explicação sobre de onde vêm as respostas.
- Nenhuma pergunta sobre quais dados o sistema vai tratar.
- Ausência de contrato tratando de confidencialidade e proteção de dados.
- Nenhum plano para acompanhar o sistema depois que ele entra no ar.
Como a Tech Blues faz
Na Tech Blues, cada projeto de Inteligência Artificial começa pelo processo e pelos riscos, não pela ferramenta. Definimos com o cliente o que a I.A pode fazer sozinha, o que precisa de confirmação humana e quais dados ela nunca deve ver. Construímos automações e plataformas em que as respostas importantes vêm com fonte, as ações passam por confirmação e a segurança da informação faz parte da arquitetura desde o início.
Quer usar I.A no seu negócio com responsabilidade e sem surpresas? Faça o diagnóstico do seu projeto e converse com um especialista que conhece a rotina do seu mercado.