A China voltou a colocar o mundo diante de uma discussão delicada e cada vez mais urgente: quem deve responder pelos danos emocionais, psicológicos e até financeiros causados por inteligências artificiais que atuam como “namorados virtuais”, conselheiros pessoais ou companhias afetivas digitais.
Segundo matéria veiculada na Folha de São Paulo, autoridades chinesas estudam ampliar a responsabilidade das empresas de tecnologia por eventuais prejuízos provocados por esses sistemas de IA emocional. A preocupação envolve manipulação psicológica, dependência afetiva, isolamento social, aconselhamentos perigosos e influência indevida sobre usuários vulneráveis.
O tema ganhou força após o crescimento explosivo de aplicativos e plataformas de relacionamento com inteligência artificial, especialmente entre jovens e pessoas emocionalmente fragilizadas. Em muitos casos, os usuários passam horas conversando com sistemas programados para oferecer carinho, apoio emocional, elogios e até simulações de relacionamento amoroso.
A China já vem endurecendo regras sobre inteligência artificial há alguns anos. O país mantém uma política regulatória agressiva para controle de algoritmos, monitoramento de conteúdos gerados por IA e responsabilização das empresas que desenvolvem essas tecnologias.
No Brasil, o debate ainda é inicial, mas já começa a surgir no Congresso, no meio jurídico e entre especialistas em tecnologia. O Projeto de Lei 2338/2023, que trata da regulamentação da inteligência artificial no país, discute princípios como transparência, supervisão humana e penalidades por danos causados por sistemas automatizados.
Especialistas alertam que a chamada “IA afetiva” pode ultrapassar os limites de uma simples ferramenta tecnológica. Em determinadas situações, esses sistemas passam a exercer influência emocional intensa sobre usuários fragilizados, criando vínculos artificiais capazes de afetar decisões pessoais, comportamentos e saúde mental.
Casos internacionais envolvendo danos associados a chatbots emocionais já começaram a provocar preocupação em vários países. Nos Estados Unidos, por exemplo, legislações recentes passaram a exigir alertas e mecanismos de proteção para usuários, especialmente menores de idade.
O avanço da inteligência artificial criou uma nova fronteira ética: máquinas já não apenas executam tarefas — agora simulam afeto, escuta, empatia e companhia. E quando a tecnologia invade emoções humanas, o debate deixa de ser apenas tecnológico. Passa a ser jurídico, moral e social.
A pergunta que começa a preocupar governos no mundo inteiro é simples e inquietante: quando um algoritmo machuca emocionalmente alguém, quem paga a conta?
Obs. Chatbot é um “robô de conversa” criado para interagir com seres humanos.
Um algoritmo é uma sequência organizada de passos criada para resolver um problema ou executar uma tarefa.
