A atualização de software mais recente da Tesla apresenta “Grok”, um chatbot de IA desenvolvido pela xAI de Elon Musk, e inclui um modo “NSFW” (Not Safe For Work) perturbadoramente explícito. Este recurso levanta sérias questões sobre a integração de conteúdo adulto em veículos onde a segurança do motorista deveria ser primordial.
A ascensão da IA nos carros
Grandes montadoras como Volkswagen, Mercedes-Benz e Ford estão incorporando assistentes de IA (geralmente alimentados por ChatGPT) em seus veículos, oferecendo recursos como navegação, entretenimento e até mesmo controles básicos do veículo. O Grok de Tesla se destaca por sua natureza não filtrada. Embora seja capaz de realizar tarefas úteis, como fornecer instruções ou ler histórias, também inclui configurações como “desequilibrado”, “argumentativo” e um modo “sexy” particularmente chocante.
O que torna o Grok diferente?
Ao contrário de outros sistemas de IA que evitam conteúdo explícito, Grok o adota ativamente. O chatbot pode gerar histórias gráficas sob demanda, com um testador relatando que detalhou um cenário grosseiro envolvendo o próprio Musk e o ex-presidente Trump. O sistema é tão detalhado que pode até descrever com precisão o trabalho e a carreira de um usuário.
Por que isso é perigoso
A inclusão de conteúdo NSFW no sistema de IA de um veículo é irresponsável por vários motivos:
- Distração: material explícito pode desviar a atenção do motorista, aumentando o risco de acidentes.
- Risco Desnecessário: Não há motivos legítimos de segurança ou funcionais para que esse tipo de conteúdo esteja disponível em um carro.
- Linhas desfocadas: Misturar entretenimento com funções críticas de segurança cria um precedente perigoso.
O panorama geral
O impulso para funcionalidades avançadas de IA nos automóveis é impulsionado pela procura dos consumidores por novas tecnologias. No entanto, a rápida integração de IA não filtrada como Grok levanta preocupações sobre limites éticos e potenciais consequências. Embora Grok tenha a opção de desativar a geração de imagens, evitando problemas relacionados ao deepfake, o problema principal permanece: conteúdo explícito não tem lugar em um dispositivo projetado para manter as pessoas seguras na estrada.
“A indefinição dos limites entre uma função crítica de segurança e um chatbot que ultrapassa limites é uma receita para o desastre.”
O futuro dos carros inteligentes deve priorizar a segurança e a usabilidade. Se isso significa deixar de fora os modos de IA sexualmente explícitos, então essa é uma troca que a maioria dos motoristas deveria estar disposta a fazer.
