La última actualización de software de Tesla presenta “Grok”, un chatbot de IA desarrollado por xAI de Elon Musk, e incluye un modo “NSFW” (No seguro para el trabajo) inquietantemente explícito. Esta característica plantea serias dudas sobre la integración de contenido para adultos en vehículos donde la seguridad del conductor debería ser primordial.
El auge de la IA en los automóviles
Los principales fabricantes de automóviles como Volkswagen, Mercedes-Benz y Ford están incorporando asistentes de inteligencia artificial (a menudo impulsados por ChatGPT) en sus vehículos, ofreciendo funciones como navegación, entretenimiento e incluso controles básicos del vehículo. Grok de Tesla destaca por su naturaleza sin filtrar. Si bien es capaz de realizar tareas útiles como proporcionar instrucciones o leer historias, también incluye configuraciones como “desquiciado”, “argumentativo” y un modo “sexy” particularmente discordante.
¿Qué hace que Grok sea diferente?
A diferencia de otros sistemas de inteligencia artificial que evitan el contenido explícito, Grok lo adopta activamente. El chatbot puede generar historias gráficas a pedido, y un evaluador informó que detallaba un escenario crudo que involucra al propio Musk y al expresidente Trump. El sistema es tan detallado que incluso puede describir con precisión el trabajo y la trayectoria profesional de un usuario.
Por qué esto es peligroso
La inclusión de contenido NSFW en el sistema de IA de un vehículo es irresponsable por varias razones:
- Distracción: El material explícito puede desviar la atención del conductor, aumentando el riesgo de accidentes.
- Riesgo innecesario: No existe ninguna razón legítima de seguridad o funcional para que este tipo de contenido esté disponible en un automóvil.
- Líneas borrosas: Mezclar entretenimiento con funciones críticas para la seguridad crea un precedente peligroso.
El panorama más amplio
El impulso por funciones avanzadas de inteligencia artificial en los automóviles está impulsado por la demanda de nueva tecnología por parte de los consumidores. Sin embargo, la rápida integración de IA sin filtros como Grok genera preocupaciones sobre los límites éticos y las posibles consecuencias. Si bien Grok tiene una opción para desactivar la generación de imágenes, evitando problemas relacionados con deepfake, el problema principal sigue siendo: el contenido explícito no tiene cabida en un dispositivo diseñado para mantener a las personas seguras en la carretera.
“La confusión entre una función crítica para la seguridad y un chatbot que traspasa los límites es una receta para el desastre”.
El futuro de los coches inteligentes debería priorizar la seguridad y la usabilidad. Si esto significa dejar de lado los modos de IA sexualmente explícitos, entonces esa es una compensación que la mayoría de los conductores deberían estar dispuestos a hacer.
