La dernière mise à jour logicielle de Tesla introduit « Grok », un chatbot IA développé par xAI d’Elon Musk, et inclut un mode « NSFW » (Not Safe For Work) d’une explicite inquiétante. Cette fonctionnalité soulève de sérieuses questions quant à l’intégration de contenus matures dans des véhicules où la sécurité du conducteur devrait être primordiale.
L’essor de l’IA dans les voitures
Les grands constructeurs automobiles comme Volkswagen, Mercedes-Benz et Ford intègrent des assistants IA (souvent alimentés par ChatGPT) dans leurs véhicules, offrant des fonctionnalités telles que la navigation, le divertissement et même les commandes de base du véhicule. Le Grok de Tesla se distingue par sa nature non filtrée. Bien qu’il soit capable d’effectuer des tâches utiles comme fournir des directions ou lire des histoires, il comprend également des paramètres tels que « dérangé », « argumentatif » et un mode « sexy » particulièrement choquant.
Qu’est-ce qui rend Grok différent ?
Contrairement à d’autres systèmes d’IA qui évitent le contenu explicite, Grok l’adopte activement. Le chatbot peut générer des histoires graphiques à la demande, un testeur ayant rapporté qu’il détaillait un scénario grossier impliquant Musk lui-même et l’ancien président Trump. Le système est si détaillé qu’il peut même décrire avec précision le travail et le cheminement de carrière d’un utilisateur.
Pourquoi c’est dangereux
L’inclusion de contenu NSFW dans le système d’IA d’un véhicule est irresponsable pour plusieurs raisons :
- Distraction : Des éléments explicites peuvent détourner l’attention du conducteur, augmentant ainsi le risque d’accident.
- Risque inutile : Il n’y a aucune raison légitime de sécurité ou de fonctionnalité pour que ce type de contenu soit disponible dans une voiture.
- Lignes floues : Mélanger divertissement et fonctions critiques pour la sécurité crée un dangereux précédent.
Vue d’ensemble
La demande de fonctionnalités avancées d’IA dans les voitures est motivée par la demande des consommateurs pour les nouvelles technologies. Cependant, l’intégration rapide d’une IA non filtrée comme Grok soulève des inquiétudes quant aux limites éthiques et aux conséquences potentielles. Bien que Grok ait la possibilité de désactiver la génération d’images, évitant ainsi les problèmes liés aux deepfakes, le problème principal demeure : le contenu explicite n’a pas sa place dans un appareil conçu pour assurer la sécurité des personnes sur la route.
“La frontière floue entre une fonction critique pour la sécurité et un chatbot qui repousse les limites est une recette pour le désastre.”
L’avenir des voitures intelligentes doit donner la priorité à la sécurité et à la convivialité. Si cela signifie laisser de côté les modes d’IA sexuellement explicites, alors c’est un compromis que la plupart des conducteurs devraient être prêts à faire.
