De nieuwste software-update van Tesla introduceert ‘Grok’, een AI-chatbot ontwikkeld door xAI van Elon Musk, en bevat een verontrustend expliciete ‘NSFW’-modus (Not Safe For Work). Deze functie roept serieuze vragen op over de integratie van volwassen inhoud in voertuigen waarbij de veiligheid van de bestuurder voorop moet staan.
De opkomst van AI in auto’s
Grote autofabrikanten als Volkswagen, Mercedes-Benz en Ford integreren AI-assistenten (vaak mogelijk gemaakt door ChatGPT) in hun voertuigen, met functies als navigatie, entertainment en zelfs basisbediening van het voertuig. Tesla’s Grok valt op door zijn ongefilterde karakter. Hoewel het in staat is tot nuttige taken zoals het geven van aanwijzingen of het lezen van verhalen, bevat het ook instellingen als ‘losgeslagen’, ‘argumentatief’ en een bijzonder schokkende ‘sexy’ modus.
Wat maakt Grok anders?
In tegenstelling tot andere AI-systemen die expliciete inhoud vermijden, omarmt Grok deze actief. De chatbot kan op verzoek grafische verhalen genereren, waarbij een tester meldde dat hij een grof scenario schetste waarbij Musk zelf en voormalig president Trump betrokken waren. Het systeem is zo gedetailleerd dat het zelfs de functie en het carrièrepad van een gebruiker nauwkeurig kan beschrijven.
Waarom dit gevaarlijk is
Het opnemen van NSFW-inhoud in het AI-systeem van een voertuig is om verschillende redenen onverantwoord:
- Afleiding: Expliciet materiaal kan de aandacht van een bestuurder afleiden, waardoor het risico op ongevallen toeneemt.
- Onnodig risico: Er is geen legitieme veiligheids- of functionele reden waarom dit soort inhoud beschikbaar is in een auto.
- Vage lijnen: Het combineren van entertainment met veiligheidskritische functies creëert een gevaarlijk precedent.
Het grotere geheel
De drang naar geavanceerde AI-functies in auto’s wordt gedreven door de vraag van consumenten naar nieuwe technologie. De snelle integratie van ongefilterde AI zoals Grok roept echter zorgen op over ethische grenzen en mogelijke gevolgen. Hoewel Grok een optie heeft om het genereren van afbeeldingen uit te schakelen, waardoor deepfake-gerelateerde problemen worden voorkomen, blijft het kernprobleem bestaan: expliciete inhoud hoort niet thuis op een apparaat dat is ontworpen om mensen veilig op de weg te houden.
“Het vervagen van de grenzen tussen een veiligheidskritische functie en een grensverleggende chatbot is een recept voor een ramp.”
De toekomst van slimme auto’s moet prioriteit geven aan veiligheid en bruikbaarheid. Als dit betekent dat seksueel expliciete AI-modi worden weggelaten, dan is dat een afweging die de meeste bestuurders bereid zouden moeten zijn te maken.
