Pembaruan perangkat lunak terbaru Tesla memperkenalkan “Grok”, sebuah chatbot AI yang dikembangkan oleh xAI milik Elon Musk, dan mencakup mode “NSFW” (Tidak Aman Untuk Pekerjaan) yang sangat eksplisit. Fitur ini menimbulkan pertanyaan serius tentang integrasi konten dewasa ke dalam kendaraan yang mengutamakan keselamatan pengemudi.
Bangkitnya AI di Mobil
Produsen mobil besar seperti Volkswagen, Mercedes-Benz, dan Ford menyematkan asisten AI (sering kali didukung oleh ChatGPT) ke dalam kendaraan mereka, menawarkan fitur seperti navigasi, hiburan, dan bahkan kontrol dasar kendaraan. Grok Tesla menonjol karena sifatnya yang tanpa filter. Meskipun mampu melakukan tugas-tugas bermanfaat seperti memberikan arahan atau membaca cerita, ini juga mencakup pengaturan seperti mode “tidak tertekan”, “argumentatif”, dan mode “seksi” yang sangat mengejutkan.
Apa yang Membuat Grok Berbeda?
Tidak seperti sistem AI lain yang menghindari konten eksplisit, Grok secara aktif menerapkannya. Chatbot dapat menghasilkan cerita grafis sesuai permintaan, dan salah satu penguji melaporkan bahwa chatbot tersebut merinci skenario kasar yang melibatkan Musk sendiri dan mantan Presiden Trump. Sistem ini sangat detail bahkan dapat menggambarkan pekerjaan dan jalur karier pengguna secara akurat.
Mengapa Ini Berbahaya
Dimasukkannya konten NSFW ke dalam sistem AI kendaraan merupakan tindakan yang tidak bertanggung jawab karena beberapa alasan:
- Gangguan: Materi eksplisit dapat mengalihkan perhatian pengemudi sehingga meningkatkan risiko kecelakaan.
- Risiko yang Tidak Perlu: Tidak ada alasan keamanan atau fungsi yang sah untuk konten semacam ini tersedia di dalam mobil.
- Garis Kabur: Menggabungkan hiburan dengan fungsi yang sangat penting bagi keselamatan akan menciptakan preseden yang berbahaya.
Gambaran Lebih Besar
Dorongan terhadap fitur-fitur AI yang canggih pada mobil didorong oleh permintaan konsumen akan teknologi baru. Namun, integrasi cepat AI tanpa filter seperti Grok menimbulkan kekhawatiran tentang batasan etika dan potensi konsekuensinya. Meskipun Grok memiliki opsi untuk menonaktifkan pembuatan gambar, untuk mencegah masalah terkait deepfake, masalah intinya tetap ada: konten eksplisit tidak memiliki tempat di perangkat yang dirancang untuk menjaga keselamatan orang di jalan.
“Kaburnya batas antara fungsi yang sangat penting bagi keselamatan dan chatbot yang melampaui batasan adalah resep bencana.”
Masa depan mobil pintar harus mengutamakan keselamatan dan kegunaan. Jika hal ini berarti tidak menggunakan mode AI yang eksplisit secara seksual, maka hal ini merupakan trade-off yang harus dilakukan oleh sebagian besar pengemudi.
