Wie ooit in zelfrijdende Tesla stapt, of ernaast rijdt, kijkt best eerst naar deze documentaire

Een tunnel op een Amerikaanse snelweg. Honderden wagens razen door de spits. Plots, uit het niets, gaat een zelfrijdende Tesla vol in de remmen. Andere auto's kunnen niet meer uitwijken en knallen op het voertuig.

De oorzaak? Niet alleen chatbots kunnen hallucineren, ook auto's.

De Amerikaanse professor Missy Cummings omschrijft het fenomeen als phantom braking of spookremmen: een wagen remt plots hard af zonder duidelijke reden, want het systeem 'ziet' een obstakel dat er niet is en reageert daarop alsof het echt is.

Bij een chatbot leidt zo'n hallucinatie tot een verzonnen antwoord. Bij een auto die aan snelwegsnelheid rijdt, kan het dodelijke gevolgen hebben. Volgens Cummings weten onderzoekers nog altijd niet precies wanneer of waarom zulke spookremacties optreden.

Documentaire 'Elon Musk unveiled: the Tesla experiment' zet het mantra dat al lang boven de vele techbedrijven in het Amerikaanse Silicon Valley hangt, weer op scherp: "Move Fast And Break Things". Ooit was het een slogan van Facebook, intussen is het ook de filosofie achter Tesla.

Het bedrijf van Elon Musk bracht in 2014 zijn Model S op de markt. En pakte volgens critici te snel uit met Autopilot, een systeem dat de wagens deels zelfstandig laat rijden, sturen en remmen zonder dat de bestuurder alles zelf moet doen. Met alle gevolgen van dien.

Op 7 mei 2016 rijdt een Tesla met ingeschakelde Autopilot onder een vrachtwagenoplegger zonder af te remmen. Bestuurder Joshua Brown overleeft de klap niet en wordt het 1e bekende dodelijke slachtoffer van de technologie.

Elon Musk belooft nadien dat het probleem is opgelost. Zelfs een "UFO in dichte mist" zal volgens hem geen probleem meer vormen.

Toch blijven de ongevallen volgen. In 2019 rijdt een bestuurder die naar zijn gevallen telefoon zoekt met 60 kilometer per uur een kruispunt over. De 22-jarige Naibel Benavides Leon, die iets verderop naast haar geparkeerde wagen staat, komt daarbij om het leven.

Haar vriend Dillon Angulo stond vlak bij haar en overleefde de aanrijding, al raakte ook hij gewond. In deze documentaire vertelt hij hoe hij de gevolgen van die avond vandaag de dag nog altijd met zich meedraagt.

'Elon Musk unveiled: the Tesla experiment' opent dan ook met de aangrijpende bodycambeelden van de politie, opgenomen op die noodlottige avond. Het zet meteen de toon voor wat volgt.

"Ik wist helemaal niets over Tesla of Autopilot", getuigt de zus van Naibel. "Hoe meer we erover vernamen, hoe meer we beseften dat er blijkbaar meer aan de hand was dan alleen een onoplettende bestuurder. Dat zij een grotere verantwoordelijkheid dragen voor wat er gebeurde."

Vorig jaar oordeelde een jury dat Tesla mee aansprakelijk is voor wat er gebeurde. Het bedrijf kreeg een schadevergoeding van 243 miljoen dollar (210 miljoen euro) opgelegd, maar ging in beroep.

Toch gaat deze documentaire over meer dan alleen de dodelijke slachtoffers.

Zo komt ook aan bod dat gewone bestuurders van Tesla's jarenlang, zonder het zelf te beseffen, als testrijders dienden. Hun ritten werden stiekem gebruikt om het zelfrijdende systeem verder te trainen. 

En dan is er nog klokkenluider Lukasz Krupski, die in 2022 de zogeheten 'Tesla Files' lekte: honderden interne documenten met duizenden klachten over wagens die op hol sloegen.

Ook in deze documentaire komen voormalige medewerkers aan het woord. Ze vertellen hoe ingenieurs die kritische vragen stelden niet werden gehoord, maar juist onder druk werden gezet of zelfs ontslagen.

Precies daarin schuilt de meerwaarde van 'Elon Musk unveiled: the Tesla experiment': niet alleen slachtoffers doen hun verhaal, ook ex-medewerkers doen een boekje open over wat er achter de schermen gebeurde, ondanks het risico op juridische gevolgen. Helemaal niet vanzelfsprekend, want in de VS lachen ze daar niet mee.

Verder in de documentaire vertelt Tesla's voormalige communicatiedirecteur over de opvallende fascinatie van veel Silicon Valley-CEO's voor het oude Rome. Volgens haar helpt dat om Elon Musks gedrag beter te begrijpen.

Zo is ze bijzonder scherp voor de Musk van vandaag: ze vergelijkt hem met Julius Caesar of een Romeinse keizer die zijn rijk en invloed steeds verder uitbreidde. De aankoop van Twitter, nu X, is een voorbeeld van zo'n nieuwe 'verovering'.

Over de Musk van de beginjaren is ze milder. Toen was hij volgens haar vooral iemand met inspirerende ideeën, een drijvende kracht achter een missie waar niemand anders in geloofde.

De makers van de documentaire vroegen Tesla en Elon Musk om een reactie, maar kregen geen antwoord. Musk komt wel zelf aan het woord in archiefbeelden. Daar omschrijft hij zijn hoofd als "een wilde storm", met meer ideeën dan hij ooit kan realiseren. 

Op de vraag of die storm hem gelukkig maakt, luidt het antwoord veelzeggend: "Het is geen vrolijke storm."

Ook bij ons mogen sommige Tesla's met zelfrijdende technologie de baan op. De technologie en de AI-systemen in de wagens staan vandaag al veel verder dan pakweg 10 jaar geleden. Ongevallen met zelfrijdende wagens blijven voorlopig zeldzaam, en op lange termijn zou die technologie het aantal verkeersdoden zelfs kunnen terugdringen. 

Toch blijft er een fundamentele vraag knagen: hoeveel fouten van artificiële intelligentie zijn we bereid te aanvaarden wanneer mensenlevens op het spel staan? Zeker wanneer een Tesla af en toe spoken blijkt te zien.