Advies TNO: Zwarte doos in zelfrijdende auto

TNO heeft voor de Europese Commissie adviezen geformuleerd over het inzetten van uitgebreide zwarte dozen in voertuigen.

Event Data Recorders

Volgens TNO kunnen zelfrijdende voertuigen veiliger zijn dan menselijke bestuurders, maar zijn ongevallen ook dan niet uit te sluiten. In de nasleep van een ongeval moeten veel vragen worden beantwoord om aansprakelijkheidskwesties te kunnen beantwoorden en om te leren van het ongeval. Hiervoor is veel informatie nodig over de omstandigheden en de gevolgde procedures en keuzes van het voertuig. Dat alles kan worden vastgelegd in Event Data Recorders (EDR's), ook wel bekend als 'zwarte dozen'.

Wet- en regelgeving

TNO adviseert om de exacte specificaties en het gebruik van EDR's in weg- en regelgeving vast te leggen, bij voorkeur nog voordat zelfrijdende auto's gemeengoed zijn. Veel voertuigen zijn al uitgerust met eenvoudige zwarte dozen, die alleen sensorinformatie op basisniveau opslaan.

Aanvullende eisen aan zwarte doos
TNO heeft voor de Europese Commissie aanbevelingen geformuleerd omtrent welke aanvullende informatie moet worden opgeslagen in EDR's. Het belangrijkste is om de hele keten van oorzaak en gevolg te kunnen beoordelen, daarvoor is niet alleen informatie over de situatie zelf nodig, maar ook over de besluitvorming van de software in de auto.

Ethische kaders

Zelfrijdende auto's kunnen door middel van kunstmatige intelligentie goed patronen herkennen en beslissingen nemen. Het is van belang dat de software van de auto 'uit kan leggen' hoe een beslissing tot stand is gekomen, ook achteraf. De informatie in de momenteel gebruikte EDR's zegt daar niets over; deze bevat alleen data over de situatie, zoals snelheid en data van overige sensoren.

Betere regelgeving
Het advies van TNO houdt ook rekening met de kosten van EDR's. Te hoge eisen stellen aan de gebruikte hard- en software kan toekomstige ontwikkelingen belemmeren. Ook moet rekening gehouden worden met de privacy van de betrokkenen. Veel daarover is nog onduidelijk. Daarvoor is betere regelgeving vereist.

Advies

Het advies kwam tot stand samen met VVA (Italië) en SSA (ook Italië). TNO heeft onder meer een verkennend onderzoek gedaan naar specificaties van EDR's in wegvoertuigen en andere op AI-gebaseerde systemen op gebieden zoals industriële robots en autonome scheepvaart.

Bekijk hier de publicatie van TNO.