Pentagon eist transparantie van AI-ontwikkelaars

Craig Martell, de belangrijkste medewerker van het Pentagon op het gebied van kunstmatige intelligentie, wil dat bedrijven inzichten delen in de manier waarop hun AI-programmatuur is gebouwd, zodat het ministerie van Defensie zich “op zijn gemak en veilig kan voelen” bij het gebruik ervan.

Zijn team heeft al meer dan tweehonderd mogelijke toepassingen gevonden voor het ministerie van Defensie. Maar het Pentagon heeft geen flauw benul van hoe de AI-modellen in elkaar zitten of welke data er gebruikt worden. Bedrijven leggen ook niet uit welke gevaren hun systemen kunnen opleveren, zei Martell verder.

“Ze zeggen: hier is het. We vertellen je niet hoe we het hebben gebouwd. We vertellen je niet waar het goed of slecht in is. We vertellen je niet of het bevooroordeeld is of niet”, zei hij.

Volgens Martell zijn er meer dan achthonderd AI-projecten in uitvoering, waarvan sommige betrekking hebben op wapensystemen.

Gezien de belangen die ermee gemoeid zijn, zal het Pentagon de lat hoger leggen voor de manier waarop het algoritmische modellen gebruikt dan de particuliere sector, zei hij. “Er zullen veel gebruiksscenario’s zijn waarbij levens op het spel staan.”