Geheimzinnig contract met Pentagon stort Google in existentiële crisis
Mag je kunstmatige intelligentie (AI) inzetten voor militaire toepassingen? Deze vraag verhit de gemoederen bij Google, nu het bedrijf een controversieel contract heeft gesloten met het Pentagon. Google draagt zo bij aan automatische beeldherkenning voor drones boven vijandig gebied.
Don't be evil. Vanaf de begindagen als zoekmachine wist Google met deze mantra het publiek gunstig te stemmen, en kon het zich afzetten tegen de 'enge' en oppermachtige concurrent Microsoft. In april dit jaar verdween het motto stilletjes uit Googles gedragscode. En nu het concern een pact heeft gesloten met de duivel - zoals defensie door sommigen wordt gezien - ontpopt de deal zich tot een interne splijtzwam. Het gaat om een voor Google maar schamel contract van zo'n 7,7 miljoen euro. Toch heeft de overeenkomst met het Amerikaanse ministerie van Defensie Google, in de woorden van The New York Times, in een 'existentiële crisis' gestort. De krant kreeg inzage in interne correspondentie van Google over de deal.
De meningen over de deal (Googles eerste met het Pentagon) bleken meteen al verdeeld, want: "Gewapende AI is een van de gevoeligste onderwerpen binnen AI - misschien wel het allergevoeligste. Dit werkt als een rode lap op een stier voor de media, die dit zullen aangrijpen om Google te beschadigen." Aan het woord is Fei-Fei Li van Google, een van de sterren op het gebied van kunstmatige intelligentie bij het bedrijf. Li raadt haar superieuren per interne mail dringend aan niet naar buiten te treden met verhalen over de combinatie van AI en Defensie: dodelijk.
111 miljoen euro
Inmiddels is de discussie losgebarsten. Het ambitieuze project Maven, dat het Amerikaanse ministerie in sneltreinvaart aan de voorhoede van de AI-ontwikkelingen moet brengen, speelt een hoofdrol. De vroegere naam voor Maven geeft aan waar het om draait: the Algorithmic Warfare Cross Functional Team. Ofwel: het inzetten van algoritmes bij oorlogsvoering. Dit jaar heeft Maven een budget van ruim 111 miljoen euro. Een van de speerpunten is de inzet van geavanceerde patroonherkenning bij dronebeelden. Met behulp van de laatste inzichten omtrent zelflerende systemen moeten de hogeresolutiebeelden die militaire drones maken, worden geanalyseerd.
'Gewapende AI is een van de gevoeligste onderwerpen binnen AI – misschien wel het allergevoeligste'
Hoewel ze worden gemaakt vanaf zeer grote hoogte, soms 18.000 meter, moet de software razendsnel objecten op een foto boven IS-gebied kunnen herkennen: voertuigen, mensen, gebouwen. De programmatuur wordt nu al ingezet, maar het uiteindelijke doel is volgens technologiemagazine Wired dat die slimme algoritmen in de drones worden geïntegreerd. De stap naar drones die op eigen houtje beslissingen kunnen nemen en doelen uitschakelen, komt daarmee dichterbij, vrezen critici binnen Google. De exacte rol van Google bij dit alles is nog onduidelijk.
Dat het Pentagon zijn oog op Google heeft laten vallen, is volkomen logisch, zegt Cees Snoek, hoogleraar computer science aan de Universiteit van Amsterdam. "Er is wereldwijd een groot tekort aan AI-experts. Google, Facebook en Amazon lokken de grootste talenten met jaarsalarissen van 2 miljoen. Weinig mensen snappen AI écht. Daar komt bij: Google beschikt over gratis software."
Die software heet TensorFlow. Ze kan ingezet worden om algoritmen te trainen in het herkennen van objecten. Defensie gebruikt de werkwijze dus voor de door drones gemaakte beelden en Google verleent ondersteuning op maat. In de basis is het dezelfde techniek als die in Google Photo het herkennen van katten mogelijk maakt.
Ook al benadrukt Google tegenover Wired dat zijn AI-software niet wordt ingezet voor offensieve doeleinden, veel werknemers zijn er niet gerust op. Sterker nog: ongeveer vierduizend Google-werknemers hebben volgens The New York Times al een petitie getekend tegen het gebruik van AI voor militaire toepassingen. De interne discussiefora - waar werknemers normaliter babbelen over de kwaliteit van de kantine - raken haast overbelast door verhitte debatten. Een stuk of tien 'Googlers', meldde het techblog Gizmodo eerder, zou zijn ontslag hebben ingediend.
Ondertussen proberen Google-kopstukken de splijtzwam de kop in te drukken. Zo zou medeoprichter Sergey Brin volgens The New York Times hebben gezegd dat hij de controverse begrijpt, maar ook dat hij het beter voor de wereldvrede vindt als militairen samenwerken met een bedrijf als Google in plaats van alleen met defensieaannemers.