Wat betekent de paleisrevolutie bij OpenAI voor ons? "Heel waardevolle technologie, maar roept ook ethische vragen op"

"Bedoel je OpenAI of OpenVLD?", grapt technologiefilsoof Lode Lauwaert (KU Leuven) wanneer we hem vragen wat zich de voorbije dagen heeft afgespeeld bij het Amerikaanse OpenAI. Hij noemt gebeurtenissen van de voorbije dagen niet meer of minder dan "een soap".

CEO Sam Altman, de medeoprichter en de laatste jaren het gezicht van het bedrijf, werd vorige week vrijdag onverwachts op straat gezet door de raad van bestuur. In een vage mededeling stelde dat bestuur dat zijn ontslag te maken had met een gebrek aan open communicatie.

Wat ook aan de basis lag van het ontslag, al snel werd duidelijk dat grote investeerders van OpenAI - techgigant Microsoft op kop - het er niet mee eens waren. Het bestuur werd daarop onder druk gezet om Altman weer aan boord te nemen. Hijzelf wilde ook wel, maar enkel op voorwaarde dat de raad van bestuur werd omgegooid.

Maar dat bestuur duidde een interim-CEO aan: Emmett Shear, de voormalige baas van het livestreamingbedrijf Twitch. Altman kondigde daarop aan dat hij en medeoprichter Greg Brockman bij Microsoft aan de slag zouden gaan. 

Dat schoot dan weer in het verkeerde keelgat van meer dan 700 van de zowat 770 OpenAI-medewerkers. In een brief dreigden ze ermee ontslag te nemen en bij Altmans nieuwe team bij Microsoft aan de slag te gaan. De eis: Altman keert terug en er moet een nieuw bestuur komen.

Vanochtend werd duidelijk dat het bedrijf nu toch tegemoet komt aan die eis van het personeel. En zo wordt Altman weer als CEO op het schild gehesen, geruggensteund door een nieuwe, in eerste instantie compacte raad van bestuur. Onder hen ook professor en econoom Larry Summers, die ooit nog minister van Financiën was onder president Clinton.

"De terugkeer van Altman was onvermijdelijk geworden", observeert Lauwaert. "OpenAI stond op instorten."

"De terugkeer van Altman was wellicht de laatste stap van een grote machtsstrijd rond de manier waarop OpenAI omgaat met de technologie die het in huis heeft", oppert Steven Latré, hoofd van de onderzoeksgroep Artificiële Intelligentie bij Imec en professor aan de UAntwerpen. Ook hij noemt de opeenvolging van gebeurtenissen bij het bedrijf "hallucinant". "De technologie van OpenAI is heel waardevol, maar roept ook ethische vragen op. De hele discussie heeft zich op dat snijpunt afgespeeld."

Om dat beter uit te leggen, moet je terug naar 2015. Toen richtte Altman samen met enkele kompanen OpenAI op als een non-profitorganisatie die Artificial General Intelligence (AGI) wilde ontwikkelen. Dat is zowat de Heilige Graal van AI-onderzoek: AI-technologie die zichzelf elke intellectuele taak kan aanleren die een mens kan uitvoeren en zo dus (in theorie) ook menselijke intelligentie kan overvleugelen.

"De redenering was: die AGI komt er op een dag echt, dus wij moeten zorgen dat die technologie open en toegankelijk zal zijn voor iedereen én dat de stappen in die richting veilig gebeuren", zegt Latré. 

Altman, die het bedrijf sinds 2019 leidt, wil dat trouwens ook - hij pleitte de voorbije jaren bij tal van wereldleiders voor duidelijke regels rond AI - maar wil tegelijk ook snelheid maken in de ontwikkeling. Hij koos daarom het voorbije jaar voor een meer commerciële aanpak, inclusief een enorme investeringsdeal van 13 miljard dollar met Microsoft. 

"In dit verhaal lijkt die commerciële kant meer de macht te hebben gegrepen", zegt Latré. "Dat lijkt toch een verandering van de positie binnen het bedrijf. Met de lancering van ChatGPT zijn heel veel commerciële belangen ontstaan en die lijken nu veel meer te zullen worden doorgedreven."

Dat kan je wel stellen. "Toen Altman dit weekend naar Microsoft overstapte, zei hij dat hij daar zou kunnen verderwerken aan wat hem echt interesseert: AGI", weet Lode Lauwaert. "Zijn terugkeer lijkt op z'n minst te suggereren dat OpenAI nu nog harder zal inzetten op AGI." 

"Bovendien wordt hij vergezeld door machtige mensen in de nieuwe raad van bestuur - mensen die hem zullen steunen - terwijl de meer sceptische bestuurders vertrokken zijn. En ook de positie van Microsoft binnen het bedrijf lijkt nog te zijn versterkt."

Met een meer cynische kijk op de zaak zou je zelfs kunnen spreken van opgezet spel. "Altman straalt misschien wel wat Californië-vibes uit - een CEO met een lossere, meer liberale aanpak - maar tegelijk zou ik helemaal niet verrast zijn als niet vies was van het hardere politieke spel."

Ook de Amerikaanse journalist en Silicon Valley-kenner Eric Newcomer waarschuwde eerder al voor de mogelijk wat doorgeslagen adoratie voor Sam Altman in de Amerikaanse techscene. "Altman heeft veel macht gekregen, onder de mantel van een non-profit en van een stralend publiek imago dat zijn meer gemengde privé-reputatie overtreft. Hij is vervolgens het vertrouwen van zijn bestuur kwijtgeraakt. Dat moeten we ernstig nemen."

De snelheid waarmee AI momenteel opgroeit als technologie, heeft al bij veel experten alarmbellen doen afgaan. In september riep de Amerikaanse tech-industrie de overheid zelf nog op om op treden als scheidsrechter. Want wat doe je in een wereld vol AI met privacy, jobs, veiligheid, desinformatie, ...? Die vragen zijn er zeker ook als die fameuze AGI er ooit komt. 

Latré sust: "Ikzelf geloof niet dat AGI de mens ooit volledig zal overheersen, maar het klopt wel dat er gevaren zijn in de ontwikkeling ervan." Ten eerste is er de vraag hoe inclusief die technologie wordt, zegt hij. "Gaat die enkel beschikbaar zijn voor 5 procent van de mensen en voor de grote bedrijven? Of gaat iedereen er van kunnen profiteren?"

Ten tweede moet je je blijven afvragen hoe accuraat AI is en kan zijn, voegt hij toe. "Je kunt er fantastische dingen mee doen, maar je mag er geen blind vertrouwen in stellen. Kijk naar ChatGPT: daarmee kan je pakweg slagen voor een advocatenexamen, maar tegelijk maakt dat systeem nog veel fouten bij soms belachelijk simpele dingen. Of kijk naar de toeslagenaffaire in Nederland, waar duizenden mensen door de belastingdienst onterecht als fraudeur werden bestempeld op basis van fouten in het algoritme."

In dat opzicht zou een meer agressieve aanpak door OpenAI ook gevaren kunnen inhouden, suggereert Lauwaert. "Hoe meer risico's je neemt in de ontwikkeling van AI, hoe meer kans je bijvoorbeeld krijgt op slechte data of zogenoemde hallucinaties (door AI zelf verzonnen en foutieve informatie, red.)."

Zeer zeker, zegt Latré. "Je hebt enorm veel rekenkracht nodig om alleen al een systeem als ChatGPT te doen draaien. Ter vergelijking: als je de rekenkracht van alle universiteiten zou samenleggen, zou je nog maar aan een fractie komen van die van OpenAI. Dus voor de grote stappen in AI moet je momenteel kijken naar slechts enkele grote spelers: OpenAI, Meta, Google DeepMind en misschien enkele Chinese bedrijven."

Maar stel dat Altman vooral een meer commerciële koers wil varen, dan is dat minder problematisch, vindt Latré. "Kijk naar concurrent Google DeepMind: dat is al jaren vooral een researchclub waar niet echt een product uit voortkomt. Dat evenwicht heb je wel nodig: je kunt AI niet enkel in dat researchhoekje laten." 

"Met ChatGPT heeft AI zo'n beetje haar 'iPhone-moment' gehad. Nu is vooral de vraag hoe snel de ontwikkelingen verder gaan. Ik ben niet bezorgd, maar wel benieuwd, hoe dat verder gaat in de praktijk."