Elon Musk wil “fantastische” doorbraak in artificiële intelligentie niet delen wegens “te gevaarlijk”

Open AI kwam donderdag op de proppen met enkele staaltjes van het kunnen van GPT-2, een technologie die zelfstandig in staat blijkt te zijn om een tekst te schrijven, die amper te onderscheiden valt van een tekst geschreven door een mens. Een van die voorbeelden is een tekst waarin de technologie zelf een fictief nieuwsverhaal schrijft over de ontdekking van eenhoorns in het Andesgebergte.

Wat vooral tot de verbeelding spreekt is de manier waarop de onderzoekers te werk zijn gegaan. Ze voorzagen het systeem van zo’n 8 miljoen internetpagina’s, waarna het zelfstandig verhaalexcerpten diende af te werken.

Eenhoorns in het Andesgebergte

Een van deze voorbeelden handelde dus over de ontdekking van eenhoorns in het Andesgebergte. De GPT-2-technologie diende een vervolg te breien aan dit tekstfragment. “Een wetenschapper heeft in het Andesgebergte een verbazende ontdekking gedaan: een kudde eenhoorns, die leeft in een nog nooit verkende vallei. Nog verbazender was dat eenhoorns perfect Engels spreken.”

Het vervolg leest als een trein: “De wetenschapper noemt het nieuwe ras de Eenhoorn van Ovidius, vanwege de opvallende hoorn. Deze vierhoornige, zilverwitte eenhoorns waren voor wetenschappers tot nu toe onbekend. Na bijna twee eeuwen is de mysterieuze oorzaak van dit fenomeen eindelijk achterhaald. Dr. Jorge Pérez, een evolutionair bioloog van de Universiteit van La Pas, en een aantal van zijn metgezellen, waren het Andesgebergte aan het verkennen toen ze een kleine vallei aantroffen, zonder andere dieren of mensen. Pérez merkte een schijnbaar natuurlijke fontein op, omringd door twee rotspieken met zilveren sneeuw.”

Hier en daar bevat de tekst wel enkele vreemde omschrijvingen, zoals “een fontein omringd door rotspieken”, maar daarnaast vallen er amper fouten in op te merken. De tekst staat vol fantasievolle passages en leest als in een goed uitgewerkt fantasieverhaal.

Werkwijze wordt angstvallig geheim gehouden

Maar hoe de technologie precies te werk gegaan is om deze verbluffende tekst te schijven, wordt angstvallig geheim gehouden. Naar eigen zeggen, uit vrees voor “kwaadaardige doeleinden”, zoals het eindeloos verspreiden van fake news. Daarnaast zou iemand de technologie ook kunnen inzetten om zich als een echt persoon voor te doen.

Onderzoeker Mike Kestemont, die zich aan de Universiteit Antwerpen met vergelijkbare modellen bezig houdt, is alvast kritisch. “Ik twijfel niet aan de integriteit van de onderzoekers, maar wetenschappelijk kan ik hun beweringen niet verifiëren.” Daarnaast breekt Musk op deze manier met een jarenlange traditie, aangezien het tot nog toe de gewoonte was om de laatste ontdekkingen op het vlak van AI vrijelijk met iedereen te delen. Dat verklaart ook deels de grote opmars van de technologie de laatste jaren. “Dat AI de afgelopen jaren zo’n spectaculaire vooruitgang heeft geboekt, komt vooral door de cultuur van openheid, en die wordt hier doorbroken.” Musk krijgt hiervoor dan ook bakken kritiek.

Volgens Kestemont zou deze beslissing ook wel eens uit andere overwegingen kunnen worden genomen. “Open AI is veel bezig met ethische kwesties rond artificiële intelligentie”, aldus Kestemont.

Ondanks de geheimhouding zou het hier dus wel eens over een belangrijke doorbraak kunnen gaan in het onderzoek naar AI. Al merken de onderzoekers op dat het soms ook volledig fout gaat en GPT-2 soms ook onzinnigheden uitkraamt.

Wat eigenlijk het meest tot de verbeelding spreekt, is het feit dat de technologie erin lijkt te zijn geslaagd om zich common sense aan te meten. Voor artificiële intelligentie is het op zich niet zo moeilijk om met factuele kennis op de proppen te komen. Anders is het als het op kennis over de wereld aankomt. Dit onderzoek lijkt dus aan te tonen dat als je AI maar met genoeg informatie voedt, dat het dan over dit type van common sense kan beschikken.