Microsoft verwijdert door AI gemaakt artikel dat voedselbank aanraadt als toeristenattractie

Het artikel “Op weg naar Ottawa? Dit mag je niet missen!” vermeldde 15 must-see attracties voor bezoekers aan de Canadese hoofdstad. Die lijst zat boordevol met fouten, zo staat de voedselbank als derde attractie opgelijst met daarbij de vreemde zin: “Het leven is al lastig genoeg. Overweeg hier binnen te gaan met een lege maag.”

Het artikel adviseerde ook een uitje naar de Rideau Canal, een historisch kanaal dat het door het centrum van Ottowa loopt, terwijl er een foutieve foto van de rivier van Rideau boven pronkt. De lijst raadt daarnaast ook het jaarlijks winterfestival aan, waar er gesproken wordt over “de grootste sneeuw van Noord-Amerika”. Dat lijkt sterk op een interpretatiefout van kunstmatige intelligentie. Afgezien van de vele geografische fouten in het artikel en de onverklaarbare aanbeveling om te vasten voordat je naar de voedselbank gaat, vertoonde het artikel daarbovenop ook nog eens een ongebruikelijke schrijfstijl.

Het artikel verscheen onder meer op de Britse startpagina van MSN onder de rubriek ‘Microsoft Travel’. Het bedrijf werd eerder al bekritiseerd voor zijn afhankelijkheid van kunstmatige intelligentie voor het genereren van nieuws. Volgens een woordvoerder van Microsoft ligt de schuld echter niet bij AI, maar zou het gaan om een “menselijke fout”.

Microsoft heeft in 2020 tientallen journalisten ontslagen om meer in te zetten op kunstmatige intelligentie. Die journalisten waren verantwoordelijk voor het selecteren van content voor Microsoft-platforms, waaronder MSN en de Edge-browser. Op de nieuwspagina zelf is er geen enkele indicatie dat het artikel een product is van kunstmatige intelligentie, maar het bedrijf erkende later wel dat het werd gegenereerd door algoritmen die werden onderworpen aan menselijke beoordeling. Microsoft suggereert dat het de menselijke beoordeling was dat tekort schoot, niet het algoritme.

Het vreemde artikel werd voor het eerst opgemerkt door Paris Marx, een auteur en technologie fanaat. “Ik vond het grappig maar eigenlijk ook wel grimmig”, zegt Marx over het artikel. “Het is gewoon weer een voorbeeld dat deze tools niet voldoen aan de claims die worden gemaakt.”

Samantha Koziara, communicatiemanager bij de voedselbank van Ottawa, zei in een verklaring tegen nieuwswebsite The Verge: “Bij mijn weten hebben we zoiets nog niet eerder gezien, maar naarmate AI steeds populairder wordt, twijfel ik er niet aan dat er een toenemend aantal onjuiste of ongepaste verwijzingen zal worden gemaakt in lijstartikelen zoals deze. Dit benadrukt gewoon het belang van onderzoekers, schrijvers en redacteuren... van de menselijke soort.”