Het turbulente weekend van OpenAI
Ontgrendel gratis de Editor’s Digest
Roula Khalaf, redacteur van de FT, selecteert in deze wekelijkse nieuwsbrief haar favoriete verhalen.
In zijn razend korte geschiedenis is OpenAI beroemd geworden om twee dingen: astronomische technologische ambitie en komische corporate governance. Dat is geen gelukkige combinatie.
Het abrupte ontslag van Sam Altman, de CEO van OpenAI, op vrijdag door het bestuur verbaasde Silicon Valley als weinig andere gebeurtenissen in de afgelopen decennia. De boegbeeld van de generatieve kunstmatige intelligentie-revolutie, die zoveel had gedaan om de ChatGPT-chatbot van OpenAI populair te maken als een baanbrekende consumentendienst, werd in een videogesprek door vier andere leden van de toezichtsraad weggestuurd. Verschillende andere leidende figuren bij OpenAI, waaronder de president, Greg Brockman, volgden hem snel de deur uit.
Veel over het verhaal – en hoe het precies zal eindigen – blijft mysterieus. Het bestuur heeft wellicht goede redenen gehad om Altman te ontslaan omdat hij niet ‘consequent openhartig’ was tegenover zijn collega-directeuren. De bijzaak van Altman ter ondersteuning van de lancering van een AI-chipbedrijf heeft zeker aanleiding gegeven tot ernstige zorgen over mogelijke belangenconflicten. Maar het bestuur was zelf niet bepaald consequent openhartig in het uitleggen van zijn besluit aan de medewerkers van OpenAI, investeerders en Microsoft, dat de start-up zwaar heeft gesteund. Ruim 500 van de 770 medewerkers van OpenAI ondertekenden maandag een open brief waarin zij Altman opriepen terug te keren en het bestuur af te treden, waardoor de toekomst van het bedrijf in twijfel werd getrokken. Het heeft zeker zijn kansen verdampt om vers geld op te halen tegen een waarde van ongeveer 86 miljard dollar die onlangs werd aangeprezen.
Maar de affaire roept bredere vragen op over de manier waarop AI-bedrijven worden bestuurd. Als AI zo transformatief is, zoals de evangelisten verkondigen, moeten de voorvechters en bewakers van het bedrijfsleven voorbeeldige integriteit, transparantie en competentie aan de dag leggen.
De eerlijkheid gebiedt te zeggen dat OpenAI altijd een vreemde bedrijfscreatie is geweest. Het onderzoeksbedrijf werd in 2015 opgericht als een non-profitorganisatie die zich toelegt op het veilig ontwikkelen van AI ten behoeve van de mensheid. Maar de kosten voor het ontwikkelen van geavanceerde modellen zijn zo groot dat het voor geen enkele niet-commerciële onderneming moeilijk is om lang in dat spel te blijven. Dus met behoud van een toezichthoudende raad zonder winstoogmerk, ontwikkelde OpenAI een zakelijke tak met winstoogmerk, waardoor het bedrijf externe investeringen kon aantrekken en zijn diensten kon commercialiseren.
Die hybride structuur zorgde voor spanningen tussen de twee ‘stammen’ bij OpenAI, zoals Altman ze noemde. De veiligheidsgroep, geleid door hoofdwetenschapper en bestuurslid Ilya Sutskever, betoogde dat OpenAI zich aan zijn oorspronkelijke doel moet houden en AI alleen zorgvuldig moet uitrollen. De commerciële stam leek verblind door de mogelijkheden die het succes van ChatGPT ontketende en wilde versnellen. De veiligheidsstam leek het afgelopen weekend de overwinning te hebben behaald, maar misschien niet voor lang. De reactie van de werknemers zou nog meer wendingen kunnen veroorzaken.
Wat betekent dit allemaal voor Microsoft? De investering van 13 miljard dollar in OpenAI is duidelijk in gevaar gekomen – hoewel een groot deel van die inzet de vorm had van computerbronnen, die nog niet waren benut. Toch leek Microsoft maandag te hebben gezegevierd door Altman en een aantal top OpenAI-onderzoekers in dienst te nemen. Zoals Ben Thompson, auteur van de Stratechery-nieuwsbrief, opmerkte, heeft Microsoft in feite “zojuist OpenAI overgenomen voor $ 0 en zonder risico op een antitrustzaak”.
Verbijsterde buitenstaanders moeten hopen dat de AI-veiligheidsinstituten, die door de Britse en Amerikaanse regeringen zijn beloofd om de grensmodellen van de leidende bedrijven onder de loep te nemen, binnenkort operationeel zullen zijn. Het debacle bij OpenAI versterkt ook de roep van degenen die beweren dat kunstmatige algemene intelligentie alleen mag worden nagestreefd door wetenschappers van een internationaal, niet-commercieel onderzoeksinstituut vergelijkbaar met Cern. Als degenen die zulke krachtige technologieën ontwikkelen zichzelf niet kunnen regeren, dan mogen ze verwachten geregeerd te worden.