AI en Big Tech

Het woord technologie stamt van het Griekse begrip ‘techne’ dat kunst of fabriceren betekent. Technologieën kunnen we dus zien als artefacten, ze zijn ‘kunstmatig gemaakt’. Technologie is dus niet iets wat ons overkomt, of in de natuur aanwezig is, het groeit niet uit de grond en het wordt ons ook niet aangereikt door een hogere goddelijke macht. Wij mensen zijn ervoor verantwoordelijk. Donna Haraway verwoordt het in Simians, cyborgs, and women: the reinvention of nature (1991):

‘Technology is not neutral. We’re part of what we make and it is part of us. We live in a world of connections – and it matters which ones get made and unmade.’

Technologie wordt door mensen gemaakt en heeft daarmee ook de eigenschappen van de samenleving en cultuur waaruit zij voortkomt. Dat maakt dat we altijd op onze hoede moeten zijn welke belangen de technologie dient. Wie geeft er richting aan? Wat sluit het in of uit? En misschien nog belangrijker: wie is eigenaar? We kunnen het niet over technologie hebben zonder het ook te hebben over macht. Het is in dat licht vreemd dat er vanuit innovatiebeleid niet veel kritischer gekeken wordt naar het machtsaspect. We financieren vanuit publieke middelen, maar hebben geen publieke controle. In plaats dat we innovatiesubsidies verstrekken aan private partijen die aandeelhoudersbelangen dienen, zouden we de uitkomsten van publieke investeringen publiek moeten houden. Het ongebreidelde geloof in marktwerking is op zijn retour. Het lijkt erop dat de tijd is aangebroken om vorm te geven aan het publieke digitale domein. Het geeft ook aan dat technologie nooit los te zien is van het maatschappelijk tijdsgewricht. Er zijn altijd belangen in het spel. We moeten ervoor zorgen dat de ontwikkeling van technologie gepaard gaat met kritische beschouwing en expliciete ontwerpkeuzes. Een proces waar sociale en culturele experts onderdeel van zijn.

Van oudsher zijn kunstenaars nieuwsgierig naar technologie. Niet alleen als ‘early adaptor’ in het toepassen van nieuwe technieken, maar ook als kritische beschouwer die de onderliggende aannames bevraagt. Bovendien zijn kunstenaars ook betrokken bij het onderzoek en de ontwikkeling van technologie. Artificiële Intelligentie, neurotechnologie, biotechnologie, op elk gebied zijn kunstenaars actief en dragen ze bij aan betekenis, ontwerp en debat. De cultuursector is dus niet slechts een gebruiker of afnemer van technologie, maar het geeft er ook mee vorm aan.

De nieuwe tools

Met de nieuwste generatie digitale gereedschappen is er iets bijzonders aan de hand. Het kunstwerk zelf is tot gereedschap gemaakt. Techbedrijven hebben datacollecties opgebouwd waarmee AI-programma’s worden getraind. Muziek, beeld, video en tekst zijn de grondstoffen waarmee nieuw werk gegenereerd kan worden.

Als je de kunst van het ‘prompten’¹ verstaat, kun je met zogenoemde generatieve AI-programma’s als ChatGPT, DALL-E, Stable Diffusion en Midjourney alle denkbare essays, artikelen, muziekstukken, afbeeldingen en video’s genereren. Door te spelen met de prompt kun je variaties aanbrengen. Geef het een toon mee: opgewekt, mysterieus of juist toegankelijk. Een genre: romantisch, surrealistisch, of met techno-elementen. Of geef de naam van een kunstenaar mee van wie je het handschrift in de nieuwe creatie graag terug wilt zien. In de stijl van Mondriaan, Becket of The Beatles. Hoe beter je prompt, hoe mooier de uitkomst.

Prompt voor ChatGPT: ‘Schrijf een theaterscript in de stijl van Annie M.G. Smidt waarin een jonge zoon de moord onderzoekt op zijn vader en erachter komt dat de dader zijn oom is waarmee zijn moeder net is hertrouwd. Maak gebruik van de elementen verraad, liefde en wraak en de boodschap dat iedere misdaad zal worden bestraft. Laat het zich afspelen rond het Deense hof in het jaar 2040.’

Het prompten is in korte tijd een nieuwe vaardigheid geworden, inclusief handleidingen en cursussen. Het zou niet misstaan in het curriculum van ontwerp- en kunstopleidingen. Met de gebruikelijke grootspraak wordt deze ontwikkeling door techbedrijven beschreven als de definitieve democratisering van de productie van kunst. Het biedt inderdaad aan ongetrainde mensen de mogelijkheid om creaties van redelijke kwaliteit te genereren. En professionals weten er prijswinnende werken mee te genereren waardoor jury’s in verlegenheid worden gebracht. Zo liet Boris Eldagsen, de winnaar van de Sony World Photography Award 2023, weten dat een AI-programma de zwart-witfoto Pseudomnesia – the Electrician had gegenereerd en niet hijzelf. Incidenten als deze wakkeren de discussie aan welke plek deze nieuwe kunstuitingen moeten krijgen.

De onbeperkte mogelijkheden leiden ook tot productie van een enorme hoeveelheid rommel. Je kunt elk idee in elk mogelijke stijl laten genereren. De Wonder AI-app adverteert met prompts als ‘George Washington eating a hamburger’ en ‘Pink elephant playing monopoly’. Volg de hashtag #AIart op Instagram en de buitenproportionele, rondborstige vrouwen, veelal in mangastijl, buitelen over je heen. De wat serieuzere creaties zijn een potpourri van wat onze wereldcultuur ooit heeft opgeleverd, in steeds weer andere variaties en gedaantes. Een festival van clichés. Het biedt ook alle mogelijkheden voor deepfakes en het nabootsen van muzikanten en acteurs. Recentelijk werd het nieuwe nummer Heart on my sleeve van Drake & The Weeknd binnen korte tijd 8 miljoen keer bekeken, maar bleek het een AI-fake die snel werd verwijderd. ChatGPT en soortgelijke programma’s genereren teksten op basis van een combinatie van verschillende bronnen en algoritmen. Ze hebben daardoor de neiging tot fabuleren. Vol overtuiging presenteren de programma’s zaken als feiten, waar het gaat over zelfgegenereerde gebeurtenissen en bronnen. Een welkome kwaliteit voor de productie van kunst, maar voor waarheidsvinding is het een drama. Eigenaren van de generatieve AI’s worden inmiddels voor de rechter gedaagd wegens desinformatie en de gevolgen daarvan.

Het is nog maar de vraag of met de komst van generatieve AI’s de productie van kunst gedemocratiseerd wordt. De eerste betaalmuren en licentiemodellen zijn reeds gesignaleerd. De gratis versies van ChatGPT zijn gelimiteerd, verouderd en minder accuraat. Als je een abonnement neemt van 20 euro per maand heb je toegang tot de laatste versie. Je moet dus wel in de buidel tasten om met de programma’s te mogen werken. Dat betaalmodel kennen we ook van andere zogenoemde authoring tools als Photoshop, Adobe of Avid.

Toch niet voor iedereen

AI is een miljardenbusiness. En daarmee stuiten we op het grootste probleem van technologie: de macht van Big Tech-bedrijven. Zij hebben zich in de afgelopen twintig jaar alles toegeëigend wat de mensheid door de eeuwen heeft gecreëerd en hebben dit opgeslagen in hun datacentra. Beeldbanken, literatuur, alle wereldtalen, wetenschappelijke producties, media, code, conversaties en persoonlijke data. De komende jaren zullen in het teken staan van juridische veldslagen rond inbreuk op intellectueel eigendom en privacy. Het kan even duren voor we daar de uitkomsten van horen. Een van de eerste rechtszaken die is aangespannen betreft DeviantArt, een kunstplatform dat ruim twintig jaar geleden is opgezet door kunstenaars en kunstliefhebbers. Een van de voorwaarden voor kunstenaars om deel te kunnen nemen was het delen van een digitale kopie van je werk. Daarmee is een collectie van vele miljoenen digitale kunstwerken tot stand gekomen die nu, zonder toestemming van de kunstenaars, wordt gebruikt als trainingsmateriaal voor AI-programma’s als Stable Diffusion. Dat is niet alleen een inbreuk op auteursrecht, maar geeft ook vrij baan voor het maken van vervalsingen.

De kwestie is echter veel urgenter en fundamenteler. Kunnen we het toestaan dat alle geproduceerde cultuur in handen is gevallen van een handvol bedrijven? Ook dat deel van de cultuur dat principieel vrij is? Mogen alle wereldtalen zomaar worden toegeëigend? Is taal niet ten diepste een gemeenschappelijk goed? Wat betekent dit voor content met een Creative Commons-licentie waarbij commercieel gebruik nadrukkelijk is uitgesloten?

De wereld voor de huidige generatie kunstenaars, ontwerpers, fotografen, componisten, schrijvers, animatoren, muzikanten en acteurs is fundamenteel veranderd. Het kan voor dit moment inspirerend zijn om te spelen met AI. Het is echter een weinig lonkend perspectief dat alles wat je maakt wordt opgevroten door datahongerige machines die het uitnutten ten behoeve van de aandeelhouders van Big Tech. Plagiëren wordt eerder regel dan uitzondering en er dreigt waardeverlies en inkomstenverlies. De beeldredactie van een tijdschrift heeft geen fotograaf meer nodig, maar verzint een prompt en laat de AI het gewenste plaatje genereren. De opbrengsten belanden dan bij Big Tech en niet bij de individuele makers. Het is bovendien moeilijk te verteren dat Big Tech-bedrijven over het algemeen geen belasting hoeven te betalen en dus ook niet bijdragen aan publieke financiering van kunst en cultuur. Moeten individuele rechthebbenden hun gelijk proberen te halen of is hier collectieve actie en wetgeving nodig? Zouden we niet nu al moeten aansturen op het onteigenen van de AI-dataverzamelingen en ze onder publiek toezicht plaatsen? Een AI data commons is misschien een radicale aanpak, maar de impact van AI is ook radicaal.

Het gevaar is dat de politiek en wetgeving veel te traag op gang komen. Het is vijfentwintig jaar geleden dat Netflix het licht zag en de politiek is nog steeds aan het worstelen met een wetsvoorstel om grote streamingplatforms als Netflix, Amazon, Disney+ en HBO te verplichten om 5 procent van de omzet die zij in Nederland maken te investeren in Nederlandse producties.

Digitale publieke ruimte

De dominantie van Big Tech kennen we al langer als het gaat om de dominantie van de socialemediaplatforms. Of het nu instellingen zijn – omroepen, gezelschappen, producenten – of individuele makers, iedereen is afhankelijk geraakt van socialemediaplatforms als Instagram, TikTok en YouTube om publiek te bereiken of aandacht te genereren. Voor individuele makers is het vaak de enige wijze om zonder tussenkomst van curatoren en programmamakers een eigen reputatie op te bouwen en een publiek te bereiken. Het streamen van lezingen, concerten en debatten werd tijdens de coronapandemie ontdekt, en wordt een steeds belangrijker onderdeel voor publieksbereik, dialoog en impact.

Maar hoe is het gekomen dat we ondanks de belofte van het vrije internet uit de jaren negentig in de klauwen van Big Tech zijn gevallen? Het begon toch juist als een culturele publieke ruimte, een digitale stad die geen data exploiteerde van haar bewoners? We hadden het kunnen voorkomen als we dertig jaar geleden hadden geïnvesteerd in het publieke digitale domein. In het Nationale actieplan elektronische snelwegen uit 1994 verwoordt de overheid het nog als volgt: ‘Naast de marktsector bestaat er immers een publiek domein, waarvoor de overheid een bijzondere verantwoordelijkheid heeft. Het bestaan en de omvang van het publieke domein komen voort uit de grondrechten van de burgers. Drie aspecten zijn daarbij van belang: het recht op vrijheid van informatie en communicatie, het recht op bescherming van de persoonlijk levenssfeer en het recht op ordelijke regels (door de overheid op te stellen) voor het maatschappelijk en commercieel verkeer’ (Kok et al. 1994). Daar is helaas geen gevolg aan gegeven. De jaren negentig stonden in het teken van het geloof in de markt. Alles wat voorheen een nutsfunctie had, werd geprivatiseerd. Dit ongebreidelde vertrouwen dat marktpartijen het beste met de mensheid voorhebben was ongegrond. En nu zitten we met de brokken. Pas na een aantal schandalen, zoals de documenten over de afluisterpraktijk van de NSA die Edward Snowden publiek maakte en de manipulatie van Facebookgebruikers ten behoeve van verkiezingen door Cambridge Analytica, wordt er wetgeving voor het internet ontwikkeld, met name in de Europese Unie (EU). De EU heeft met de nieuwe General Data Protection Regulation (GDPR) privacywetgeving een flinke impact en de wetten voor het reguleren van de platforms, de Digital Service Act en Digital Market Act, staan klaar om te worden ingevoerd. Ondertussen mogen ambtenaren TikTok niet meer gebruiken met hun werktelefoons en wordt een algeheel verbod besproken. Het ongemak is groot en het is niet meer vanzelfsprekend dat je als publieke instelling gebruikmaakt van de Big Tech-platforms. Hoewel met vertraging, in 2014 initieerde Waag met het Institute of Network Cultures al de Facebook Farewell Party, is er nu definitief een tegenbeweging op gang gekomen.

Maar wetgeving en handhaving daarvan is niet het enige wat nodig is. De samenleving zal ook met alternatieven moeten komen. En die zijn er gelukkig. Het federatieve internet is in opkomst, het zogenaamde #fediverse. Mastadon, de vervanger van Twitter, is daar een goed voorbeeld van. Maar ook PeerTube, de vervanger voor YouTube. Op het federatieve internet vormen duizenden instanties samen een netwerk. Ieder daarvan stelt regels op en heeft de verantwoordelijkheid te monitoren en te modereren. Er is geen centrale macht, maar een protocol dat zorgt voor de juiste connecties en verbindingen. Je sluit je aan bij een van de instanties en krijgt toegang tot iedereen die is aangesloten en alle content. Zo host Waag Futurelab het waag.social domein, De Groene Amsterdammer host social.groene.nl en Surfnet heeft voor de onderzoeks- en onderwijswereld social.edu.nl opgezet.

De culturele sector heeft een grote verantwoordelijkheid en ook een bijzondere positie om bij te dragen aan deze alternatieve netwerken die gebaseerd zijn op publieke waarden. Publieke organisaties kunnen door hun grote bereik het voortouw nemen in het creëren van een online publieke ruimte en mensen motiveren om deze alternatieven te gaan gebruiken. Vanuit deze visie is Waag een van de initiators van Public Spaces, een unieke coalitie van publieke omroepen, erfgoed-instellingen, festivals, bibliotheken, musea en onderwijs. De grote drijfveer is om de afhankelijkheid van Big Tech af te bouwen en een veilige digitale publieke ruimte te bouwen. Uitgangspunt van een digitale publieke ruimte is dat gebruikers niet gezien worden als commercieel object waarvan zoveel mogelijk datapunten moeten worden verzameld, maar als gelijkwaardige partners en deelnemers die een gezamenlijk publiek belang hebben. Met de Digitale Spoelkeuken helpt het organisaties om hun gebruik van technologie te analyseren, brengt het experts bij elkaar, onder andere in de jaarlijkse conferentie en is het betrokken bij de ontwikkeling van alternatieven. Bijzonder aan deze coalitie is dat deze zich niet houdt aan de kunst- en cultuurdisciplines en domeinen die in beleid worden aangehouden. De belangen van diverse soorten makers, zowel media als cultuurinstellingen, worden verenigd. Dat biedt ook een kans om voorbij de klassieke beleidsdomeinen te kijken: de cultuursector samen met het onderwijsveld, de wetenschap en andere publieke instellingen.

De vrije ruimte

Met alle zorgen rond de macht van technologiebedrijven en de acties om daar tegenwicht aan te bieden zouden we zomaar uit het oog kunnen verliezen hoeveel plezier en lol we met technologie kunnen hebben en hoe wij telkens weer worden uitgedaagd om ons opnieuw uit te vinden. We zien het dagelijks bij ons in de Waag in het fablab, het biolab en het textile lab. Het plezier van maken en samenwerken, het ontdekken van nieuwe tools, leefvormen en materialen. Hoe fijn zou het zijn als dat een gewoon onderdeel wordt van onze scholen: een combinatie van kunst, technologie en maatschappijleer. Het zou zoveel vraagstukken in één keer kunnen oplossen: het versterken van onze creatieve en construerende vermogens, nieuwe groepen jongeren interesseren voor technologie en een breed kritisch inzicht bieden in de mogelijkheden en gevaren. En waarom zetten we niet veel sterker in op de samenwerking tussen wetenschap en kunst? In Europa zijn hier goede ervaringen mee opgedaan in programma’s als STARTS – Science, Technology and the Arts, een programma waar kunstenaars en ontwerpers onderdeel worden van meerjarige onderzoeksprogramma’s en intensief kunnen samenwerken met wetenschappers. Daarmee worden langetermijnrelaties gelegd, een gezamenlijke taal ontwikkeld en complexe vraagstukken geadresseerd. Kunstenaars die aan de ontwikkeling van technologie bijdragen: dat vraagt om een opvolging in Nederland. Er zijn nog zoveel kansen onbenut. We kunnen het ons niet langer permitteren om de ‘techne’ in technologie zo te negeren.