Ik trek het boetekleed aan

Door Peter Vandermeersch

Op deze plaats schrijf ik sinds oktober over journalistiek. Wat bedreigt journalistiek? Waarom is goede en transparante journalistiek zo belangrijk voor onze samenleving? Hoe kunnen journalistieke organisaties omgaan met fouten? Wat is de waarde van journalistiek in tijden van AI? Ik probeer dat gedreven en zorgvuldig te doen.

Maar ik was niet zorgvuldig genoeg. Een medewerker van NRC, de krant die ik zelf negen jaar heb geleid, stelde vast dat hij citaten die ik in afleveringen van deze nieuwsbrief heb gebruikt, niet kon verifiëren. Hij legde die aan mij voor, alvorens een stuk daarover te publiceren. Ik plaats hier (Öffnet in neuem Fenster)een link naar zijn stuk in NRC.

Indien het over iemand anders zou gaan, zou ik er hier waarschijnlijk ook over schrijven.

Laat ik duidelijk zijn: hij heeft gelijk. Ik geef toe dat ik, bij de start van mijn nieuwsbrief in het laatste kwart van vorig jaar, bij het schrijven AI-taalmodellen als ChatGPT, Perplexity en Google Notebook heb gebruikt. Ik was enthousiast over de mogelijkheden die de AI-modellen boden en wilde daar volop mee experimenteren.

Daar ben ook ik, zelfs met al die jaren van ervaring en kennis die ik op de teller heb, in de val getrapt van hallucinaties. Ik vatte rapporten samen met een AI-tool en begon daarop te werken, in het vertrouwen dat de samenvattingen correct waren. Al doende heb ik ten onrechte woorden in de mond gelegd van mensen, terwijl ik die als parafraseringen had moeten formuleren. In een aantal gevallen ging het om mijn interpretatie van hun woorden. Dat was niet enkel onzorgvuldig, het was fout.

Het is meer dan zuur dat ik de fout maakte die ik zelf uitentreuren beschrijf als ik collega’s waarschuw voor de gevaren van AI: de taalmodellen zijn zo goed dat ze onweerstaanbare citaten produceren die je als auteur bij wijze van spreken niet kunt laten liggen. Natuurlijk had ik die zaken moeten controleren. De broodnodige “human oversight”, waarvoor ikzelf voortdurend pleit, schoot tekort.

Toen ik mezelf daar een aantal maanden geleden op betrapte, slonk mijn enthousiasme en vanzelfsprekend ook mijn gebruik van AI. Ja, ik gebruik het nog als basis voor vertalingen, als hulp bij het doorploegen van documenten, als sparringpartner voor ideeën, mogelijke koppen, andere invalshoeken. Maar met veel minder naïef vertrouwen dan ik een aantal maanden geleden wel nog had.

Nog één iets, over transparantie: daar maakte ik een tweede fout. Toen ik wist dat een aantal citaten niet correct was, had ik die gelijk moeten rechtzetten. Nu deed NRC dat in mijn plaats.

In samenspraak met Mediahuis heb ik besloten om tijdelijk mijn rol als fellow op non-actief te plaatsen.

Journalistiek is mensenwerk. Ik ben en blijf ervan overtuigd dat AI een krachtig hulpmiddel kan zijn, waardoor menselijke journalistiek beter kan worden, dieper kan graven en exacter kan zijn. Maar dus niet door AI te gebruiken zoals ik het in de beginmaanden van deze blog gedaan heb.