De term “Shadow GPT” verwijst naar het gebruik van ChatGPT of andere generatieve AI in een professionele context zonder dat er voorafgaande goedkeuring van de hiërarchie is. Uit onderzoek blijkt dat 30% van de werknemers dit doet, wat tot veiligheidsproblemen kan leiden. Door dergelijke tools te gebruiken, kunnen werknemers mogelijk onbewust gevoelige gegevens door geven aan derden.
Neem contact op met het enquêtebureau IntoTheMinds
Shadow GPT: 7 cijfers om te onthouden
- 71% van de Fransen is bekend met generatieve AI’s zoals ChatGPT van OpenAI en Bing van Microsoft.
- 44% van de respondenten gebruikt AI voor zowel persoonlijke als professionele doeleinden.
- 68% van de gebruikers van generatieve AI in het bedrijf kreeg geen goedkeuring van hun hogere manager.
- 50% van de Amerikaanse bedrijven zegt hun interne beleid aan te passen om het gebruik van ChatGPT en eind Shadow GPT te reguleren.
- 70% van de respondenten in een ander onderzoek van Microsoft zegt bereid te zijn repetitieve taken aan AI te delegeren.
- 45% van de 18- tot 24-jarigen zegt AI te gebruiken, tegenover slechts 18% van de 35-plussers.
- 72% van de Fransen vindt dat ze onvoldoende kennis hebben om generatieve AI te gebruiken.
Inleiding
De term Shadow GPT sluit aan bij Shadow IT, dat verwijst naar het gebruik van software zonder voorafgaande goedkeuring door de IT-afdeling van het bedrijf. Werknemers die Shadow GPT toepassen, gebruiken dus generatieve AI-tools zoals ChatGPT voor zakelijke doeleinden zonder voorafgaande goedkeuring van hun bedrijf. Recente studies tonen aan dat deze praktijk in feite veel wijder verbreid is dan men zou denken, maar wel vertrouwelijke bedrijfsgegevens in gevaar brengt.
Shadow GPT: bijna 1/3 van de werknemers wordt momenteel getroffen
Uit een onderzoek van april 2023 blijkt dat 71% van de Fransen op de hoogte is van generatieve AI’s, zoals ChatGPT van OpenAI en Bing van Microsoft (waarvan de “creatie”-modus is gebaseerd op GPT4). Uit het onderzoek bleek ook dat 44% van de respondenten deze AI’s in een persoonlijke en professionele context gebruikt. Van hen doet 68% dit zonder hun superieuren te informeren. Met andere woorden, bijna 30% van de Franse werknemers gebruikt generatieve AI zonder voorafgaande toestemming van hun manager.
In een ander onderzoek van Microsoft was 70% van de respondenten bereid om repetitieve taken te delegeren aan AI, wat tot twee dagen werk kan besparen.
De risico’s van Shadow GPT
We hebben de risico’s van ChatGPT al aangehaald. Kortweg gaat het om risico’s met betrekking tot het lekken van vertrouwelijke gegevens. Deze risico’s zijn inherent aan alle gratis diensten op het internet. De reden dat ze gratis zijn, is dat uw gegevens als ruilmiddel worden gebruikt.
Statoil (Engelse site) kreeg in 2017 al te maken met het gebruik van Deepl (dat uw gegevens gebruikt om zijn algoritmen te trainen, zie hieronder), en in 2023 was het Samsung (Engelse site) dat in de val liep van ChatGPT. Haar werknemers gebruikten ChatGPT bij 3 gelegenheden en verstrekten daarmee strikt vertrouwelijke gegevens aan OpenAI. Deze gegevens betroffen met name de broncode van zijn elektronische chips.
Deze risico’s hebben sommige bedrijven ertoe gebracht het gebruik van ChatGPT te verbieden. Te beginnen met Samsung, dat een interne tool beschikbaar stelt, maar ook JPMorgan Chase, Amazon, Verizon en Accenture. Wat al deze bedrijven gemeen hebben, is dat zij werken met een grote hoeveelheid bedrijfseigen gegevens waarmee zij een concurrentievoordeel behalen. Het gebruik van ChatGPT, en in het algemeen alle algoritmische tools die een gratis versie aanbieden, is de overdracht van gebruikersgegevens voor trainingsdoeleinden. Hoewel de uitwisseling van goodwill begrijpelijk is (een gratis dienst voor gegevens), zijn weinig gebruikers zich bewust van deze overdracht. In het geval van ChatGPT heeft het gebrek aan toestemming er zelfs toe geleid dat de Italiaanse regering ChatGPT uit het land heeft verbannen. Dit besluit was vergaand, plotseling, maar het had de verdienste dat het alle gebreken van OpenAI aan het licht bracht.
Speciale aandacht voor de jongste werknemers
Het onderzoek toont een generatiekloof bij de invoering van AI: 45% van de 18-24-jarigen maakt er gebruik van, tegenover slechts 18% van de 35-plussers. Wat verrassend is: 72% van de Fransen vindt dat ze niet genoeg kennis hebben om deze technologieën te gebruiken.
Deze kloof moet bedrijven ervan bewust maken dat de risico’s verschillen bij al hun werknemers. Sommigen lopen meer “risico” dan anderen, en daarom zullen de bewustmakingsinspanningen al naargelang het doel gedifferentieerd moeten worden.
De meeste bedrijven meten de risico’s niet
Want daar zit het probleem: het gebrek aan informatie en transparantie. Shadow GPT heeft initieel geen slechte bedoelingen. De medewerkers zijn ongetwijfeld nieuwsgierig om te experimenteren met deze nieuwe tool en terecht. Experimenteren is essentieel om het nut ervan te begrijpen en, zoals MIT-onderzoeker Ethan Mollick zegt, er minstens vier uur nodig om deze tools beginnen te begrijpen.
Bedrijven daarentegen werden verrast. Het gebruik van ChatGPT door hun werknemers gebeurde zo plotseling en het onderwerp was zo nieuw, dat men niet voldoende tijd kreeg er zich zorgen over te maken. Bijna 50% van de Amerikaanse bedrijven die werden ondervraagd in een enquête (Engelse site) van maart 2023, was bezig met het herzien van het interne beleid om Shadow GPT mogelijk te maken.
Maar naast de grote bedrijven zijn er al diegenen voor wie ChatGPT nog lang een mysterie zal blijven … totdat hun bedrijfsgeheimen in de openbaarheid komen. Laten we niet vergeten dat 96% van de bedrijven KMO’s zijn en dat hun niveau van digitale volwassenheid verre van voorbeeldig is. Er zijn dus veel werkgebieden om werknemers voor te lichten over de voordelen van AI, maar ook over de grenzen ervan.
Geplaatst in Innovatie.