Sosiale medier har lenge fristet oss til å dele personlige detaljer om livet vårt – til tider litt for mye. Men dette handlet hovedsakelig om privatlivet vårt.
Nå står vi i en ny revolusjon, og denne gangen deler vi noe langt mer verdifullt: Informasjon fra organisasjonen vi jobber i.
«Men jeg krysset jo av for at de ikke får bruke dataene mine til trening?» tenker du kanskje.
For selv om dataene ikke brukes til modelltrening, betyr ikke det at de ikke lagres og brukes. Informasjonen din kan fortsatt bli liggende hos leverandøren — sannsynligvis i infrastruktur underlagt amerikansk lovgivning — og den kan brukes til andre formål. For eksempel analyse, kvalitetssikring eller feilsøking.
Og her blir det virkelig uhyggelig. Hva om systemet kobler din data med kollegaens data? Eller med alle dine kollegaers data samlet? Plutselig sitter en algoritme med et puslespill av bedriftens strategi, kundeforhold og interne utfordringer. Jeg påstår ikke at de gjør det aktivt i dag, men merk deg dette: De skriver ikke at de ikke gjør det, og teknologien er i stand til å gjøre det.
Det handler ikke bare om hva leverandøren sier at de gjør. Det handler også om hva de kan gjøre, hva de ikke eksplisitt avviser, og hva som kan skje dersom dataene kommer på avveie. Og selv om du har full tillit til leverandøren – hva med et godt, gammeldags datainnbrudd? Datainnbrudd skjer daglig, og datalagring medfører per definisjon risiko.
Dette er i utgangspunktet ikke noe nytt – regelen om å ikke dele intern informasjon med leverandører man ikke har en databehandleravtale med, gjaldt før KI også. Forskjellen er at det aldri har vært et så stort problem som nå. Hvorfor? Fordi aldri før har vi hatt å gjøre med systemer som er så målrettet bygd for å samle informasjon om deg. De gjør alt for at du skal dele mer. KI smigrer seg til mer data. Til syvende og sist er det du som blir produktet – eller enda verre: organisasjonen du jobber i.
Leverandørene vet at vi begynner å skjønne dette. Derfor introduserer de «løsninger» som midlertidig chat. Fint det, men husk at de fortsatt beholder en kopi av dataene dine. Selve samtalen skjules kanskje i brukergrensesnittet ditt, men hos Google lagres den gjerne i 72 timer til, og hos ChatGPT i 30 dager. Dette er en strategi som skaper falsk trygghet – og oppfordrer til enda mer deling.
Jeg har to enkle, men viktige oppfordringer:
1️⃣ Sett deg inn i retningslinjene som gjelder for bruk av KI på din arbeidsplass.
2️⃣ Gjør et unntak, bare denne ene gangen: Les faktisk gjennom vilkårene du takker ja til når du tar i bruk en ny KI-tjeneste.
Skrevet av Emile van Gelderen.