Zero Data Retention (ZDR)

Hvad zero data retention betyder

Mange AI-udbydere logger som standard indholdet af forespørgsler og svar, for eksempel til fejlfinding, analyse, misbrugsovervågning eller forbedring af modeller, og nogle forbeholder sig retten til at træne på det. Zero data retention fjerner det: Prompten behandles, svaret genereres, og indholdet kasseres uden kopi og uden brug til træning. Det er forskellen på data, der passerer gennem et system, og data, der hober sig op i det. Kunder spørger efter det, fordi det er det klareste svar på, hvad der sker med deres data, efter at de har fået svar, især ved fortrolige, regulerede eller persondata-tunge workloads.

"Zero" betyder kun noget, hvis det er præcist defineret. En troværdig ZDR-politik siger præcist, hvad der gemmes, og hvad der ikke gemmes. Indholdet af forespørgsler og svar, altså den følsomme del, bør ikke gemmes, mens et minimum af driftsmetadata (antal tokens til fakturering, tidsstempler, tællere til rate limits) normalt stadig behandles og skal oplyses. Det bør også være klart, hvordan kortvarige mekanismer håndteres. Streamingbuffere og enhver prompt- eller KV-caching, der fremskynder gentaget kontekst, er flygtige af design og ikke en log over indhold, men en seriøs politik beskriver alligevel deres adfærd og opbevaringstid i stedet for at skjule dem.

Hvorfor det betyder noget: en selvstændig akse ved siden af dataresidency

Opbevaring er et andet spørgsmål end, hvor data befinder sig, eller hvilken lov der gælder. Data kan ligge i EU, være omfattet af EU's GDPR og alligevel blive gemt i logs. Det øger angrebsfladen for databrud, krav om udlevering og utilsigtet brug i træning. Zero data retention krymper den flade til selve behandlingsøjeblikket: Det, der ikke gemmes, kan ikke lække, kræves udleveret eller misbruges. Det flugter også direkte med GDPR's principper om opbevaringsbegrænsning og dataminimering, for man kan ikke opbevare for længe, hvad man aldrig gemmer.

Derfor virker ZDR, dataresidency, jurisdiktion og DPA'en sammen i stedet for at erstatte hinanden. Dataresidency styrer, hvor dataene er, jurisdiktionen, hvem der kan gennemtvinge adgang, DPA'en skriver reglerne ind i en kontrakt, og opbevaringen styrer, hvor længe dataene overhovedet findes. Den stærkeste beskyttelse kombinerer dem alle, og ZDR er den, der mest direkte besvarer det spørgsmål, kunder oftest stiller.

Zero data retention hos Infercom

Infercom gemmer ikke indholdet af dine forespørgsler: Dine prompts og modellens svar bliver hverken logget eller gemt, efter at forespørgslen er behandlet, og vi bruger aldrig dine data til at træne modeller. Det står i vores databehandleraftale og vores servicevilkår. Det eneste sted, dine data findes ud over behandlingsøjeblikket, er ved prompt caching. Når den bruges til at fremskynde gentaget kontekst, holder vores EU-infrastruktur en KV-cache flygtigt i rackenes hukommelsesniveau (DDR). Cachen er en omdannet numerisk repræsentation, der er afledt af din prompt, ikke en gemt kopi af din tekst. Den skrives aldrig til permanent lager eller logs og bruges aldrig til træning. De eneste data, vi beholder, er driftsdata: brugslogs til fakturering (for eksempel antal tokens) og dine kontooplysninger som login-e-mailen. Den følsomme del, selve indholdet, findes kun, så længe det tager at svare.