AI-workloads en data binnen de EU houden

Iemand heeft u gevraagd te bevestigen dat uw gegevens in Europa blijven. Een inkoopformulier van een klant, uw eigen directie, of een aanbesteding met een bepaling erover.

Het eerlijke eerste antwoord is dat "in de EU" geen eigenschap van een systeem is. Het zijn drie losse vragen met drie losse antwoorden, en een leverancier kan volmondig ja zeggen op de makkelijke terwijl de andere twee ergens anders liggen.

De drie lagen die door elkaar lopen

Opslag. Waar de gegevens staan als er niets gebeurt: de database, de bestandsopslag, de back-ups. Dit is de laag waar elke leverancier mee adverteert en de makkelijkste om aan te voldoen.

Verwerking. Waar het rekenwerk plaatsvindt. Bij een AI-systeem is dat de plek waar het model draait, en dat is niet automatisch dezelfde regio als de opslag. Een Europese database die een modelendpoint in Virginia aanroept, verwerkt in de Verenigde Staten, wat de opslagpagina ook zegt.

Toegang. Wie de gegevens kan inzien tijdens ondersteuning, en vanaf welke plek. Een platform dat volledig in Frankfurt draait maar een supportteam op een ander continent heeft dat een klantdossier kan openen, heeft een toegangsroute de EU uit. Deze laag staat zelden in de verkoopbrochure en vrijwel altijd in de subverwerkerslijst.

Uw antwoord aan inkoop moet alle drie dekken. Een ja op alleen opslag is het antwoord dat het bij doorvragen begeeft.

De opties, van licht naar zwaar

Een zakelijk abonnement van een grote aanbieder, vastgezet op een EU-regio. Azure OpenAI in West Europe of Sweden Central, AWS Bedrock in Frankfurt of Ierland, en de EU-opties die de grotere AI-aanbieders inmiddels op hun zakelijke abonnementen bieden. Opslag en verwerking in de EU, een echte verwerkersovereenkomst en nauwelijks werk voor u. Het moederbedrijf is doorgaans Amerikaans, wat voor de volgende paragraaf uitmaakt.

Een Europese aanbieder op Europese infrastructuur. Mistral in Frankrijk, met Europese clouds als Scaleway, OVHcloud, Exoscale of Hetzner eronder. Dit haalt de vraag over het moederbedrijf weg en beperkt uw modelkeuze. Voor extractie, classificatie, samenvatten en het meeste assistentwerk is die beperking zelden de bottleneck die mensen verwachten.

Een open model dat u zelf draait. Een model dat u met bijvoorbeeld vLLM serveert op uw eigen EU-infrastructuur of op hardware in uw eigen pand. Er gaat niets naar buiten. U bent vanaf dat moment wel permanent zelf verantwoordelijk voor capaciteit, patches, versie-upgrades en evaluatie. Dit is veel minder vaak het juiste antwoord dan het gekozen antwoord.

De meeste organisaties komen uit bij de eerste optie en zijn daarmee klaar. De tweede loont zodra een klantcontract of aanbesteding werkelijk naar zeggenschap vraagt in plaats van naar locatie. De derde verdient zichzelf terug wanneer de gegevens uw netwerk simpelweg niet uit mogen en iemand binnen de organisatie het kan beheren.

Wat EU-hosting niet oplost

Een EU-regio verkleint het risico. Onbereikbaar wordt niets. Amerikaans recht kan reiken tot gegevens die onder zeggenschap van een Amerikaans bedrijf staan, ongeacht waar de servers staan. Precies daarom onderscheiden sommige organisaties gegevens die in de EU staan van gegevens die door een EU-partij worden beheerd, en daarom eisen sommige aanbestedingen het tweede. Gebruikt de bepaling van uw klant die formulering, lees hem dan nauwkeurig voordat u antwoordt, want de twee hebben een heel verschillend prijskaartje.

Dataopslag lost bovendien niets op aan de rest van uw verplichtingen. Persoonsgegevens die zonder grondslag worden verwerkt, worden ook in Frankfurt zonder grondslag verwerkt. Een bewaartermijn van vijf jaar die niemand kan onderbouwen, is in Amsterdam net zo onverdedigbaar als in Oregon. Locatie is één maatregel van meerdere, en het is degene die mensen als eerste kopen omdat je er naar kunt wijzen.

Een recht antwoord uit een leverancier krijgen

Vier vragen, schriftelijk gesteld en beantwoord in het contract of de verwerkersovereenkomst in plaats van op een marketingpagina:

1. Waar staan de gegevens in rust, per regio, inclusief back-ups? Bij back-ups sneuvelt een helder antwoord meestal.
2. Waar vindt de inferentie plaats, en kunnen wij die vastzetten? Vraag of de regio een instelling is die u beheert of een standaard die zij kunnen wijzigen. Vraag expliciet naar failover: sommige diensten wijken bij drukte uit naar een andere regio.
3. Wie kan de gegevens inzien voor ondersteuning, en vanuit welke landen? Vraag wat daarbij wordt gelogd.
4. Wat is de actuele subverwerkerslijst, en hoeveel tijd van tevoren horen wij van een wijziging? Dertig dagen met recht van bezwaar is gebruikelijk. Geen lijst is een alarmsignaal.

Doe daarna het deel dat mensen overslaan: teken uw eigen gegevensstroom en markeer elke stap. Niet alleen de modelaanroep, maar het hele pad. De bestandsopslag, de wachtrij, de transcriptiestap, de vectordatabase, de analytics-tag, de foutmonitoring en de mailprovider die het resultaat verstuurt. Elke schakel is een eigen antwoord op diezelfde vier vragen.

Wanneer EU-hosting niet het juiste antwoord is

Gaat het niet om persoonsgegevens en niet om bedrijfsgevoelig materiaal, dan is soevereine hosting een kostenpost zonder bijbehorend risico. Een flink deel van het automatiseringswerk verplaatst factuurregels, voorraadstanden en openbare webteksten. Daarvoor een premie betalen en een zwakker model accepteren, is een besluit om u veilig te voelen in plaats van veilig te zijn.

Zelf hosten verdient dezelfde scepsis. Een ongepatchte modelserver die één persoon begrijpt, is een groter risico dan een beheerd EU-endpoint met een verwerkersovereenkomst erachter. Is er niemand eigenaar van upgrades, host dan niet zelf, wat de brochure ook over controle beweert.

En komt de vraag van één klantbepaling, lees die bepaling dan voordat u iets ontwerpt. Regelmatig is zo'n eis te vervullen door een regio en een subverwerkerslijst te benoemen, en dat is een configuratiewijziging en geen project.

Het scenario om voor ogen te houden

Op de architectuurplaat staat Frankfurt. Het model draait in Frankfurt, de database staat in Frankfurt, de verwerkersovereenkomst is getekend. Een half jaar later vraagt iemand waar de transcripties heen gaan, en blijkt de audiostap een consumenten-API aan te roepen op een persoonlijke sleutel, omdat het prototype zo werkte en niemand er nog naar heeft gekeken. Daarnaast stuurt de foutmonitoring verzoeken inclusief prompts door naar een Amerikaanse regio op het gratis plan.

Nergens in dat verhaal is een verkeerd besluit genomen. Er is een prototype productie geworden zonder dat iemand de gegevensstroom opnieuw heeft gelezen. Zo blijken claims over dataopslag in de praktijk onjuist, en daarom telt de lijst met schakels zwaarder dan de regio op de voorpagina.

Dit goed inrichten is het grootste deel van het werk aan een eigen AI-assistent, en het staat naast de overige compliance-artikelen. Twee aangrenzende vragen: wat uw team nu al naar consumenten-AI stuurt, en wat een eigen systeem over drie jaar kost zodra hosting aan uw kant van de streep ligt.

Veelgestelde vragen

Betekent EU-hosting dat Amerikaanse autoriteiten er niet bij kunnen?

Nee. Hosting in een EU-regio houdt de gegevens fysiek en operationeel in Europa, maar een Amerikaans moederbedrijf kan nog steeds onderworpen zijn aan Amerikaanse rechtsgang voor gegevens waarover het zeggenschap heeft. Speelt dat onderscheid bij uw klanten, dan heeft u een Europese aanbieder nodig en niet alleen een Europese regio.

Is een model zelf hosten de enige manier om zeker te zijn?

Het is de enige manier om gegevens volledig binnen uw eigen netwerk te houden, en u ruilt die zekerheid in voor permanent onderhoud: patches, upgrades, capaciteit en evaluatie. Voor de meeste organisaties is een beheerd EU-endpoint met een deugdelijke verwerkersovereenkomst het juiste antwoord.

Voldoet de EU-regio van een Amerikaanse leverancier aan de AVG?

Meestal wel, mits de verwerkersovereenkomst is getekend, de subverwerkerslijst acceptabel is en een eventuele resterende doorgifte een geldig mechanisme heeft. De AVG verbiedt doorgifte niet, de AVG eist dat die geregeld is. Soevereiniteitsbepalingen in klantcontracten zijn een aparte en strengere toets.

Traint een model mee op onze gegevens bij een zakelijk abonnement?

Bij de grote zakelijke abonnementen niet, en dat hoort in de voorwaarden te staan in plaats van aangenomen te worden. Controleer het per leverancier en per abonnementsvorm, en opnieuw zodra een leverancier zijn abonnementen wijzigt, want juist de standaardinstelling verandert.