W praktyce firmowej najgroźniejsze nie jest to, że model „się pomyli”. Najgroźniejsze jest to, że pracownik wklei do narzędzia AI dane, których organizacja nie powinna wypuszczać poza swój kontrolowany ekosystem: dane klientów, dokumentację kadrową, fragmenty umów, kod źródłowy, klucze API, opisy incydentów bezpieczeństwa, dane finansowe albo informacje objęte tajemnicą przedsiębiorstwa. EDPB podkreśla, że ryzyka prywatności pojawiają się różnie w zależności od modelu usługi – SaaS, rozwiązania „off-the-shelf”, wdrożenia własnego czy systemów agentowych – dlatego trzeba rozumieć dokładny przepływ danych w całym cyklu życia AI.
Największe ryzyko nie leży w samym modelu, tylko w przepływie danych
To bardzo ważne, bo „wysłanie promptu” nie jest jednorazowym aktem znikającym w próżni. Dane mogą pojawić się w logach, systemach monitoringu, warstwach bezpieczeństwa, mechanizmach feedbacku, integracjach z innymi aplikacjami i usługami zewnętrznymi. EDPB wskazuje wprost, że logi z monitoringu mogą przechowywać dane osobowe z interakcji użytkownika, że dane bywają używane do dalszych aktualizacji systemu, a integracje z API, pluginami, chmurą czy bazami wiedzy dodają kolejne warstwy przepływu danych, które trzeba zmapować i zabezpieczyć.