Czy dane firmowe w ChatGPT są bezpieczne? RODO, shadow AI i zasady dla zespołu

Krótka odpowiedź: to zależy od tego, z której wersji narzędzia korzystacie i co dokładnie do niego wklejacie. Dłuższa odpowiedź jest ważniejsza, bo w większości firm problem nie polega na złym narzędziu, tylko na tym, że nikt nie ustalił zasad.

Co dzieje się z danymi, które wklejasz

Rozróżnienie jest prostsze, niż się wydaje, ale rzadko ktoś je w firmie komunikuje.

Wersje darmowe i konsumenckie domyślnie mogą wykorzystywać Wasze rozmowy do trenowania modeli. Zwykle da się to wyłączyć w ustawieniach, ale trzeba o tym wiedzieć i faktycznie to zrobić, domyślne ustawienie działa przeciwko Wam.

Wersje firmowe: Team, Enterprise oraz dostęp przez interfejs programistyczny, domyślnie nie trenują modeli na danych organizacji. To jest kluczowa różnica i to jest powód, dla którego firma nie powinna opierać pracy na prywatnych, darmowych kontach pracowników.

Innymi słowy: to nie jest pytanie o to, czy AI jest bezpieczne. To pytanie o to, jaką umowę ma Wasza firma z dostawcą.

Kiedy to zaczyna naruszać RODO

Samo korzystanie z narzędzi AI nie jest niezgodne z RODO. Problem zaczyna się w konkretnych sytuacjach:

• Wklejanie danych osobowych bez podstawy prawnej. Imię i nazwisko klienta, treść reklamacji, CV kandydata, umowa z kontrahentem, to wszystko są dane osobowe, nawet jeśli nie wygląda to jak formularz.
• Brak umowy powierzenia przetwarzania. Jeśli dostawca narzędzia przetwarza dane w Waszym imieniu, potrzebna jest odpowiednia umowa. Prywatne konto pracownika takiej umowy nie ma.
• Brak informacji dla osób, których dane dotyczą. Klient powinien wiedzieć, w jaki sposób przetwarzane są jego dane.
• Brak kontroli nad tym, kto i co wysyła. Jeśli nie wiecie, jakie dane opuszczają firmę, nie jesteście w stanie wykazać zgodności.

Shadow AI, czyli największe realne ryzyko

Zjawisko ma nazwę: shadow AI. Pracownicy korzystają z narzędzi AI na własną rękę, z prywatnych kont, bez wiedzy przełożonych, bo im to pomaga i bo nikt nie powiedział, że nie wolno.

To jest scenariusz, w którym wyciek jest najbardziej prawdopodobny. Nie przez atak, tylko przez wklejenie listy klientów do darmowego czatu, żeby szybciej napisać podsumowanie. Bez złej woli, po prostu bez zasad.

Zakaz korzystania z AI tego nie rozwiązuje, wypycha zjawisko jeszcze głębiej w podziemie. Rozwiązaniem jest danie zespołowi bezpiecznego narzędzia i jasnych reguł.

Zasady, które warto ustalić w tym tygodniu

Nie potrzeba do tego projektu ani budżetu. Wystarczy jedna strona tekstu, którą zna cały zespół.

1. Wskażcie konkretne narzędzie i konto firmowe. Jedno, opłacone przez firmę, w wersji, która nie trenuje na Waszych danych. Bez tego reszta zasad nie ma znaczenia.

2. Wypiszcie, czego nie wolno wklejać. Dane osobowe klientów i pracowników, dokumenty objęte tajemnicą, hasła i klucze dostępowe, dane finansowe przed publikacją. Konkretna lista działa lepiej niż ogólne apele o rozsądek.

3. Pokażcie, jak anonimizować. Większość zadań da się wykonać na danych pozbawionych identyfikatorów. Zamiast nazwiska, klient A. Zamiast numeru umowy, symbol. Efekt ten sam, ryzyko znika.

4. Ustalcie, że wynik zawsze sprawdza człowiek. Zwłaszcza tam, gdzie wychodzi na zewnątrz firmy albo dotyczy pieniędzy.

5. Powiedzcie, do kogo iść z wątpliwością. Jedna osoba, która rozstrzyga niejasne przypadki. Bez tego ludzie zgadują.

Jak projektować wdrożenia, żeby problem nie wracał

Przy wdrożeniach dla klientów trzymam się kilku zasad, które warto stosować niezależnie od tego, kto je robi.

Dane wrażliwe nie opuszczają infrastruktury bez potrzeby. Część zadań da się wykonać lokalnie albo na danych okrojonych do niezbędnego minimum. To nie zawsze najtańsza droga, ale to nie jest miejsce na oszczędzanie.

Zakres przetwarzania jest spisany przed startem. Jakie dane, gdzie trafiają, jak długo są przechowywane. Jeśli wykonawca nie potrafi tego opisać, to znak ostrzegawczy.

Dostęp jest ograniczony do tego, co konieczne. Automatyzacja obsługująca faktury nie potrzebuje dostępu do całej skrzynki pocztowej zarządu.

Zapisujemy, co system zrobił. Historia działań pozwala odtworzyć przebieg zdarzeń, gdy coś pójdzie nie tak, i wykazać zgodność, gdy ktoś zapyta.

Podsumowanie

Dane firmowe w narzędziach AI mogą być bezpieczne, ale nie są bezpieczne domyślnie. Potrzebne są trzy rzeczy: konto firmowe zamiast prywatnych, jasna lista tego, czego nie wolno wysyłać, oraz świadomość, że wynik zawsze weryfikuje człowiek.

Najgorszy wariant to ten, w którym firma oficjalnie nie korzysta z AI, a nieoficjalnie korzysta z niej połowa zespołu na prywatnych kontach.

Jeśli chcecie poukładać to na poziomie zasad i przeszkolić zespół, napiszcie do mnie. Szkolenie z bezpiecznego korzystania z AI zwykle zamyka się w jednym dniu i jest tańsze niż jeden incydent.