Stefan Kesselheim w wywiadzie dla RP Online przypomina, że wpisując dane do AI, przekazujesz je operatorowi narzędzia. AI, czyli sztuczna inteligencja, może pomagać Ci w firmie w Polsce lub Niemczech. Ustal jednak z zespołem, co zostaje poza czatem i kto sprawdza wynik przed użyciem.
W skrócie
- Chroń poufność: tajemnice firmy, dane zdrowotne, logowania i dane bankowe zostaw poza czatem.
- Ograniczaj dane: opisuj problem ogólnie i usuwaj szczegóły pozwalające rozpoznać osoby.
- Sprawdzaj odpowiedzi w źródłach; zgodność z drugą AI nie daje pewności.
- Zachowaj nadzór człowieka nad ważnymi zadaniami i decyzjami.
- Agentowi AI wyznacz dozwolone dane, zakres działania, osobę odpowiedzialną i warunki zatrzymania.
Co powiedzieli eksperci
W rozmowie z RP Online Stefan Kesselheim z Forschungszentrum Jülich, ośrodka badawczego w Jülich, oraz Gereon Weiß z Fraunhofer IKS, instytutu systemów kognitywnych, wskazują granice korzystania z modeli językowych. To systemy generujące tekst na podstawie wyuczonych zależności. Płynna wypowiedź nie jest dowodem rozumienia problemu ani poprawności rozumowania. Kesselheim przypomina, że odpowiedzi opierają się na prawdopodobieństwie.
Weiß podaje prostą regułę: „Alles, was man nicht öffentlich erzählen würde”, czyli wszystko, czego nie powiedziałbyś publicznie, powinno pozostać poza taką rozmową. To jego wskazówka z RP Online dotycząca poufnych informacji. Zastosuj ją przed wklejeniem maila klienta, opisu problemu pracownika czy dokumentu firmy. Najpierw oceń treść, dopiero potem wygodę użycia narzędzia.
Czego nie wpisywać do ChatGPT i innych AI
Eksperci wymieniają tajemnice przedsiębiorstwa, informacje medyczne i dane dostępu. Kesselheim wskazuje też dane konta, adres i telefon, a Weiß nazwisko, wiek oraz inne cechy pozwalające rozpoznać osobę. Praktyczna lista dla Twojego zespołu może więc obejmować:
- tajemnice firmy i poufne warunki współpracy;
- objawy, diagnozy i choroby konkretnych osób;
- hasła i dane logowania do firmowych usług;
- dane rachunków, kart i dostępu do bankowości;
- dane pozwalające rozpoznać klienta lub pracownika.
Poniższe zamienniki to przykłady zastosowania zasady ograniczania danych. Chodzi o zachowanie sensu pytania bez przekazywania szczegółów, których AI nie potrzebuje.
| Rodzaj danych | Dlaczego | Co zamiast |
|---|---|---|
| Tajemnice firmy | Wpisana treść trafia do operatora AI. | Ogólny opis celu bez poufnych warunków. |
| Dane zdrowotne | Ujawniają wrażliwe informacje o osobie. | Opis zadania organizacyjnego bez diagnozy. |
| Dane logowania | Są informacją umożliwiającą dostęp do usługi. | Opis trudności bez hasła i danych konta. |
| Dane bankowe | Dotyczą konta lub możliwości płacenia. | Ogólne pytanie bez numerów i dostępu. |
| Dane identyfikujące | Pozwalają powiązać sprawę z człowiekiem. | Opis ról bez nazwisk, adresów i telefonu. |
Przy bezpłatnych modelach eksperci zalecają zakładać możliwość dalszego wykorzystania wpisów, a nawet ich upublicznienia. To ostrzeżenie z wywiadu, a nie potwierdzenie zasad każdego produktu. Nie wyciągaj też odwrotnego wniosku, że sam płatny abonament zapewnia poufność. Rozmowa nie daje podstaw do takiej gwarancji.
Jak pytać AI o wrażliwe sprawy
Datensparsamkeit to niemiecka nazwa oszczędnego udostępniania danych: przekazujesz tylko informacje potrzebne do zadania. Weiß zaleca możliwie abstrakcyjny opis sprawy i anonimizację, czyli usunięcie cech pozwalających rozpoznać osoby. Zapisanie nazwiska od tyłu nie wystarcza, bo można je łatwo odtworzyć. Kesselheim proponuje pytać siebie, które informacje da się pominąć.
Przykład zastosowania: zamiast wklejać całą korespondencję z klientem, opisz, że klient prosi o zmianę zakresu usługi, a Ty chcesz uprzejmie doprecyzować oczekiwania. Nie podawaj jego danych ani poufnych ustaleń. AI może wtedy pomóc ułożyć strukturę odpowiedzi. Konkretne warunki dodasz samodzielnie poza rozmową z narzędziem.
Podobnie przy nieobecności pracownika: do przygotowania neutralnej wiadomości organizacyjnej nie trzeba opisywać jego choroby. Pytaj o sposób przekazania informacji o dostępności. Jeśli po usunięciu szczegółów opis nadal wskazuje konkretną osobę, uogólnij go dalej. Samo zastąpienie nazwiska etykietą nie powinno kończyć Twojej oceny.
Takie podejście możesz połączyć z przykładami z poradnika ChatGPT dla przedsiębiorców w Niemczech. Zaczynaj od zadania, które chcesz wykonać, i dobieraj do niego niezbędne informacje.
Jak sprawdzać odpowiedzi
Według Kesselheima korzystanie przez AI z publicznych źródeł zwiększa szansę poprawnej odpowiedzi. Nadal trzeba porównać odpowiedź z tym, na co narzędzie się powołuje. Otwórz wskazaną stronę i sprawdź, czy rzeczywiście potwierdza dany wniosek. Sam link pod zdaniem nie zastępuje przeczytania jego podstawy.
Weiß proponuje oceniać także skutek błędu. Gdy pomyłka mogłaby komuś zaszkodzić, wygoda szybkiej odpowiedzi nie uzasadnia rezygnacji ze sprawdzenia. W firmie przełóż to na prostą regułę: im poważniejsza decyzja, tym staranniej człowiek weryfikuje informacje, zanim zacznie działać.
Zapytanie kolejnej AI może najwyżej zmniejszyć ryzyko błędu. W wywiadzie wskazano również odwrotną sytuację: kolejny model może zakwestionować poprawną odpowiedź. Zgodność czatów nie jest więc niezależnym dowodem. Odróżniaj też prawdziwość tekstu od jego pochodzenia; ten drugi temat opisuje wpis o znaku wodnym w tekstach ChatGPT.
Human oversight oznacza nadzór człowieka. Weiß wskazuje, że ważnych zadań nie należy oddawać AI do całkowicie automatycznego wykonania bez ponownego sprawdzenia. Dla Twojej firmy oznacza to wyznaczenie osoby, która rozumie zadanie i może odrzucić wynik, zamiast jedynie zatwierdzać go z przyzwyczajenia.
Agenci AI i bezpieczeństwo w firmie
FAZ, niemiecki dziennik Frankfurter Allgemeine Zeitung, opisuje incydent dotyczący luk w PHP, języku używanym do tworzenia stron internetowych. Według artykułu termin uprzedzenia twórców o lukach przed ich ujawnieniem nie został dotrzymany. Zwiększyło to presję na zespoły informatyczne, a niemieckie instytucje zalecały czasowe wyłączenie dotkniętych stron. Do znalezienia słabości użyto dostępnych modeli AI.
To historia o wykrywaniu luk i reagowaniu na nie, nie doniesienie o wycieku firmowych rozmów z ChatGPT. Wniosek organizacyjny dla małej firmy: ustal, kto odbiera ostrzeżenia techniczne i odpowiada za reakcję. AI może pomagać szukać problemów, ale firma nadal potrzebuje człowieka, który zajmie się bezpieczeństwem.
Osobny artykuł FAZ dotyczy agentów AI, czyli systemów mających samodzielnie planować i wykonywać zadania. Autorzy wskazują potrzebę określenia celu, właściciela procesu, dozwolonych danych, uprawnień i warunków przerwania pracy. Przy decyzjach nieodwracalnych, finansowych lub dotyczących ludzi potrzebne są progi, zgody i sposób przekazania sprawy człowiekowi.
Jeśli rozważasz połączenie agenta ze skrzynką lub kalendarzem, zastosuj te zasady do konkretnego zadania: co może przeczytać, co przygotować, a co wymaga Twojego zatwierdzenia. Zachowaj zapis działań i możliwość zatrzymania pracy. Szerszy kontekst znajdziesz w artykule o automatyzacji małej firmy bez chaosu.
Co to znaczy dla Ciebie
- Spiszcie w zespole 5 rzeczy, których nie wpisujecie do AI. Wykorzystaj listę powyżej i dopiszcie własne przykłady z codziennej pracy, bez ujawniania danych. Każdy powinien umieć rozpoznać sytuację, w której trzeba zatrzymać wklejanie.
- Ważne odpowiedzi sprawdzaj w źródle. Ustal, kto robi to przed wykorzystaniem wyniku. Jeśli nie potrafisz potwierdzić informacji, nie traktuj jej jako podstawy decyzji tylko dlatego, że brzmi przekonująco.
- Agentowi daj ograniczony dostęp i człowieka, który zatwierdza. Określ zadanie, dozwolone działania oraz moment zatrzymania. Zacznij od przygotowywania propozycji i oceniaj wyniki w rzeczywistej pracy.
Moja rada: zaczynam od ogólnego opisu zadania, usuwam poufne szczegóły i sprawdzam wynik, zanim wykorzystam go w firmie.
Chcesz przećwiczyć te zasady z zespołem? Sprawdź szkolenie AI dla firm lub skontaktuj się z PromptProtocol.
Najczęstsze pytania
Czy mogę wkleić do ChatGPT umowę z klientem?
Nie wklejaj jej bez sprawdzenia, czy zawiera dane identyfikujące lub tajemnice firmy. Zgodnie ze wskazówkami ekspertów RP Online opisz problem ogólnie, pomijając poufne warunki i dane osób. Nie jest to ocena prawna konkretnej umowy.
Czy darmowa wersja AI używa moich danych?
Eksperci w RP Online ostrzegają, że przy bezpłatnych modelach trzeba liczyć się z dalszym wykorzystaniem wpisów, a nawet ich upublicznieniem. Wywiad nie potwierdza aktualnych zasad każdego narzędzia, więc nie daje podstaw do jednakowej odpowiedzi dla wszystkich usług.
Jak sprawdzić, czy AI ma rację?
Porównaj odpowiedź ze wskazanym źródłem i sprawdź, czy popiera ono dany wniosek. Według ekspertów RP Online kolejna AI najwyżej zmniejsza ryzyko błędu; może też uznać poprawną odpowiedź za błędną.
Czy mogę dać agentowi AI dostęp do skrzynki lub kalendarza?
Zastosuj zasady opisane w FAZ: wyznacz cel, dozwolone dane, zakres uprawnień i osobę odpowiedzialną. Ustal, które działania wymagają zatwierdzenia, zachowaj zapis pracy i możliwość jej zatrzymania. To sposób organizacji nadzoru, nie gwarancja bezpieczeństwa konkretnego połączenia.
Jakie zasady AI ustalić w zespole?
Ustalcie, które informacje pozostają poza czatem, jak uogólniać opisy i kto sprawdza ważne odpowiedzi. Agentom określcie dozwolone dane, działania, zgody człowieka i warunki zatrzymania. Wynika to z zaleceń ekspertów RP Online i zasad dla agentów opisanych w FAZ.