Stanisław Lem o technologii: trzy pytania przed użyciem narzędzia

Nowe narzędzie cyfrowe może oszczędzić czas, ale szybkość działania nie mówi jeszcze, czy warto mu powierzyć dane albo decyzję. Refleksje Stanisława Lema pomagają postawić trzy praktyczne pytania: co dzieje się z informacjami o użytkowniku, gdzie automatyzacja może się pomylić i kto odpowiada za jej wynik.

Opracowanie: redakcja Weby24. Punktem wyjścia jest „Bomba megabitowa” Stanisława Lema. Poniższe ujęcie jego myśli jest parafrazą, a nie cytatem z książki. Przykłady dotyczące współczesnych usług cyfrowych są interpretacją redakcyjną.

Co z „Bomby megabitowej” przydaje się dziś

W „Bombie megabitowej” Lem rozważa skutki gwałtownego przyrostu informacji i ograniczenia ludzkiej zdolności do jej selekcji. Sens tej refleksji można ująć ostrożnie: więcej dostępnych informacji nie oznacza automatycznie lepszego zrozumienia. To parafraza zagadnienia podejmowanego przez pisarza, nie zdanie przypisane mu jako dosłowny cytat.

Ta różnica ma znaczenie. Lem nie oceniał współczesnej aplikacji, którą czytelnik właśnie instaluje, ani nie zostawił gotowej listy ustawień prywatności. Jego pytanie o relację między informacją a wiedzą można jednak zastosować do narzędzi, które zbierają dane, podsuwają odpowiedzi lub wykonują zadania za człowieka.

Polski pisarz science fiction, przez lata związany z Krakowem, opisywał technologię także jako wyzwanie dla ludzkiego osądu. W jego twórczości zainteresowanie możliwościami wynalazków idzie w parze z pytaniem o granice poznania. Dlatego użyteczne jest sprawdzenie nie tylko tego, co narzędzie potrafi zrobić, lecz także tego, czego użytkownik nie widzi lub nie może łatwo skontrolować.

Prywatność: jakie dane trzeba oddać w zamian za wygodę

Pierwsze kryterium dotyczy danych. Aplikacja do porządkowania notatek może potrzebować dostępu do zapisanych w niej treści. Nie wynika z tego, że potrzebuje również kontaktów, stałej lokalizacji i pełnej historii plików. Przed użyciem warto porównać zakres żądanych uprawnień z zadaniem, które aplikacja ma wykonać.

Praktyczne pytania są proste: czy można użyć narzędzia bez zakładania konta, kto otrzymuje przesłane materiały i czy da się je usunąć? Odpowiedzi mogą znajdować się w ustawieniach usługi oraz jej zasadach przetwarzania danych. Jeśli są niejasne, można zacząć od próbki pozbawionej danych osobowych zamiast od prywatnej korespondencji czy dokumentów.

Szczególnej ostrożności wymagają narzędzia, do których wkleja się cudze informacje. Wygoda użytkownika nie daje mu prawa do swobodnego udostępniania danych klientów, współpracowników lub bliskich. Przed przesłaniem takich treści trzeba ustalić, czy jest to potrzebne i czy osoby, których dane dotyczą, mogą tego rozsądnie oczekiwać.

Automatyzacja: gdzie błąd może pozostać niezauważony

Drugie kryterium to możliwość wykrycia pomyłki. Program może przygotować streszczenie długiego dokumentu w kilka sekund. Samo tempo nie dowodzi jednak, że zachował wyjątki, daty i zastrzeżenia. Im większy skutek błędnego wyniku, tym ważniejsze staje się sprawdzenie go w materiale wyjściowym.

Warto zapytać, czy wynik można prześledzić krok po kroku. Jeśli narzędzie podaje odpowiedź bez wskazania fragmentu, na którym ją oparło, użytkownikowi trudniej ocenić jej trafność. Przy zadaniach o małych konsekwencjach wystarczy często szybka kontrola. Przy decyzjach dotyczących zdrowia, pieniędzy lub cudzych praw potrzebna jest znacznie staranniejsza weryfikacja.

Pomocny jest test na konkretnym przykładzie: dać narzędziu zadanie, którego wynik znamy, i sprawdzić, jak radzi sobie z wyjątkiem. Błędna odpowiedź w takim teście nie musi przekreślać całej usługi. Pokazuje natomiast, jakiego rodzaju kontroli będzie wymagać w codziennym użyciu.

Odpowiedzialność: kto podejmuje ostateczną decyzję

Trzecie kryterium dotyczy człowieka korzystającego z narzędzia. Jeśli program proponuje treść wiadomości, ocenę kandydata albo sposób rozwiązania problemu, warto ustalić, kto zatwierdza wynik i może wyjaśnić swoją decyzję. Przycisk „wyślij” nadal naciska człowiek, nawet gdy większość tekstu powstała automatycznie.

Odpowiedzialne użycie nie wymaga ręcznego powtarzania każdej czynności. Wymaga dopasowania kontroli do skutków błędu. Inaczej sprawdza się propozycję tytułu notatki, a inaczej informację wysyłaną klientowi. Dobrym nawykiem jest też zachowanie możliwości poprawienia wyniku i poinformowania odbiorcy, gdy ważna treść została przygotowana z pomocą automatyzacji.

Przed włączeniem nowego narzędzia do codziennej pracy można więc wykonać trzy krótkie sprawdzenia:

• Prywatność: jakie dane są niezbędne i co stanie się z nimi po zakończeniu zadania?
• Błędy: na jakim przykładzie da się sprawdzić wynik i gdzie można znaleźć jego podstawę?
• Odpowiedzialność: kto zatwierdzi rezultat i naprawi pomyłkę, jeśli wyjdzie na jaw później?

Refleksja Lema nie zastępuje odpowiedzi na te pytania. Przypomina, dlaczego warto je zadawać: dostęp do większej ilości informacji i sprawniejszych narzędzi nie zwalnia człowieka z rozumienia ich ograniczeń. Najbliższym krokiem jest sprawdzenie tych trzech kwestii w ustawieniach oraz na małym, bezpiecznym zadaniu, zanim powierzy się usłudze ważne dane lub decyzję.

Źródło: Editorial research