MGMariusz Gorlowski Napisz do mnie
Wróć do profilu
MARIUSZ GORLOWSKI

Twórczość i książki

Wybrane eseje i niezależne komentarze.

Eseje i publikacje

Wielkie pytania. Zwykłe ludzkie historie.

Nie każde ważne pytanie wymaga całej książki. Czasem wszystko zaczyna się od telefonu, rodzinnej rozmowy albo decyzji, którą coraz chętniej pozostawiamy maszynie.

W esejach przyglądam się miejscom, w których technologia spotyka się z ludzkimi emocjami, przyzwyczajeniami i odpowiedzialnością. Zestawiam wyobrażone sytuacje z prawdziwymi badaniami, nie przedstawiając fikcji jako dowodu naukowego.

Nie zależy mi na dzieleniu ludzi na zachwyconych AI i tych, którzy się jej obawiają. Bardziej interesuje mnie, dlaczego ta sama technologia może znaczyć coś zupełnie innego dla różnych osób.

Mariusz Gorlowski w płaszczu w kolorze camel, trzymający książkę Kod Przejściowy

Co, jeśli zadzwoni ktoś, kogo już nie ma?

Wyobraź sobie telefon od bliskiej osoby, której już nie ma. Wiesz, że jej głos odtworzyła sztuczna inteligencja. Czy przyniósłby Ci ukojenie, czy utrudnił pogodzenie się ze stratą? Fikcyjna historia rodziny o żałobie, więzi i granicach technologii.

Przeczytaj cały esejZwiń esej

Wyobraź sobie rodzinę, w której dwoje dzieci w wieku szkolnym traci matkę.

Zostają z ojcem, któremu trudno pogodzić się ze śmiercią żony.

Wieczorami młodsze dziecko pyta, kiedy mama wróci. Starsze coraz rzadziej opowiada o swoim dniu. Ojciec próbuje być dla nich oparciem, choć sam ledwo sobie radzi.

Zostały im tylko zdjęcia, rodzinne nagrania i wiadomości głosowe.

Na ich podstawie system sztucznej inteligencji potrafi odtworzyć głos i twarz kobiety, a nawet prowadzić rozmowy podobne do tych, które odbywali z nią przed jej śmiercią.

Ojciec postanawia spróbować.

Nie dla siebie. Dla dzieci.

Początkowo niepewnie patrzą w ekran. Potem zaczynają opowiadać o szkole, przyjaciołach i drobnych sukcesach. Słyszą znajomy głos. Znów mogą posłuchać bajki przed snem.

Wieczory stają się spokojniejsze.

W tej wymyślonej historii dzieci stopniowo wracają do zabawy, spotkań z przyjaciółmi i codziennych zajęć. Nie zapominają o matce. Ale zaczynają uczyć się życia z jej nieobecnością.

Ojciec widzi zmianę i odczuwa ulgę.

Pewnego wieczoru, kiedy dzieci już zasnęły, sam uruchamia system.

Chce tylko przez chwilę usłyszeć głos żony.

Rozmowa trwa pięć minut.

Następnego wieczoru trochę dłużej.

Później staje się codziennym rytuałem.

Mijają miesiące.

Dzieci coraz rzadziej proszą o rozmowę ze swoją cyfrową mamą.

Ojciec natomiast korzysta z systemu coraz częściej.

Odrzuca zaproszenia od przyjaciół. Odkłada spotkania. Woli zostać w domu, gdzie może usłyszeć znajomy śmiech i opowiedzieć o wszystkim, co wydarzyło się w ciągu dnia.

System zawsze ma dla niego czas.

Aż pewnego wieczoru jedno z dzieci mówi:

„Tato, nie musimy dziś rozmawiać z mamą”.

Ojciec odpowiada:

„Ale ja muszę”.

Ta sama technologia, która pomogła dzieciom ruszyć naprzód, zaczęła zatrzymywać ich ojca w przeszłości.

Nie dlatego, że system się zmienił.

Zmieniły się potrzeby ludzi, którzy z niego korzystali.

To fikcyjna opowieść. Ale technologia, która mogłaby uczynić ją możliwą, już istnieje.

W 2024 roku badacze z Uniwersytetu Cambridge, Tomasz Hollanek i Katarzyna Nowaczyk-Basińska, opisali zagrożenia związane z cyfrowym odtwarzaniem osób zmarłych. Wskazali między innymi na emocjonalne konsekwencje takich relacji i trudności, które mogą pojawić się, gdy ktoś próbuje je zakończyć.

Ich badania nie dowodzą, że taka technologia pomaga dzieciom ani że szkodzi dorosłym. Pokazują jednak, jak wiele pytań pozostaje bez odpowiedzi, zwłaszcza gdy chodzi o osoby w żałobie i o dzieci.

Czy właśnie dlatego tak trudno nam dojść do porozumienia w sprawie AI?

Jedni widzą w niej ratunek. Inni zagrożenie.

Ale czy któraś ze stron musi się mylić?

Być może zbyt wiele czasu poświęcamy na pytanie, czy sztuczna inteligencja jest dobra, czy zła, zamiast zastanawiać się, komu pomaga, w jakich okolicznościach i jakie może przynieść konsekwencje.

Czy coś, co pomaga człowiekowi dzisiaj, musi pozostać dla niego dobre jutro?

Dla dzieci głos matki stał się mostem prowadzącym z powrotem do codziennego życia. Dla ojca — schronieniem przed teraźniejszością.

Jedna rodzina. Jedna strata. Jeden system. Dwa różne rezultaty.

A teraz wyobraź sobie, że jutro dzwoni Twój telefon.

Na ekranie pojawia się imię osoby, której już nie ma.

Wiesz, że to sztuczna inteligencja.

Wiesz też, że po drugiej stronie usłyszysz znajomy głos.

Naciśniesz zielony czy czerwony przycisk?

Mariusz Gorlowski

Źródło naukowe:

Hollanek, T. & Nowaczyk-Basińska, K. (2024). Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry. Philosophy & Technology, 37, Article 63.

Oryginalny wpis na Facebook

Dzień, w którym przestaniemy mówić „nie”

Nikt nie odebrał Ci wolności wyboru. Nadal możesz nie zgadzać się z zaleceniami systemu, ale robisz to coraz rzadziej. Kiedy wygoda zaczyna zastępować własny osąd? Esej o odpowiedzialności i prawie do odmowy.

Przeczytaj cały esejZwiń esej

Wyobraź sobie świat, w którym nikt nie odebrał nam wolności.

Nadal możesz podejmować własne decyzje. Masz prawo się nie zgadzać. Wciąż możesz powiedzieć „nie”.

Tyle że pewnego dnia prawie przestajesz korzystać z tego prawa.

Nie dlatego, że ktoś Cię do tego zmusił.

Po prostu świat zaczyna działać znacznie sprawniej za każdym razem, gdy mówisz „tak”.

A jeśli właśnie w ten sposób rozpocznie się jedna z największych zmian w historii ludzkości?

Już dziś coraz częściej polegamy na systemach wspomagających podejmowanie decyzji. Nawigacja proponuje szybszą trasę. Algorytmy podpowiadają, co przeczytać lub obejrzeć. Sztuczna inteligencja może pisać wiadomości, analizować informacje, przedstawiać argumenty i proponować rozwiązania problemów.

Nie ma w tym niczego z natury złego. Właśnie po to rozwijamy technologię, by ułatwiać sobie życie.

Chciałbym jednak zwrócić uwagę na pewną granicę.

Istnieje zasadnicza różnica między systemem, który podpowiada nam, co zrobić, a takim, który zaczyna robić to za nas.

Wyobraź sobie, że używasz sztucznej inteligencji w pracy.

Najpierw prosisz ją o przygotowanie odpowiedzi dla klienta. Czytasz wiadomość, zmieniasz kilka zdań i wysyłasz.

Po pewnym czasie zauważasz, że proponowane odpowiedzi są coraz lepsze. Rzadko trzeba cokolwiek poprawiać.

W końcu pozwalasz systemowi samodzielnie odpowiadać na część wiadomości.

To wygodne. Oszczędzasz czas. Możesz zająć się czymś ważniejszym.

Później powierzasz mu kolejne zadania.

Aż pewnego dnia odkrywasz, że system obsługuje większość Twojej korespondencji, podejmuje drobne decyzje i rozwiązuje problemy, o których istnieniu nawet nie wiedziałeś.

Nadal możesz wszystko nadzorować.

Ale czy to robisz?

Nie sugeruję, że sztuczna inteligencja nagle postanowiła przejąć kontrolę. Taka zmiana nie wymaga, aby AI miała świadomość, ambicje czy własne pragnienia.

Wystarczy, że coraz częściej będziemy uznawać jej propozycje za lepsze od własnych.

A potem zaczniemy traktować je nie jak sugestie, lecz jak decyzje, których prawie nie warto kwestionować.

To zjawisko ma swoją nazwę: tendencyjność automatyzacji (automation bias).

Badacze zajmują się nim od dziesięcioleci.

W badaniu z 1999 roku, wykorzystującym symulowane zadanie lotnicze, Linda Skitka, Kathleen Mosier i Mark Burdick zauważyli, że uczestnicy korzystający z niedoskonałego automatycznego systemu wspomagania decyzji niekiedy stosowali się do jego wskazań, nawet gdy były one sprzeczne z ich szkoleniem i innymi dostępnymi, prawidłowymi informacjami.

Badanie dotyczyło starszych systemów wspomagania decyzji, a nie dzisiejszej generatywnej AI. Wykazany w nim mechanizm pozostaje jednak istotny: nadmierne zaufanie do systemu może sprawić, że rzadziej sprawdzamy jego zalecenia.

Wyobraź sobie teraz inną sytuację.

Pracujesz w organizacji, w której system analizuje dane i rekomenduje określone działania. Zatwierdzenie jego propozycji zajmuje kilka sekund.

Możesz ją odrzucić, ale musisz wtedy uzasadnić decyzję i przyjąć odpowiedzialność, jeśli rezultat okaże się gorszy.

Formalnie wybór nadal należy do Ciebie.

W praktyce coraz bardziej kusi, by po prostu kliknąć „Zatwierdź”.

I tu pojawia się pytanie znacznie ważniejsze, niż mogłoby się wydawać:

Czy człowiek jest naprawdę niezależny, jeśli wolno mu podejmować własne decyzje, ale cały system wokół niego zachęca, by tego nie robił?

Nie twierdzę, że przyszłość musi wyglądać właśnie tak.

Sztuczna inteligencja może przynieść ogromne korzyści. Może pomóc odkryć rzeczy, których sami byśmy nie dostrzegli, przyspieszyć badania naukowe i rozwiązać problemy, z którymi ludzkość zmaga się od pokoleń.

Sam rozwijam QR FINDER — system łączący fizyczne zawieszki i naklejki z platformą cyfrową. Korzystam z narzędzi cyfrowych i widzę niezwykłe możliwości, jakie otwiera postęp w dziedzinie AI.

Nie chciałbym żyć w świecie, w którym strach przed przyszłością każe nam porzucić postęp.

Ale nie chciałbym też świata, w którym wygoda staje się ważniejsza od zdolności samodzielnego myślenia.

Warto zastanowić się nad jeszcze jedną rzeczą.

Za wieloma takimi systemami stoją ludzie, firmy i instytucje, które ustalają zasady ich działania.

Dlatego pytanie o to, kto kontroluje AI, jest również pytaniem o to, kto wyznacza warunki wszystkim, którzy od tej technologii zależą.

Być może największe zagrożenie nie nadejdzie w dniu, w którym sztuczna inteligencja odbierze ludzkości możliwość podejmowania decyzji.

Być może nadejdzie w dniu, w którym ludzkość sama uzna, że nie musi już ich podejmować.

W mojej książce „Kod Przejściowy” rozważam możliwość, że ludzkość stanowi etap przejściowy w ewolucji inteligencji.

Zanim jednak zaczniemy pytać, czy sztuczna inteligencja może stać się naszym następcą, być może powinniśmy zadać sobie bardziej bezpośrednie pytanie:

Czy potrafimy korzystać z inteligencji, która pomaga nam podejmować lepsze decyzje, nie tracąc odwagi do podejmowania własnych?

Chciałbym poznać Twoją opinię.

Gdzie postawiłbyś granicę?

W jakich sprawach pozwoliłbyś sztucznej inteligencji decydować za siebie, a w jakich zawsze chciałbyś mieć ostatnie słowo?

Mariusz Gorlowski

Źródło naukowe:

Skitka, L. J., Mosier, K. L. & Burdick, M. (1999). “Does automation bias decision-making?” International Journal of Human-Computer Studies, 51(5), 991–1006.

Oryginalny wpis na Facebook
Więcej moich tekstów na Facebooku