"Polska może przespać kluczowy moment w historii, tak jak w okresie rewolucji przemysłowej" [WYWIAD]

– Jednym z istotnych problemów I Rzeczpospolitej, który wpłynął finalnie na jej upadek, było przegapienie początków rewolucji przemysłowej. Próbowaliśmy to wprawdzie nadrabiać, pojawiły się różne ciekawe inicjatywy, ale dopiero w momencie, gdy było już za późno na skuteczne reformy. […] Nie zauważyliśmy, że nasz model gospodarczy przestał być wydajny. Bardzo wielu ekspertów twierdzi, że teraz będzie tak samo. Że znów prześpimy kluczowy moment. Ja sam jestem co do tego mocno przekonany. Również dlatego, że moim zdaniem obecne przemiany będą jeszcze silniejsze i gwałtowniejsze, niż wspomniana rewolucja przemysłowa – ostrzega dr Kamil Kulesza, założyciel Centrum Zastosowań Matematyki i Inżynierii Systemów w ramach Polskiej Akademii Nauk.

Z doktorem Kuleszą rozmawiamy o tym, jak dynamiczny rozwój sztucznej inteligencji może wpłynąć na scenę polityczną państw demokratycznych, a także o tym, czy Polsce grozi gospodarcze i instytucjonalne zapóźnienie, porównywalne ze schyłkowym okresem I Rzeczpospolitej. Naturalnie nie zabrakło również innych tematów. Symbioza ludzi i maszyn, rozwinięte sztuczne inteligencje traktujące ludzkość jak mrówki…

Krótko mówiąc – zapraszamy do lektury.

***

Algorytmy, precyzyjne badania nastrojów społecznych, łatwy dostęp do narzędzi produkujących zdjęcia i nagrania typu deep fake. Wkraczamy w okres politycznego chaosu wywołanego coraz szybszym rozwojem sztucznej inteligencji?

Reklama

Zdania są podzielone. Wiele osób mówi o nadchodzącej cyfrowej tyranii. Pewne zjawiska, chociażby te zdjęcia deep fake, o których pan wspomniał, zdają się te niewesołe prognozy potwierdzać. Ja sam tego nie wykluczam, niektóre rzeczy są niepokojące. Mogę się odwołać do mojego doświadczenia kryptografa. Każda profesja ma jakąś swoją chorobę zawodową, a my – kryptografowie – jesteśmy zawodowymi paranoikami. Tego nas trochę uczy historia. Praktycznie na wszystko zawsze znajduje się sposób, jest to tylko kwestią czasu i poświęconych zasobów. Wdzięczny przykład stanowi Enigma – Niemcy naprawdę się nad tym napracowali, mieli do dyspozycji wybitnych matematyków, ale koniec końców i tak udało się ją złamać. Aczkolwiek w tym przypadku gotowy jestem powściągnąć moją podejrzliwość i jednak bronić bardziej optymistycznych przewidywań. Nie twierdzę, że scenariusze pozytywne na pewno się zrealizują, ale tego również nie możemy wykluczyć. A takich scenariuszy jest kilka.

Mianowicie?

Generalnie – o demokrację trzeba ciągle dbać, to nie jest system dany raz na zawsze. Niby jest to oczywiste, ale chyba nie dla każdego. Należy dbać o jej transparentność, o funkcjonowanie instytucji, o przestrzeganie rozmaitych procedur. Rozwój sztucznej inteligencji może to ułatwić. Z jednej strony, mamy dziś do czynienia z zalewem danych. Większość obywateli została już dość dobrze sprofilowana, choćby poprzez swoją obecność w mediach społecznościowych. To powoduje, że tymi ludźmi może być łatwiej manipulować na poziomie politycznym. Między innymi stąd też wiele opinii, że polityka generalnie spsiała, nie ma już prawdziwych liderów, tylko sami populiści, którzy swój przekaz dostosowują do nieustannie wykonywanych sondaży. Generalnie – chaos informacyjny, profilowanie, wojna cyfrowa, wszechobecne ruskie trolle. Mówię oczywiście w dużym uproszczeniu, posługując się pewnymi popularnymi hasłami.

Tylko że technologia jednocześnie jest szansą, szansą na lepszą politykę. Przywołam tutaj odległą analogię – okazuje się, że sztuczna inteligencja jest znakomita w rozpoznawaniu obrazów w technologiach medycznych. Normalnie do wykrywania pewnych schorzeń na podstawie zdjęć potrzebny jest doskonale wytrenowany lekarz, ale sztuczna inteligencja ten proces od jakiegoś czasu wydatnie ułatwia i przyspiesza. Może się zatem okazać, że te wszystkie fejki – zdjęcia, a nawet filmy – również będą poprzez mechanizmy oparte na sztucznej inteligencji wykrywane, a może i eliminowane z przestrzeni publicznej. Być może nawet w czasie rzeczywistym. Pojawi się coś w rodzaju wskaźnika wiarygodności.

Sztuczna inteligencja równolegle w służbie manipulacji i transparentności.

Z tym łączy się jeszcze ciekawsza wizja. Mówimy o technologii, którą praktycznie już teraz mamy, choć wydaje się dużo bardziej zaawansowana. W przypadku ChatGPT, zrobiono w Polsce pewien eksperyment – zadano mu kilka pytań w odniesieniu do wiodących stacji telewizyjnych i tytułów prasowych. Pytano o stosunek do Jarosława Kaczyńskiego, Donalda Tuska czy mniejszości seksualnych. ChatGPT – działający przecież jako analizator, kompilator istniejących informacji, który wyciąga z nich esencję – trafnie podsumował stosunek poszczególnych mediów do wspomnianych postaci oraz tematów. Można sobie zatem wyobrazić, i to specjalnie nie przesuwając granic technologicznych, że na tej samej zasadzie zyskamy jako obywatele dodatkowe możliwości kontrolowania polityków. Wyobraźmy sobie na przykład debatę prezydencką. Panowie kandydaci dostają pytania, przerzucają się argumentami. Jak się takie rzeczy działy w przeszłości, to po każdej takiej debacie przeprowadzane były rozmaite analizy. I często okazywało się, że ten czy inny argument uczestnika dyskusji był albo naciągany, albo w ogóle z gruntu fałszywy. Tylko że zweryfikowanie tego wszystkiego musiało trochę potrwać. A wiadomo, jak to jest – igrzyska medialne się odbyły, mocna teza poszła w świat, zapisała się ludziom w pamięci, a do ewentualnych weryfikacji czy sprostowań dotarła już tylko garstka najbardziej zaangażowanych.

Reklama

Stworzenie wskaźnika wiarygodności było odpowiedzią na ten problem. Pozwoliłoby weryfikować słowa polityków na bieżąco, w czasie rzeczywistym. Może nawet udałoby się to fajnie wizualnie opakować poprzez jakąś nakładkę. Na przykład gdy polityk kłamie, rosną mu rogi albo robi się czerwony, a kiedy mówi rzeczy mające pokrycie w faktach, nad jego głową rozbłyska aureola. Oczywiście dowolna inna wizualizacja, na przykład rosnący nos, etc., też jest możliwa. Mówiąc bardziej poważnie, tego rodzaju narzędzie musiałoby być niezależne i oceniać rzetelnie. Z technicznego punktu widzenia wydaje się, że są to warunki możliwe do spełnienia. Wie pan, nie chcę być przesadnie złośliwy, ale mam wrażenie, że taką konfrontację ze sztuczną inteligencją na gruncie pewnego rodzaju rzetelności przetrwałoby niewielu polityków. Nie tylko w Polsce.

Trudno mi sobie to wszystko wyobrazić. Zresztą – czy wtedy nie mielibyśmy do czynienia z innym rodzajem populizmu? Politycy mówiliby to, co zaakceptuje sztuczna inteligencja.

Zgoda, ale – jeśli zostaną spełnione te warunki obiektywizmu sztucznej inteligencji, o których wspomniałem – to nie byłoby takie złe rozwiązanie. Między innymi skończyłoby się endemiczne kłamstwo i manipulacje. Niech tak będzie, skoro to ma być nasz rzetelny fact-checker. Na koniec to jest i tak zawsze kwestia zaufania wyborcy. Proszę pamiętać, że produktów w rodzaju ChatGPT jest sporo. To nie jest żadna unikalna technologia. Być może fact-checkerów byłoby zatem wiele, każdy od innego wytwórcy. Jednak sądzę, że na koniec dnia mielibyśmy taką samą sytuację, jak dzisiaj z wyszukiwarkami. Niby wyniki wyszukiwania w Google i Bing się trochę różnią, ale co do zasady – rezultaty są mniej więcej podobne, o ile nie szukamy jakichś bardzo nietypowych czy wyrafinowanych rzeczy.

Wszystko to brzmi mocno nierealnie, ale z drugiej strony – zewsząd dobiegają głosy, że jesteśmy świadkami dziejowego przełomu technologicznego.

Ocena tego jest wysoce subiektywna, ale moim zdaniem – a nie jest to, jak sądzę, opinia odosobniona – to będzie gamechanger. Zanosi się na przełom co najmniej porównywalny z dwoma, trzema kluczowymi momentami w historii ludzkości. Takimi jak rewolucja przemysłowa, czy wcześniej, jak to niektórzy obrazowo ujmują, “wynalezienie rolnictwa”. Czyli przejście ze społeczności zbieracko-łowieckiej do życia osiadłego. Tego rodzaju przełomy powodowały diametralne zmiany w funkcjonowaniu społeczeństw. I w tej chwili mamy do czynienia z procesem podobnego kalibru. Są osoby, które uważają – ja też się ku temu skłaniam – że sztuczna inteligencja zmieni jeszcze więcej. Zajdą procesy, których dzisiaj jeszcze nie potrafimy sobie nawet wyobrazić. Może za wyjątkiem autorów najlepszych powieści z gatunku science-fiction. Warto sobie te książki dzisiaj poczytać. Zastanowić się, jak pewne rzeczy widział Stanisław Lem w “Golemie XIV”. Jakie wizje kreślił Jacek Dukaj w “Czarnych oceanach”. Bardzo dobrze możliwe kierunki zmian naszej rzeczywistości zarysowuje też “Accelerando” pióra Charlesa Strossa.

A może to zbyt pochopne, zbyt śmiałe teorie?

Jasne, można sobie wyobrazić ileś scenariuszy, w ramach których rozwój prac nad AI zostanie zatrzymany. Pytanie oczywiście, na jak długo. Choćby taki prosty, krótkoterminowy scenariusz, gdzie mogłoby to nastąpić – to sytuacja, gdy przestaje działać obowiązujące od mniej więcej półwiecza prawo Moore’a, sprowadzające się w dużym uproszczeniu do regularnego podwajania się ilości układów logicznych upakowanych w mikroprocesorach, a to przekłada się prawie bezpośrednio na podwajanie się mocy obliczeniowych komputerów co około dwa lata. W ciągu ostatnich kilkudziesięciu lat wielokrotnie wieszczono, że to prawo może przestać obowiązywać, że moc obliczeniowa przestanie rosnąc w takim tempie. Za każdym razem udawało się znaleźć rozwiązanie, no ale być może w końcu się nie uda. I wtedy pojawi się poważny problem, jeśli chodzi o rozwój sztucznej inteligencji – po prostu zacznie nam brakować mocy obliczeniowych. Tylko – czy to by było na zawsze? Nie wiem.

Natomiast, jak bardzo ładnie opisywał Lem w “Golemie XIV”, kiedy zaawansowane sztuczne inteligencje powstaną, to naprawdę trudno będzie już oszacować granice ich możliwości. Będzie to prawdopodobnie daleko poza naszym wyobrażeniem. Z punktu widzenia człowieka – rozwój sztucznych inteligencji będzie się jawił jako nieograniczony. Nie ma matematycznego dowodu na to, że punkt końcowy dla AI istnieje. Nikt tego nigdy nie pokazał, nie dowiódł tego.

Z Elonem Muskiem można się w wielu kwestiach nie zgadzać, można być wobec niego surowym w ocenach. Ale w kwestii krytycznej refleksji na temat badań nad AI i apelu o ich zamrożeniu zrobił dobrą robotę. Poprzez swoje zasięgi zwrócił uwagę na istotny problem, o którym warto głośno mówić. Wielu ludzi wierzy, że nawet jeśli maszyny staną się dużo inteligentniejsze od nas, to wystarczy wyciągnąć wtyczkę i po kłopocie. Cóż, życzę powodzenia temu, kto spróbuję tę wtyczkę wyciągnąć. Jak to się skończyło w “Golemie XIV” albo w “Czarnych oceanach”, to można poczytać tamże. Bardzo polecam poznać te wizje. Moim zdaniem trzeba budować zabezpieczenia, ograniczenia, rozmawiać o etyce. Natomiast musimy z góry przyjąć założenie, że istnieje spore prawdopodobieństwo, iż nie uda nam się powstrzymać rozwoju sztucznej inteligencji i wymknie się on spod kontroli. Tylko czy to powinno skutkować decyzją, że się poddajemy? No nie. W życiu są różne sytuacje, gdy mamy stosunkowo małe szanse na sukces, a jednak – próbujemy. Póki walczymy, zawsze może się udać.

Nie nastraja to optymistycznie.

Tak czy owak, ja w żadne samoograniczenie nie wierzę. To by wymagało od całego świata przyjęcia takiej samej perspektywy. A nawet w świecie zachodnim podejścia są zróżnicowane i zmienne. Przecież okazało się niedługo po wspomnianym apelu, że ten sam Elon Musk planuje jednak intensywne prace nad AI. Tak więc choćby na tym przykładzie widać, że firmy i duzi gracze rządowi mogą głośno mówić jedno, a po cichu robić drugie. Na przykład prowadzić badania na zasadzie: “nikt się nie dowie”. To jest na pewno prostsze niż, nie wiem, ukrywanie badań genetycznych czy wcześniej rozwoju technologii nuklearnej. Mimo bardzo dużych nakładów na sztuczną inteligencję, mimo tego, jak dużo serwerów trzeba posiadać, żeby pewne rzeczy robić, wciąż łatwiej to ukryć, niż kiedyś Projekt Manhattan. A poza tym, poza naszą cywilizacją zachodnią są jeszcze inne potężne ośrodki. Najbardziej oczywisty przykład stanowią Chiny. Oni pieniędzy akurat mają sporo, zbudowali całkiem niezły potencjał naukowy. Czy w tym obszarze będą w stanie realnie współzawodniczyć z Zachodem, pewności wciąż nie ma. Parę tygodni temu pokazali swoją odpowiedź na ChatGPT i zachwytów nie było. Ale – i to naprawdę nie jest żadna foliarska teoria – mogli przecież celowo pokazać coś takiego. Po co wszyscy mają wiedzieć, jak daleko udało im się zabrnąć i na co ich właściwie stać, prawda? To oczywiście sfera spekulacji.

Czyli co, żadnej kontroli, żadnych hamulców?

Od razu powiem, jakie podejście do tego tematu – moim zdaniem – nie ma racji bytu. Jeżeli rządy albo prawnicy sobie wyobrażają, że stworzą jakąś legislację, na przykład w oparciu o szeroko pojętą etykę, i skutecznie zabronią komuś badań nad sztuczną inteligencją, to ja proponuję odrobić pracę domową z historii. Tak to ujmę. Nawet jeżeli hipotetycznie założymy, że w Unii Europejskiej czy Stanach Zjednoczonych uda się to oficjalnie zrobić, to możliwości, jeżeli chodzi o detekcję nielegalnych działań, będą bardzo ograniczone. Tak na upartego, sprowadzając temat do ekstremum, pewną podstawową część tych badań można robić jak matematykę – na kartce papieru. Kto wie, co ja piszę u siebie w domu, na swoim papierze, jeśli obok mnie nie będzie mojego smartfona czy laptopa?

To już chyba lekka przesada.

Tak jak mówię, przedstawiam pewien skrajny wariant, jako kryptograf z wykształcenia. Nie wszystkich naukowców można nieustannie monitorować. No ale dobrze, załóżmy – wydarzył się cud i w ramach jednej jurysdykcji wstrzymano rozwój sztucznej inteligencji i wszyscy się do tego zastosowali. Przecież zawsze będą gdzieś obok inne jurysdykcje. I ktoś inny dostrzeże w tym szansę na uzyskanie przewagi. Kto zdoła wyegzekwować cokolwiek od – znów skrajny przykład – Korei Północnej? Bombę atomową chcieli i mają. Mimo oporu wielu światowych graczy.

Będziemy potrzebowali mniej polityków i urzędników wraz z postępującą automatyzacją, wynikającą z rozwoju sztucznej inteligencji?

Co do klasy politycznej, to nie jestem przekonany. Może być różnie. Niewykluczone, że polityka, rozumiana dość szumnie jako dbałość o dobro wspólne, będzie w przyszłości równie istotna, jak jest dzisiaj. Jeśli zabrzmiało to zbyt idealistycznie, to przepraszam, ale ja naprawdę w to wierzę. Co innego z urzędnikami. Sztuczna inteligencja jest bowiem bardzo dobra w powtarzalnych czynnościach. Podobnie zresztą jak komputer, co mogę panu potwierdzić jako informatyk. Do pewnych algorytmów w ogóle nie potrzebujemy przecież sztucznej inteligencji, a i tak potrafimy tworzyć je w taki sposób, by uwzględniać wydarzenia losowe. Wymaga to pewnej precyzji i złożoności, ale jest jak najbardziej wykonalne. Sztuczna inteligencja stanowi tutaj tylko wejście na wyższy poziom. Otwiera możliwość wykonywania bardziej skomplikowanych zadań, wymagających wnioskowania na podstawie obszernych zbiorów danych.

Mnie się zdarzało uczestniczyć w optymalizacji różnych, szeroko rozumianych, procedur administracyjnych. Niekoniecznie w sferze publicznej, bardziej mam tu na myśli elementy zarządzania korporacjami. Ale z abstrakcyjnego, matematycznego punktu widzenia – tutaj nie ma większych różnic. Na podstawie tych doświadczeń nabrałem głębokiego przekonania, że nastąpi bardzo duża redukcja urzędników. Dzisiejsza biurokracja zostanie drastycznie zmniejszona. Pewnie z 10% urzędników zachowa swoje posady, bo ktoś będzie musiał rozstrzygać tematy wymagające bardziej kreatywnego podejścia, wymykającego się poza zakres dostępnych w danym czasie kompetencji sztucznej inteligencji. Plus – trzeba będzie nadążać za zmianami i dbać o te wszystkie systemy, żeby uniknąć krachu.

To ma też dodatkową zaletę. Załóżmy bowiem, że pojawia się minister, który faktycznie chce coś zmienić w swojej dziedzinie, a nie tylko trwać na stanowisku. Ma pomysły, ma program, ma różne rzeczy przygotowane, które chce wdrożyć. O coś mu chodzi. Tacy ludzie w Polsce spotykają się z silnym oporem własnej administracji. Nie tylko w samym ministerstwie, również na dużo niższych szczeblach. Sztandarowy przykład stanowi aparat skarbowy. Wiadomo, że tam są pewne nawyki i przekonanie, że z definicji przedsiębiorca to złodziej, a obywatel to petent. Na korytarzach wciąż utrzymuje się klimat poprzedniej epoki. Tych ludzi jest w dodatku dość dużo. Za dużo, co komplikuje czynności proste, bo każdy musi mieć przecież coś do zrobienia. W zderzeniu z taką armią urzędników, wiele innowacyjnych pomysłów po prostu ginie. A jak się okaże, że zostało tylko 10% tych najskuteczniejszych pracowników, to przeprowadzanie kolejnych usprawnień będzie już znacznie łatwiejsze. Urzędy staną się efektywniejsze i paradoksalnie, mimo dużej redukcji personelu, bardziej przystępne dla obywateli.

Można postawić tezę, że kto dzisiaj nie nadąży za technologiczną rewolucją, ten popadnie w swego rodzaju zapóźnienie? Pytam bardziej w kontekście całych państw.

Na poziomie indywidualnym – możemy podyskutować. Na poziomie państw – jak najbardziej.

To jest trochę jak z rewolucją przemysłową. Znowu upraszczam, bo to nie jest przecież wykład historyczny, ale możemy w tym momencie powołać się na dzieje naszego kraju – jednym z istotnych problemów I Rzeczpospolitej, który wpłynął finalnie na jej upadek, było przegapienie początków rewolucji przemysłowej. Próbowaliśmy to wprawdzie nadrabiać, pojawiły się różne ciekawe inicjatywy, ale dopiero w momencie, gdy było już na skuteczne reformy za późno. Państwo przestało istnieć. Przez lata było nam po prostu za dobrze – mieliśmy duże folwarki, szlachta zarabiała fajną kasę na produkcji zboża, a kiedy ta kasa przestała być taka fajna, to coraz bardziej eksploatowała chłopów. Zniszczono w ten sposób substancję ludzką, doprowadzono kraj do ruiny. Nie zauważyliśmy, że nasz model gospodarczy przestał być wydajny. Bardzo wielu ekspertów twierdzi, że teraz będzie tak samo. Że znów prześpimy kluczowy moment.

Jakie są podstawy do snucia takich ponurych prognoz?

Ja sam jestem co do tego mocno przekonany. Również dlatego, że moim zdaniem obecne przemiany będą jeszcze silniejsze i gwałtowniejsze, niż wspomniana rewolucja przemysłowa. Analizy, które prezentuje Goldman Sachs nie muszą się oczywiście potwierdzić, ale z tych przewidywań wynika, że sztuczna inteligencja w ciągu najbliższej dekady zastąpi około 20% obecnie pracujących ludzi. Jak wielka to będzie zmiana, prawda? Jasne, pójdą za nią pewne społeczne transformacje, to się mimo wszystko nie wydarzy z dnia na dzień, ale wciąż – czekają nas turbulencje. Państwo, które nie nadąży, nie zmodernizuje się na poziomie administracyjnym i oświatowym, poniesie straty, które będą odczuwalne przez wieki. Jeśli będziemy w Polsce dalej akceptować powolne, nieefektywne instytucje, to polegniemy w konfrontacji z państwami, które postawią na nowocześniejsze metody. Tak to po prostu działa, gdy świat wkracza w okres przełomu. Przykład z mojego podwórka. Już w tej chwili widzę coraz większą liczbę przedstawicieli branży informatycznej, którzy rozliczają się za granicą. Jak pan jest tak zwanym nomadą cyfrowym i może pracować skąd pan chce, na przykład siedząc nad Morzem Śródziemnym czy w Nowej Zelandii, to co pana składania, żeby zostać w Polsce, zwłaszcza zimą, i jeszcze się tu użerać z urzędnikami? Jesteśmy na najlepszej drodze, żeby stracić bazę podatkową. I pozbyć się potencjału ludzi kreatywnych.

Rządzący nie zdają sobie sprawy z powagi sytuacji?

Z moich rozmów z politykami, a trochę ich przy różnych okazjach przeprowadziłem, wynika dość smutny wniosek – niewielu dostrzega nadciągające szanse i zagrożenia. Tylko ci najbardziej inteligentni, zadający sobie różne pytania, widzą, co się wkoło dzieje. Reszta pozostaje zaangażowana w bieżące wojenki i uprawia tak zwane „dojutrkowanie”, co znów nasuwa historyczne analogie. Wie pan, tezy o państwie z kartonu nie należą do mnie. Słyszymy o tym od dawna. Moi studenci państwowe instytucje nazywają “paździerzem”. Nie dlatego, że ja im to sugeruję – takie określenie po prostu jest w obiegu, taka panuje opinia wśród młodych ludzi. Bardzo ładnie te zjawiska opisuje doktor Jacek Bartosiak. Nie znam go osobiście i niekoniecznie zgadzam się z całością jego poglądów, ale akurat w odniesieniu do państwa polskiego on mówi o tych sprawach bardzo przejrzyście i celnie. Podkreśla nieefektywność rozmaitych instytucji, ich swego rodzaju obezwładnienie. A dodatkową tragedią naszego kraju, poza niewydolnymi instytucjami, są środowiska akademickie.

Wiem, że dużo osób się ze mną nie zgadza. Jestem w mniejszości, bo większość polskich uczonych wciąż opowiada o niedofinansowaniu nauki. Ale moje zdanie od lat jest takie, że u nas naukowcy mają za dobrze. Strumień publicznych pieniędzy płynie tak wartko, że nie trzeba się wykazywać skutecznością na styku nauki i gospodarki, żeby zgarniać granty. Oczywiście, jak zawsze, są wyjątki – ludzie, którym naprawdę na czymś zależy. Tylko że to nieliczne jednostki. Buduje się w Polsce ciągle jakieś wielkie uzasadnienia dla naukowych projektów. Że w Polsce robimy wielkie badania podstawowe na 50 lat do przodu, bez nastawienia na ich praktyczne zastosowanie. A badania stosowane? Te niech sobie robią inni. Bo przecież prace na styku nauki i gospodarki to jest, według dużej części polskich uczonych, „aktywność intelektualna niższego rzędu”.

Ale czy to, o czym pan teraz mówi, to jest problem tylko naszego kraju?

W swoich dziedzinach obserwowałem ludzi ze światowego topu, najwybitniejszych naukowców, którzy zapisali się na kartach historii. Oni nie mieli żadnego problemu, żeby prowadzić badania stosowane, orientując się przede wszystkim na praktyczne wykorzystanie zdobytej wiedzy. No ale oni może wywodzą się z nieco mniej znaczących uniwersytetów, jakiegoś tam Oksfordu czy Cambridge. A my w Polsce mamy przecież naszą własną, najlepszą, wiodącą naukę, najwyżej notowane w rankingach uczelnie, no i naszą wspaniałą drabinę stopni naukowych, po której koniecznie trzeba się wspinać.

A nie trzeba?

Czy to ma sens? Czy to coś załatwia? Niedawno jedna z instytucji rządowych zamówiła raport na temat polskich badań nad sztuczną inteligencją. I oczywiście w sprawozdaniu przedstawionym politykom wszystko jest super, zwłaszcza, mówiąc nieco metaforycznie, wskaźniki typu: „liczba profesorów”. Notujemy sukcesy, generalnie – wymiatamy. A dlaczego w takim razie naszych firm nie widać w gronie największych światowych graczy w tej branży? Jak się człowiek trochę nad tym pozastanawia, przeanalizuje dokładnie te dane, to dochodzi do wniosku, że ktoś tu komuś próbuje zwyczajnie mydlić oczy. Sztuczna inteligencja jest o tyle fajnym przykładem, że nawet w Europie 2/3 finansowania badań pochodzi ze źródeł prywatnych. A pracują nad tym wybitni ludzie, w grę wchodzi zaawansowana matematyka. W Polsce tych prywatnych źródeł niemalże nie ma. Efekt? W firmie OpenAI kilku kluczowych ludzi to są Polacy. Wykształceni w naszym kraju, w większości na Uniwersytecie Warszawskim. Ale swoje kariery robią gdzieś indziej, gdzieś indziej rozwijają skrzydła. Gloria i chwała, że najlepszy wydział matematyczny w Polsce potrafił wykształcić ludzi takiego kalibru. I wspaniale. Tylko co nasze państwo z tego ma? Co ma z tego nasze środowisko akademickie? Co zrobiono, i to nie na wydziale, a na poziomie kraju, żeby ci ludzie tutaj mieli warunki do rozwoju? Dlaczego u nas kompletnie nie ma dla takich ludzi klimatu?

Okej, ale z czego to wynika, ze zbyt hojnego państwowego finansowania?

Tych pieniędzy jest po prostu za dużo, to nie motywuje do budowania relacji na linii nauka-biznes. Chcę koniecznie podkreślić jedną rzecz. To nie jest tak, że doktor Kulesza sobie siedzi, klepie oderwane od życia teorie, a sam ciągnie publiczną kasę. Ja sporą część mojej kariery naukowej poświęciłem na prowadzenie matematycznych badań na styku ze sferą gospodarki. Za pieniądze tych, którzy będą beneficjentami moich prac! Czyli – firm prywatnych, bardzo często. Tego się nauczyłem w Wielkiej Brytanii. Kiedy ojcowie założyciele tego trendu zaczynali, w Oksfordzie, działać w ten sposób, było to kontrowersyjne, ale to było kilkadziesiąt lat temu. Dziś już wiemy, że ten model okazał się wielkim sukcesem. Natomiast u nas od kilkunastu lat muszę, ze swoimi współpracownikami, przebijać się przez mur niezrozumienia. Bo dla polskich uczonych, zwłaszcza decydentów w nauce, to jest “cywilizacja z innej planety”, jak w piosence Kazika: “Mars napada”. Oni świetnie żyją z konsumpcji różnych środków publicznych, więc po co to zmieniać?

To jest trochę tak jak z dyskusjami: “ale to Ruscy jako pierwsi polecieli w kosmos!”. No tak, polecieli. Ale, za „Pięknymi dwudziestoletnimi” Hłaski, jeśli wyprodukowanie ekskluzywnego, doskonałego i w ogóle najlepszego na świecie pudełka zapałek wymaga wycięcia hektara lasu, to może w końcowym rozrachunku nie warto tego pudełka produkować, nawet jeśli będziemy na tej płaszczyźnie najlepsi? Może warto się skupić na czymś innym? U nas jest analogicznie. Chwała polskim naukowcom, którzy mają osiągnięcia godne odnotowania w skali globalnej. Tylko że to jest pewnie mniej niż 1% całości. 99% pracy i pieniędzy przepada. A można by było te zasoby wykorzystać w sposób bardziej efektywny.

Nie wiem, czy ma pan rację, natomiast jeśli te niewesołe przewidywania okażą się trafne, to możemy się jako społeczeństwo obudzić niezmodernizowani i głęboko sfrustrowani.

To będzie problem globalny. Między innymi klasy średniej, białych kołnierzyków. Ludzi, którzy pracują swoim intelektem. W wielu przypadkach będzie to doświadczenie bardzo przykre, ponieważ okaże się, że sztuczna inteligencja zastępuje ludzi, którzy wiele lat ciężko pracowali na swoje wykształcenie. Mimo wiedzy i doświadczenia, przestaną być partnerem dla sztucznej inteligencji, co będzie strasznym ciosem w ego. Jeżeli dobrze poskręcamy te procesy w wymiarze społecznym i przypływów kapitałowych, to jakoś przetrwamy. Pewnie pojawi się coś takiego jak dochód podstawowy, jakaś emerytura obywatelska. Nie wieszczę, że ludzie nagle zaczną umierać z głodu na ulicy. Ale będą musieli znaleźć na siebie nowy pomysł. Proszę sobie wyobrazić, że chodzi pan do najlepszego liceum. Rodzice popychają pana do wzięcia udziału w wyścigu szczurów. Idzie pan na studia prawnicze, gdzie też nie jest łatwo. Stara się pan, otrzymuje najlepsze stopnie. Dostaje się pan na aplikację, na przykład adwokacką , tam też sobie pan świetnie radzi. Wreszcie, po tych kilkunastu latach harówy i wyrzeczeń, wchodzi pan do zawodu. Odnosi pan pierwsze sukcesy. I wtedy okazuje się, że większość pana roboty przejmuje sztuczna inteligencja. Można się załamać, co? Nie mówię, że skończyłby pan w takim scenariuszu jak ludzie z PGR-ów w latach 90., ale może niekoniecznie latałby pan klasą biznesową na Hawaje co trzy miesiące.

Sztuczna inteligencja wypierająca z rynku prawników? To jednak zawód wymagający niekiedy kreatywności, sprytu. Sztuczna inteligencja może być kreatywna?

Pytanie jest inne: jak istotnym czynnikiem składowym inteligencji jest kreatywność? Jest taki fajny przykład. Gdyby wziąć goryla, skomunikować się z nim w jakiś sposób, i zapytać, jak jego zdaniem może wyglądać taki nadgoryl, to zapewne rozwodziłby się nad większym wzrostem, potężniejszymi łapami, większą siłą fizyczną. Tak by sobie mógł go wyobrażać. A tymczasem takimi nadgorylami jesteśmy w istocie my, ludzie. Choć nie można podpowiedzieć, byśmy byli od goryli więksi albo silniejsi. Nasza wyższość polega na czymś innym. Tak samo może być ze sztuczną inteligencją. Jej wyższość nad nami nie musi się sprowadzać do tego, że stanie się jeszcze bardziej kreatywna. Zastanówmy się bowiem, ile w takich codziennych interakcjach międzyludzkich znajdziemy pierwiastka kreatywnego? Pewnie gdyby pan gadał z Witkacym albo z Tuwimem, to tak, jak najbardziej. Będzie pan miał w tej rozmowie bardzo kreatywne aspekty, skakanie między tematami i dygresjami z różnych dziedzin. Łącznie różnych teorii czy faktów w sposób nieszablonowy stanowi jeden z najwyższych poziomów ludzkiej kreatywności.

Tego rodzaju zadania, patrząc z dzisiejszej perspektywy, będą dla sztucznej inteligencji najtrudniejsze. Niewątpliwie najbardziej kreatywni pracownicy najdłużej utrzymają się na rynku. Mogą czuć się względnie bezpieczni, choć pewnie do czasu. Myślę zresztą, że to jeden z ostatnich elementów, jaki sztuczna inteligencja będzie mogła nam zabrać. Weźmy choćby ChatGPT. Każda interakcja, każdy pomysł, każde nieszablonowe zapytanie – to się wszystko zapisuje w zbiorze danych. Mamy zatem do czynienia ze swego rodzaju symbiozą ludzi i maszyn. Dzielimy się naszą kreatywnością ze sztuczną inteligencją, rozwijając ją w ten sposób. Gdy do tego przestaniemy być potrzebni… cóż, obyśmy mogli po prostu sobie dalej spokojnie żyć.

To dopiero mrocznie zabrzmiało.

Postępująca symbioza ludzi i maszyn to scenariusz jak najbardziej prawdopodobny. W tej chwili, gdy korzystamy z komputerów, jesteśmy przyzwyczajeni do jednego typu interfejsu – ekran plus klawiatura. Sposób wprowadzania danych trochę się różni między komputerem stacjonarnym, laptopem a smartfonem, ale – co to zasady – klawiatura jest przecież niemalże identyczna. Wszystko mogą zmienić, mówiąc na przykład za Jackiem Dukajem, neuroprzyłącza. Idea jest taka, że nie musimy już korzystać ze znanego nam dotąd interfejsu, ponieważ zyskujemy bezpośrednie połączenie z naszym urządzeniem i wszystkie interakcje dzieją się wewnątrz naszego umysłu. W wydzielonej części naszej świadomości. Każdy człowiek posiada osobistego asystenta, który automatycznie podsuwa mu żądane treści.

Dlatego Google jest tak zestresowany sukcesami OpenAI, za którą to firmą w dużej mierze stoi Microsoft. Bo przecież dziś model biznesowy Google’a bazuje przede wszystkim na wyszukiwarce i powiązanych z nią reklamach. Jeśli na całego wejdziemy w erę sztucznej inteligencji, ten schemat: “szukam czegoś w Internecie, wpisuję hasło w wyszukiwarkę” przestanie obowiązywać. Być może nie będziemy musieli w ogóle zerkać na ekran.

Fruniemy już bardzo wysoko w naszych spekulacjach, ale zastanawiam się, czy człowiek wyposażony w takiego – ujmijmy to – osobistego asystenta, bardzo intuicyjnie dostępnego, nie poczuje się zwolniony z konieczności… myślenia?

To potencjalnie realny scenariusz, nie tak mało opowiadań science-fiction również na ten temat napisano. Ale wcale nie musi się on ziścić. Spójrzmy na prosty przykład – ile osób dzisiaj skorzysta ze schodów, jeśli w budynku znajduje się winda? Zwłaszcza gdy mówimy o wejściu na czwarte czy piąte piętro. Sądzę, że garstka. Ale mam paru znajomych, którzy bardzo mocno dbają o swoją formę i zdrowie. I wiem, że oni ze schodów korzystają zawsze. Po prostu, z zasady. Inny przykład – jak wielu kierowców korzysta z nawigacji, mimo że w gruncie rzeczy jej nie potrzebuje, bo mniej więcej zna drogę? Całe mnóstwo, ale nie wszyscy. Zatem ryzyko rozleniwienia intelektualnego czy fizycznego zawsze istnieje, natomiast nie każdy mu się poddaje. To też kwestia osobistych ambicji, zawieszania sobie wysoko poprzeczki. Prawie każde narzędzie można stanowić obosieczną broń – przy użyciu młotka możemy coś zbudować, albo zdzielić nim kogoś w łeb. Wszystko jest dla ludzi.

Dodam jeszcze, że instytucja osobistego asystenta to nie jest przecież żadna nowość. Generałowie mają ordynansów i adiutantów. Prezesi mają swoich sekretarzy lub sekretarki. Władcy mają swoich rozmaitych doradców, reprezentantów. Ci ludzie są na ogół potrzebni. Oni nie funkcjonują tylko jako symbol statusu danej postaci, żeby dodać jej splendoru. Mają być odciążeniem i pozwolić, żeby ten generał, prezes czy król skoncentrował się na kwestiach naprawdę istotnych. Być może na podobnej zasadzie ludzi będzie wspierał ich cyfrowy asystent. Zwiększy efektywność ich pracy, przyspieszając na przykład proces gromadzenia informacji.

Nie sposób nie uciec naszymi rozważaniami do tych najstraszniejszych scenariuszy. Maszynom nudzi się rola asystentów ludzi, chcą przejąć kontrolę. Wyobraża pan sobie coś takiego?

Z łatwością. Tak naprawdę nie wiadomo, jak wiele mamy czasu, bo trudno oszacować, jak szybko sztuczna inteligencja będzie się rozwijać. My wciąż tkwimy w tym rozumowaniu goryla – cały czas nam się wydaje, że najważniejsza jest świadomość, kreatywność, nieszablonowość myślenia. Na tym polu czujemy się mocni i być może niedoścignieni. Ale może wcale nie to jest najistotniejsze? Ktoś, kto jest od nas znacznie inteligentniejszy, potrafi nami manipulować na wiele sposobów. Wyobrażać sobie, co zrobimy. Nakłaniać nas do różnych rzeczy. Przecież to widać nawet wśród ludzi, mimo że różnice w inteligencji w populacji ludzkiej nie są aż tak duże. Już dzisiaj mamy targetowane reklamy, targetowane przekazy wyborcze, systemy rekomendacji. Potrzebna była do tego sztuczna inteligencja wyposażona w samoświadomość? No nie. Wystarczyły dane. Systemy komputerowe nas doskonale znają, większość z nas jest dla nich czytelna jak otwarta księga.

Ktoś powie: e tam, za dużo science-fiction.

Nie chcę wyjść na maniaka science-fiction, natomiast przy prowadzeniu różnych skomplikowanych projektów matematycznych my do tych wizji i opowieści chętnie sięgamy, bo musimy rozważać różne warianty przyszłości. Skoro mamy dostęp do prac ludzi, którzy potrafili zawędrować wyobraźnią dalej od nas, to dlaczego nie inspirować się ich dorobkiem? Byłby to nonsens. Niewiele jest zresztą opowieści science-fiction, gdzie sztuczna inteligencja wymyka się spod kontroli, by z premedytacją znęcać się nad ludźmi. My możemy jej zupełnie nie interesować, tak jak nas dzisiaj specjalnie nie interesują mrówki. Patrzymy sobie na mrowisko – no jest. Jeśli jesteśmy odpowiednio wychowani, to go nie niszczymy ani nie rozdeptujemy, tylko omijamy. Chyba że z jakichś powodów nam przeszkadza – wtedy przeprowadzamy operację usunięcia mrowiska. Nad życiem duchowym mrówek niewiele osób się na co dzień zastanawia. Są to są. I tyle.

Dlatego ja mam dwie wizje przyszłości, do których lubię wracać. Pierwsza – jeśli te sztuczne inteligencje faktycznie się szalenie rozwiną, to standard naszego życia ulegnie niesamowitej poprawie i będziemy świadkami wydarzeń, które z dzisiejszej perspektywy nazwalibyśmy „cudami”. Jeśli ktoś ma co do tego wątpliwości, to niech wróci na moment do mitologii greckiej. Przecież my już dzisiaj, może poza nieśmiertelnością, dysponujemy atrybutami greckich bogów. A średnia długość życia też regularnie się wydłuża, więc nawet na tym polu robimy postępy. Miotanie piorunami można zestawić z wystrzeliwaniem międzykontynentalnych rakiet balistycznych. I tak dalej, i tak dalej. W oczach ludzi tamtej epoki – cuda są dziś na porządku dziennym. Uświadomiwszy to sobie teraz, jak mówią matematycy, podnieśmy to do kwadratu.

A druga wizja?

To ta, nazwijmy ją, mrówcza. Będziemy funkcjonować dopóki sztuczne inteligencje nie uznają, że im przeszkadzamy. Na przykład wykorzystując zasoby planety, które są im potrzebne. Wtedy dojdzie do szybkiej likwidacji „mrowiska”. Pewnie nas ten proces nawet nie zaboli, może go nie zauważymy. W co na pewno nie wierzę, to w naszą pełną kontrolę nad sztuczną inteligencją do końca świata i jeden dzień dłużej. Nie jest to niemożliwe, ale skrajnie mało prawdopodobne.

***

Doktor Kamil Kulesza to matematyk, fizyk, informatyk. Studiował za granicą, doktorat z kryptografii zrobił w ramach Polskiej Akademii Nauk. Po doktoracie na University of Cambridge zajmował się industrial maths, algorytmami i nieklasycznymi metodami obliczeniowymi – kwantowymi i biologicznymi. Jest założycielem Centrum Zastosowań Matematyki i Inżynierii Systemów w ramach Polskiej Akademii Nauk.

CZYTAJ WIĘCEJ O SZTUCZNEJ INTELIGENCJI: