Życie w epoce sztucznej inteligencji

Utopia czy doomsday?

Publiczna debata na temat rozwoju sztucznej inteligencji zdążyła wytworzyć dwa głośne obozy oceniające przyszłość ludzi współpracujących z AI w nieco inny sposób. W obozie optymistów, do których zalicza się m.in. Yann Le Cunn - Chief AI Scientist w firmie Meta - nastroje związane z rozwojem algorytmów są albo pozytywne, albo bardzo pozytywne. W obozie pesymistów, którym w mediach przewodzi Eliezer Yudkowsky - badacz i teoretyk sztucznej inteligencji - nastroje są zdecydowanie gorsze.

Książka, którą chciałbym dzisiaj przywołać - “Life 3.0” Maxa Tegmarka - stara się pozycjonować w centrum, z lekkim spojrzeniem w kierunku pesymistów. Tytułem tym zainteresowałem się stosunkowo późno, bo dobre sześć lat od premiery, ale właśnie teraz wydaje się on przeżywać drugą młodość. Dodatkową motywacją była dla mnie znakomita rozmowa autora z Lexem Fridmanem, więc postanowiłem zabrać się do czytania i podsumować te najciekawsze wnioski na blogu.

Czas na etap trzeci

Tytułem książki “Life 3.0” Tegmark wprowadza podział na kolejne etapy rozwoju życia na Ziemi, które na etapie “1.0” dostosowywało się ewolucyjnie, na etapie “2.0” (dzisiaj) zmienia się społecznie i cywilizacyjnie, a na etapie “3.0” samo zadecyduje w którą stronę rozwijać swój hardware i software, tzn. swoją formę i zestaw zachowań. Jak możesz zgadywać, te ludzkie nie muszą być wg autora tymi docelowymi.

Moment tworzenia tej książki jest o tyle szczególny, że dzisiejszy etap to zaledwie “2.1” - zmierzamy w kierunku “żywych” algorytmów trenowanych na kartach graficznych, ale zanim tam dojdziemy to powinniśmy się zmierzyć z ważnymi pytaniami z kategorii ciężkiej. Przykładowo, kto nad kim powinien sprawować kontrolę w relacji człowiek-maszyna? A jeśli stwierdzimy, że maszyny i AI staną się potężniejsze niż my, to jaką rolę będą odgrywać na osi czasu - rolę asystentów, następców czy przeciwników? Albo - na tej najbardziej przyziemnej stopie - co się stanie z naszą codziennością, pracą i relacjami, kiedy AI osiągnie możliwości podobne do naszych?

Przyznajcie sami - przed premierą wielkich modeli językowych (LLM) i opartych na nich aplikacjach, takich jak ChatGPT, tego typu dyskusje wydawały się absurdalne.

Życie - zestaw wzorców, a nie organizmów

Sama idea maszyn jako następców człowieka może się wydawać nieprawdopodobna, ale od tego mamy eksperymenty myślowe, żeby z takimi tezami mierzyć się w bezpieczny sposób. Co musiałoby się zdarzyć, żeby ten plan zaczął się realizować w praktyce?

Jedną z obserwacji którą proponuje w swojej książce Max Tegmark jest ta dotycząca spojrzenia na życie jak na zestaw wzorców, które mogą się realizować na wielu płaszczyznach. Autor powołuje się na analogię fal, których odbicia, załamywanie się czy częstotliwość możemy badać zarówno w odniesieniu do fal radiowych, fal na oceanie, czy fal akustycznych. Za tym przykładem idzie argument, że życie oparte na materii biologicznej może w pewnym momencie również okazać się niczym innym, jak zestawem cech, które zaczniemy obserwować w innej formie - tej, którą przetwarzają nasze procesory i karty graficzne.

Nie jest to wbrew pozorom tak nieznany temat. Już kilka dekad temu eksperymenty z automatami komórkowymi takimi jak Gra w Życie pokazywały, że pewien skończony zestaw reguł który zaaplikujemy algorytmowi może skutkować zachowaniem wykraczającym daleko poza plany autora kodu. Sieci neuronowe i modele sztucznej inteligencji przenoszą te obserwacje na kolejny poziom, komplikując przy okazji całą ścieżkę analizowania takiego algorytmu do poziomu “co się tam właściwie w środku dzieje?“.

Poszerzanie horyzontów

Książka Maxa Tegmarka porusza również kwestię wpływu sztucznej inteligencji i bardziej zaawansowanych modeli AI na nasze otoczenie. Kolejne rozdziały przeprowadzają czytelnika przez rozmaite gałęzie gospodarki pokazując jak ten nowy, napędzany przez AI świat może działać w praktyce. Jest to o tyle istotne, że kwestie obronności, energetyki czy relacji międzyludzkich często schodzą na dalszy przy całej masie wyzwań codzienności z którą mierzy się Jan Kowalski.

Tym, co mnie osobiście wciąż nie przekonuje, jest wizja przejmowania władzy nad światem przy pomocy superinteligentnego bytu jaki w pewnym momencie tworzy grupa “siedzących w piwnicy programistów” (de facto o tym jest pierwszy rozdział tej książki). Nie mogę się oprzeć wrażeniu, że w dyskusji o niebezpieczeństwach powodowanych przez rozwój AI do poziomu AGI bardzo często wykorzystywany jest skrót myślowy a nie racjonalny, techniczny proces przyczynowo-skutkowy. Niestety, autor książki (będący swoją drogą zasłużonym naukowcem pracującym na tak szanowanej uczelni jaką jest MIT) nie przekonał autora tego wpisu, ale autor wpisu obiecuje kontynuowanie edukacji w tym kierunku.

Co by nie mówić, książka ma zdecydowanie więcej plusów niż minusów i z mojej perspektywy może być znakomitym źródłem wiedzy na poruszany przez nas temat, z wszystkim konsekwencjami tego co jej treść przyniesie. Polecam!