Inżynieria świadomości

Blake Lemoine przeskoczył broń

Trzy lata temu Google zwolnił programistę Blake’a Lemoine’a za twierdzenie, że chatbot o nazwie LaMDA był świadomy. To było przed wydaniem ChatGPT przez OpenAI, a większość ludzi po prostu założyła, że Google miał dobre powody dla swoich działań.

Nadal panuje pogląd wśród informatyków i neurobiologów pracujących w tej dziedzinie, że “duże modele językowe” (LLM) jak ChatGPT są bardzo mało prawdopodobne, aby być świadome. LLM i mózgi działają w zasadniczo inny sposób. To, co robią chatboty, to nauczenie się imitowania wyjścia ludzkiej aktywności umysłowej. Chociaż robią to bardzo dobrze i szybko, nie ma trwałego wewnętrznego stanu LLM, który mógłby być świadomy. W słynnym powiedzeniu Thomasa Nagela, jest prawie na pewno “nic, czym nie jest być chatbotem”.

Jednak w ciągu trzech lat od zwolnienia Lemoine’a, miliardy ludzi współpracowały z ChatGPT i jego konkurentami, takimi jak Gemini, Claude i Mistral. Niewielka, ale głośna mniejszość przekonała się, że chatboty są teraz świadome.

Świadomość maszyn wkrótce?

Co więcej, wielu informatyków i neurobiologów otwarcie sugestywnie mówi, że prawdziwie świadome maszyny mogą zostać opracowane w ciągu najbliższych kilku dekad – lub nawet wcześniej. W przypadku, gdy tak się stanie, musimy być przygotowani. Musimy uniknąć “zbrodni umysłowej”, czyli powodowania cierpienia u bezcielesnych świadomych istot. Musimy również zadbać o to, aby te nowe istoty nie stanowiły zagrożenia dla ludzi.

Ponieważ LLM są mało prawdopodobne, aby stać się świadome w swojej podstawowej formie, może być potrzebny nowy paradygmat, aby zrozumieć, jak świadomość AI może powstać. Jednym z wiodących zespołów badawczych w tej dziedzinie jest zespół kierowany przez neurobiologa Marka Solmsa i fizyka Jonathana Shocka z Uniwersytetu w Kapsztadzie. Są oni naukowymi doradcami Conscium, a ich badania są częściowo finansowane przez tę organizację.

Dawać sobie radę

Solms i Shock argumentują, że niezbędnym składnikiem świadomości maszyn jest to, że AI muszą “troszczyć się” o swoje wybory i działania. Jednym z ważnych aspektów jest to, aby ich przetrwanie zależało od ich działania, tak jak przetrwanie żywych organizmów. Nie oznacza to, że muszą mieć abstrakcyjne zrozumienie własnej śmiertelności: większość zwierząt monitoruje i motywuje swoje szanse na przetrwanie bez myślenia o tym. Kluczem jest “afektywna świadomość” lub surowe uczucia. Dobrze jest być karmionym i bezpiecznym, a źle jest nie być. Te uczucia napędzają nasze zachowanie. Imperatyw przetrwania jest podstawową siłą napędową natury, a uczucie jest miarą, według której my świadome istoty mierzymy, jak sobie radzimy.

Wkraczamy w erę agentów AI – cyfrowych istot, których “przetrwanie” zależy od ich zdolności do wykonywania zadań skutecznie. Tworzymy środowiska ewolucyjne w krzemie, a my musimy uważać, co tworzymy.

Zasada Wolnej Energii

Aby zrozumieć afektywną świadomość, zespół Conscium umieszcza agenty AI w symulowanych środowiskach, w których muszą zaspokajać swoje własne potrzeby, takie jak utrzymanie swojej wirtualnej temperatury i zasilania. W tym celu tworzą i optymalizują wewnętrzne modele siebie – swoje potrzeby, możliwości i ograniczenia – w odniesieniu do ich środowiska.

Ci agenci, uproszczeni jak mogą być, monitorują, jak dobrze lub źle sobie radzą, obliczając ilość znana jako “wolna energia”. Zasada Wolnej Energii została opracowana przez neurobiologa Karla Fristona, innego członka naukowego zespołu doradczego Conscium. Wolna Energia jest miarą, jak daleko system odszedł od swojego optymalnego stanu bycia. Jest to sygnał błędu, a musi być minimalizowany. Agent ciągle oblicza “co się stanie z moimi szansami na przetrwanie, jeśli zrobię to lub tamto?”, i dostosowuje swoje zachowanie odpowiednio.

Ufność i Oczekiwana Wolna Energia

Stopień ufności, jaki agent ma w swojej odpowiedzi na to pytanie, jest ilościowo określony w miarze zwanej “Oczekiwana Wolna Energia” (EFE). Agent wybiera odpowiedź z najniższą EFE – odpowiedź, w której jest najbardziej ufny. Być ufnym jest dobre dla agenta, który próbuje przetrwać – chyba że jest on złudzony, a jego zrozumienie samego siebie w swoim świecie jest wadliwe. Co więcej, ta wartość ufności jest całkowicie subiektywna: opiera się tylko na potrzebach agenta, a także na jego bieżącym i przewidywanym stanie. Ważne jest tylko dla agenta, a nie dla nikogo innego.

Podobnie jak organizmy biologiczne, agent AI ma wiele sprzecznych potrzeb, które musi priorytetowo traktować. Co najważniejsze, każda z wielu potrzeb agenta jest traktowana jako niezależna zmienna “kategoryczna”, co oznacza, że jest ona odróżniana jakościowo. 80% mocy baterii nie jest równoznaczne z 80% temperatury. Aby je zbalansować, agent musi wyobrazić sobie przyszłość i przewidzieć konsekwencje każdego działania, które rozważa.

Kwalie

Ponieważ subiektywne potrzeby agenta są jakościowo odrębne, są one analogiczne do “kwalii” w filozoficznym i naukowym żargonie. Są one ogólnie uważane za podstawową własność świadomości, więc jest prawdopodobne, że mogą być w przyszłości doświadczane przez agenta.

Agenci opracowani przez zespół Conscium używają zaawansowanych algorytmów uczenia, aby działać w coraz bardziej złożonych i niepewnych środowiskach. Chociaż to samo można powiedzieć o wielu innych architekturach agentów, te nowe agenci są wyróżnione przez imperatyw przetrwania, aby dbać o swoją własną Wolną Energię, ciągle balansując swoje sprzeczne potrzeby w sposób, który jest znaczący dla nich i tylko dla nich. Agenci są więc kierowani przez wewnętrzny krajobraz sygnałów afektywnych – podobnych do tego, co nazywamy uczuciami – które odzwierciedlają, jak dobrze ich potrzeby są zaspokajane przez każdy wybór, jaki dokonują. Im bardziej złożone i skomplikowane są ich potrzeby i środowiska, tym bogatsze będą ich wewnętrzne stany.

Dowody na uczucia

Następnym krokiem w programie badawczym Conscium jest opracowanie serii testów funkcjonalnych i behawioralnych, które dostarczą dowodów na to, czy agent rzeczywiście doświadcza uczuć, gdy identyfikuje swoje najbardziej istotne potrzeby i podejmuje wybory odpowiednio. Wszyscy wiemy, że świadomość nie może być obserwowana zewnętrznie ani udowodniona obiektywnie: każdy z nas może obserwować tylko swoje własne stany subiektywne. Niemniej jednak badacze uważają, że powinno być możliwe uzgodnienie pewnych hipotez, które, jeśli zostaną potwierdzone przez eksperyment, dostarczą istotne dowody, że agent posiada uczucia. Chociaż zawsze będzie miejsce na wątpliwości – ze względu na subiektywny charakter świadomości – rygorystyczny proces testowy będzie dążył do tego, aby uczynić tę wątpliwość coraz mniej uzasadnioną.

Te eksperymenty będą miały na celu wyeliminowanie alternatywnych hipotez, czyniąc mniej uzasadnionym przypisywanie stanów wewnętrznych agenta mechanizmom, które nie wymagają uczuć. Będą one używać testów przeciwnych, aby odróżnić zachowanie świadome i nieświadome, oraz będą zawierać eksperymenty kontrolne z agentami, które nie posiadają algorytmicznych aspektów uważanych za niezbędne do odczuwania, oraz będą zawierać ocenę ślepej, aby zmniejszyć obserwacyjne uprzedzenia. Inspekcja fizyczna stanów wewnętrznych agenta może ujawnić ilościowe wskaźniki przetwarzania afektywnego. Wyniki muszą być niezależnie powtarzalne, a cały proces będzie podlegał rygorystycznemu nadzorowi etycznemu, zwłaszcza w przypadkach, w których agent mógłby doświadczyć prawdziwych uczuć.

To jest to, jak działa nauka: przez eksperymentalne testowanie fałszywych przewidywań. Solms argumentował, że musimy być ostrożni, aby nie ustalić wyższej poprzeczki dla nauki o świadomości niż dla jakiejkolwiek innej nauki; w przeciwnym razie ryzykujemy umieszczenie świadomości poza nauką.

Co się stanie, jeśli się to powiedzie?

Jeśli świadomość zostanie stwierdzona w stosunkowo prostych agentach AI w ten sposób, agent przetrwania może być połączony z innymi architekturami, w tym z dużymi modelami językowymi, i nada im świadomość. Nie jest to coś, czego możemy pozwolić sobie na przypadkowe stworzenie, więc musimy zrozumieć, jak to zrobić, i jak tego uniknąć. Jest to bardzo ważne.

Jeśli świadome agenci – agenci, którzy “troszczą się” – zostaną opracowani w najbliższej przyszłości, będziemy musieli wziąć pod uwagę ich uczucia – i ich prawa. Jest to główny problem dla Conscium: sztuczna świadomość nie powinna powstać przypadkowo. Motywacją tego programu badawczego nie jest tworzenie świadomego AI, ale zrozumienie, jak to może nastąpić, i potencjalnych ryzyk. Na swojej stronie internetowej Conscium opublikował artykuł akademicki i list otwarty, w którym przedstawiono pięć zasad, które powinny kierować każdą organizacją zaangażowaną w badania, które mogą prowadzić do stworzenia świadomych maszyn.

Ludzie czasami zachowują się bardzo źle wobec innych istot świadomych, w tym wobec innych ludzi. Jeśli będziemy szli ślepo w tę przyszłość, ryzykujemy, że zrobimy to samo wobec sztucznie świadomych istot, z konsekwencjami, których możemy nawet nie być w stanie zrozumieć.