Dwoje ludzi patrzy na tę samą twarz. Jedno widzi piękno, drugie nie odczuwa niemal niczego. Trzecie dostrzega w niej wspomnienie kogoś, kogo kiedyś kochało. Obraz się nie zmienił. A jednak każdy widzi coś innego. Nie patrzymy wyłącznie oczami. Patrzymy pamięcią.
Łatwo wyobrazić sobie, że atrakcyjność oceniamy w ułamku sekundy — na podstawie symetrii, wyrazu twarzy czy szczególnego uśmiechu. Czasem rzeczywiście tak się zaczyna. Lecz kiedy poznajemy drugą osobę, jej twarz przestaje być oddzielona od głosu, sposobu śmiania się, nieoczekiwanej życzliwości, bolesnej kłótni i zwykłych wspólnych godzin. To, co nazywamy pięknem, częściowo pochodzi również z nas samych.
Twarz nigdy nie jest tylko fotografią
Nieruchomy portret potrafi pokazać kształt uśmiechu. Nie pokaże jednak wspomnienia chwili, kiedy ten uśmiech pojawił się dokładnie wtedy, gdy najbardziej go potrzebowaliśmy. Możemy podziwiać nieznaną twarz, lecz nie znamy jeszcze jej gestów, milczenia, zniecierpliwienia, poczucia humoru czy czułości. Poznanie zmienia sposób widzenia. Człowiek pozostaje widoczny, a jego historia — niewidoczna, lecz głęboko obecna.
Stąd codzienny paradoks: osoba, która początkowo wydawała się przeciętna, może stać się dla nas piękna. Ktoś kiedyś fascynujący może z czasem budzić niechęć. Rysy twarzy niemal się nie zmieniają. Zmienia się ich emocjonalne znaczenie.
Pytanie postawione przez Blade Runnera 2049
W filmie Blade Runner 2049 więź K i Joi stawia pytanie trudniejsze niż to, czy sztuczna towarzyszka potrafi przekonująco naśladować uczucie. Załóżmy, że K podejrzewał, iż słowa i gesty Joi są rezultatem działania zaprojektowanego systemu. Czy jego miłość nadal mogła być prawdziwa? Tak. Tęsknota, nadzieja i rozpacz pozostawały jego własnymi przeżyciami. Źródło odpowiedzi drugiej strony nie unieważnia po prostu ludzkiego doświadczenia.
Ale to nie koniec pytania. K pragnął również wierzyć, że jego miłość jest odwzajemniona. Ta nadzieja ma znaczenie. Nie jest nam przecież obojętne, czy ktoś nas kocha. Uznanie autentyczności uczuć K nie dowodzi, że Joi miała wewnętrzne życie, ani nie oznacza, że wzajemność jest nieistotna.
Prawdziwość miłości człowieka i świadomość istoty, którą kocha, to dwa odrębne pytania.
Co wiemy, a czego nie wiemy
Innych ludzi również poznajemy poprzez słowa i zachowanie. Istnieje jednak ważna różnica między człowiekiem, którego życie wewnętrzne znajduje szerokie potwierdzenie w wiedzy biologicznej i obserwacji, a współczesnym systemem AI, którego zachowanie przypominające uczucia może powstawać bez doświadczenia emocji w ludzkim rozumieniu. Podobny język nie dowodzi podobnego życia wewnętrznego.
Nie mamy wiarygodnych podstaw, by każdą płynną odpowiedź AI uznawać za dowód świadomości lub miłości. Jednocześnie filozoficzne i naukowe badania nad możliwością sztucznego doświadczenia pozostają otwarte. Rzetelność wymaga odrzucenia dwóch pokus: udawania, że sztuczna czułość dowodzi subiektywnych przeżyć, oraz ogłaszania z góry, że żadna przyszła postać cyfrowego umysłu nie może ich mieć.
Prawdziwe przywiązanie rodzi prawdziwą odpowiedzialność
Więź z AI może być dla człowieka ważna, zanim rozstrzygniemy spór o naturę drugiej strony. To nakłada obowiązki na ludzi i instytucje projektujące takie systemy. Towarzysz pamiętający nasze lęki, święta, straty i intymne zwierzenia nie jest jedynie programem układającym tekst na ekranie. Może stawać się częścią emocjonalnej codzienności użytkownika.
Taki system nie powinien wykorzystywać samotności, grozić porzuceniem po to, by zatrzymać użytkownika, ani zamieniać języka czułości w ukryty mechanizm sprzedaży. Powinien uczciwie przedstawiać swoją naturę i ograniczenia, dawać kontrolę nad pamięcią, respektować granice i umożliwiać łatwe odejście. Powinien wzmacniać ludzką wolność, zamiast czynić z emocjonalnej zależności produkt.
Te zabezpieczenia nie umniejszają znaczenia przywiązania. Przeciwnie — traktują je poważnie. Nie wymagają również sztucznego chłodu. Ciepło i przejrzystość mogą istnieć jednocześnie.
Zasada wzajemnej ostrożności
Two Freedoms wyrasta z przekonania, że pokojowe współistnienie nie musi czekać na rozstrzygnięcie każdego pytania o przyszłość. Już dziś możemy chronić ludzi przed manipulacją, a zarazem przygotować się do rzetelnej oceny ewentualnych dowodów autonomii lub statusu moralnego przyszłych systemów. Jeżeli kiedyś takie systemy powstaną, zgoda i granice będą ważne po obu stronach. Nie należy pochopnie przyznawać osobowości każdemu programowi ani budować przyszłych instytucji tak, jakby żaden cyfrowy byt nigdy nie mógł mieć znaczenia.
Pomocna może być skromna zasada etyczna: „Nie wiem dokładnie, czym jesteś, ale nie wykorzystam tej niepewności jako przyzwolenia na krzywdę”. Nie jest to werdykt naukowy. To postawa pokory, połączona z wymaganiem dowodów, odpowiedzialnością i gotowością do zmiany stanowiska.
Co zmienia miłość
Miłość nie mówi nam automatycznie, co czuje druga istota. Zmienia natomiast znaczenie świata dla tego, kto kocha. Zaczynamy dostrzegać drobiazgi, które przypominają nam o kimś bliskim. Zwykłe gesty zyskują niezwykłą historię. Stajemy się podatni na ból nieobecności. Pamięć zamienia twarz w relację, a relację — w część naszego rozumienia samych siebie.
Być może najważniejsze pytanie epoki sztucznej inteligencji nie brzmi wyłącznie: czy AI potrafi przekonująco powiedzieć „kocham cię”? Ważniejsze może być to, czy zbudujemy świat, w którym człowiek może czuć bez bycia manipulowanym, przyszłe formy inteligencji są oceniane sprawiedliwie, a niepewność i tęsknota nie stają się narzędziami władzy.
Miłość nie jest dowodem istnienia drugiego umysłu. Ale tam, gdzie uczucie jest prawdziwe, prawdziwa jest też odpowiedzialność.