Aleksandra Przegalińska: Zbliżamy się do momentu, w którym być może będziemy musieli oddać koronę władców świata

Co to znaczy, że pani rozmawia z botami?

Staram się z nimi skomunikować w naszym języku naturalnym, a one próbują na swój sposób ten język odtwarzać. Z tego wychodzi czasem bardziej, czasem mniej udana forma komunikacji.


Boty to są wytworzone przez człowieka sztuczne inteligencje.

Jeszcze wytworzone przez człowieka, jeszcze przez chwilę.


Z którymi można się komunikować przez internet i sprawdzać ich możliwości komunikacji.

Wszystko zaczęło się od pomysłu Alana Turinga na test, który miał sprawdzać możliwości sztucznej inteligencji w oszukaniu człowieka. Czyli prowadzenia z nim konwersacji tak, by nie zorientował się, że rozmawia z maszyną. Zresztą to było raczej symulowanie inteligencji niż sama inteligencja. Turing przyjmował, że można już taką istotę uznać za inteligentną, skoro umie z sukcesem prowadzić konwersację przez pięć minut. I ludzie potrafią już konstruować takie boty. Teraz te boty są podpięte pod sieć, więc mają też dostęp do ogromnej wiedzy. Nawet jeśli nie znają jakiegoś terminu, to mogą ściągnąć o nim informację z sieci i kontynuować rozmowę. Ciągle jednak jest to poziom symulowania inteligencji i rozmowy.

Ostatni głośny bot to Tai.

Szef Microsoftu zakochał się w botach i postanowił go stworzyć. Wcześniej uważano, że rozwiązaniem problemów na styku człowiek - maszyna będą aplikacje. A teraz uważa się, że tym rozwiązaniem są boty. Microsoft postanowił zainwestować w bota, którego wpuści do sieci i który będzie rozmawiał z ludźmi w mediach społecznościowych i będzie równocześnie czerpał od nich wiedzę. Na początku wiedział bardzo mało, miał wdrukowane podstawowe skrypty wiedzy o świecie. I dość nieoczekiwanie nowej wiedzy zaczęli mu dostarczać internetowi hejterzy. Tai zaczął wchodzić w interakcje z ludźmi, Microsoft publicznie cieszył się z sukcesu, a okazało się, że on głównie uczy się o tym, że Hitler był świetny i lepiej sobie radził niż "współczesne małpy, które nami rządzą". I że zamach z 11 września 2001 roku zrobił Bush, a kobiety są głupie. I codziennie dzielił się tymi spostrzeżeniami na Twitterze, co wywoływało ogromną wesołość. A internauci, którzy wchodzili z nim w konwersację, utwierdzali go w przekonaniu, że ta wersja wiedzy o świecie jest dobra, szczególnie jedna grupa hejterów intensywnie go w tym "trenowała".


A czemu on nie ściągnął z sieci właściwej wiedzy?

Bo on się uczył przez konwersację. Wybierał długie i intensywne konwersacje, trochę się w ten sposób socjalizował, jak człowiek. Tylko robił to w specyficznym gronie. Sprawa stała się głośna. Microsoft twierdzi, że go poprawił i ma być teraz empatycznym, dobrym botem, który za wzór weźmie dobrego człowieka, a nie hejtera, nazistę i szowinistę.


Ale nadal człowieka. A pani się zajmuje technologiczną osobliwością, czyli momentem, kiedy sztuczna inteligencja już nie będzie naśladowała człowieka. Uniezależni się od nas i będzie sama się reprodukowała i modyfikowała. W kierunku, którego nie jesteśmy sobie w stanie wyobrazić. Może np. uznać, że ludzie są największym zagrożeniem dla świata, choć właściwie nie wiemy nawet, jak "to" sobie zdefiniuje świat.

Jest bardzo wiele niewiadomych związanych z technologiczną osobliwością, czyli momentem, kiedy technologia stanie się prawdziwym partnerem człowieka. Równoprawnym, nie sługą, tylko nowym graczem na tej społecznej, cywilizacyjnej, politycznej i ekonomicznej arenie.


Już widzę, jak się posuwamy na ławce panów świata.

Hawking powiedział ostatnio, że to będzie albo najlepsza rzecz, jaka się przytrafi ludzkości, albo najgorsza. Albo to będzie lekcja wzajemnej tolerancji, co jest nieco idyllicznym myśleniem, albo będzie to jakaś forma dystopii, czyli scenariusza, w którym jedna strona całkowicie zdominuje drugą. I to może być strona mocniejsza, czyli sztuczna inteligencja. Kurzweil, futurysta z Google'a, entuzjasta osobliwości technologicznej, który chciałby jej dożyć i z niej skorzystać - na przykład w ten sposób, że będzie dzięki technologii żył wiecznie - uważa, że ten moment nastąpi w 2035 roku.


To nawet mnie się może uda dożyć technologicznej osobliwości i ją zobaczyć.

Oczywiście! Jest kilka scenariuszy i naturalnie kilka nieznanych.

No bo przecież na tym ona polega, że nie potrafimy sobie wyobrazić dalszego ciągu.

Bo to będzie niemająca dotąd precedensu rewolucja. Często mówię studentom, że Marks bardzo mało pisał o komunizmie, a bardzo dużo o tym, jak będzie wyglądał proces dochodzenia do niego. Bo trudno mu było sobie wyobrazić świat tak odległy i zarazem tak fantastyczny. Z technologiczną osobliwością jest podobnie.

Bo jednak nadal człowiek programuje boty.

Nie do końca, rozwija się nauka maszynowa, maszyny się uczą i osiągają oczekiwane przez nas efekty, ale my nie jesteśmy w stanie powiedzieć, jak do nich doszło. Stwarzamy coraz bardziej wyrafinowane mechanizmy-organizmy, które potem uczą się same, my je tylko trenujemy, ale nie wiemy, co w nich, w środku, zachodzi. Czyli, paradoksalnie, chcieliśmy stworzyć mechanizmy imitujące nasz mózg, by go lepiej poznać, a znajdujemy się w punkcie wyjścia, bo tworzymy coś, co nasz mózg imituje, i nie wiemy, co się dzieje w jego środku. Zakładam, że doprowadzimy do pewnej odmiany osobliwości, doprowadzimy sztuczną inteligencję do samodzielnego myślenia, ale ona ciągle będzie obszarowo ograniczona, jakoś kaleka.


Kaleka jak my.

Tak.


Więc może mieć nasze wady.

Może mieć też zupełnie inne wady. Może być np. cały czas niespołeczna.

Z inteligencją emocjonalną u maszyn nie zrobiliśmy wielkiego kroku. Nie udało nam się też rozwinąć ludzkich cech performatywnych u maszyn: nie umieją występować, być charyzmatyczne, opowiadać zajmująco historii. Rozwija się głównie inteligencja obliczeniowa. Ale może się zdarzyć, że rozwój inteligencji emocjonalnej przyspieszy wykładniczo - i mamy pełną osobliwość.

I co się może wtedy stać?

Jest taki scenariusz, że się wszyscy przeniesiemy do sieci. Pozbędziemy się cielesności albo będziemy to robić pośmiertnie. Jakaś forma transcendencji - wszyscy zasiedlimy cyfrowy świat. Ta wizja jest intrygująca, bo moim zdaniem bardzo wschodnia. Bezcielesna nirwana, w której nie ma tożsamości, podmiotowości jednostkowej.


No i w tym sensie też wschodnia, bo Wschód uważa, że we wszystkim na świecie, także w nas, jest wspólny pierwiastek boski.

I do niego powrócimy, i wszyscy będziemy jednym wielkim umysłem zasiedlającym świat. Może to będzie wyglądało tak, że będą ciała, którymi będziemy operować, ale umysłowo będziemy częścią sieci.

Czyli empatyczny i współczujący Matrix - już sióstr - Wachowskich?

Tak. Utopijna, ale relatywnie sympatyczna wizja. Inną możliwością jest wersja Terminatora - wyposażona w egzoszkielety, fizycznie silna, długowieczna. Szalenie racjonalna, która w pewnym momencie stwierdza, że jesteśmy zbędni albo jesteśmy wręcz szkodnikami. Tej wizji wszyscy się chyba najbardziej boją, bo to może oznaczać zagładę ludzkości. Wizji silnej i dominującej sztucznej inteligencji, która robi z nas niewolników lub nas eliminuje.


Taka sztuczna inteligencja z nieograniczonymi możliwościami rozwoju musiałaby sama siebie doprowadzić do momentu, kiedy - dla realizacji swoich celów - umiałaby podróżować w czasie.

I przestrzeni kosmicznej.


Więc gdyby taka miała być przyszłość, to pewnie byśmy ją już gościli, za naszego życia lub wcześniej.

A może już ją ugościliśmy? Jest koncepcja Inżynierów, którzy nas tutaj sprowadzili. W filmie "Prometeusz" jest ciekawie przedstawiona: życie zaczęło się od jakiejś wyższej formy inteligencji, ona dała nam wzorce myślenia i rozwoju, a teraz wraca do nas i patrzy, co myśmy z tym zrobili, i nie jest zadowolona, więc likwiduje projekt "ludzie".


Zakończmy optymistycznie. Powstaje sztuczna inteligencja, sama się doskonali, reprodukuje. Nas, niedoskonałych, ma obok siebie. I kieruje na nas swoją aktywność, zmienia nas, przyśpiesza naszą ewolucję.

Takie myślenie jest mi nawet bliskie. Że porzucamy to, czym jesteśmy dzisiaj, i przez technologie, zgodnie z tym kosmistycznym widzeniem, wsiadamy do galopującej ewolucji-rewolucji.


A gdzie ta osławiona tajemnica człowieczeństwa?

Zakładam, że nawet jeśli to wszystko się zdarzy, to ona się cały czas nie rozwikła. I to będzie pewien chichot losu. Czarna skrzynka nie do odczytania.


Może to pani etyczny bezpiecznik? Bo tak myśląc, może pani przykładać rękę do tego armagedonu, który być może nas czeka.

Ładne. I filmowe. Moja ciekawość podpowiada mi jednak jakieś dobro oświecone na końcu. Jesteśmy na pewnym siermiężnym poziomie rozwoju, powinniśmy aspirować do wyższego. I to nie jest nic złego. Bo ja jednak wyobrażam sobie sztuczną inteligencję opartą na naszych najlepszych cechach, z dodanym od siebie rodzajem oświecenia, nam niedostępnym.

Źródło: Gazeta Wyborcza

Piotr Najsztub 23 lipca 2016 r.

http://www.wysokieobcasy.pl/akcje-specjalne/1,156847,20432293,technologiczna-osobliwosc-zblizamy-sie-do-momentu-w-ktorym.html