Świadome maszyny. sztuczna inteligencja i projektowanie umysłów

Gdy pierwsza maszyna oznajmi „jestem świadoma", czy będziemy wiedzieli co zrobić? Wielu sądzi, że największym problemem związanym z rozwojem sztucznej inteligencji (SI) jest możliwość utraty kontroli i scenariusz widowiskowej zagłady rodem z filmów sci-fi.

Choć tych zagrożeń nie można ignorować, SI niesieznacznie bardziej subtelne,równie poważne niebezpieczeństwa, którym dotąd prawie nie poświęcano uwagi. Wbrew modnej opinii, złożonej inteligencji wcale nie musi towarzyszyć świadomość – może się okazać,nawet SI dorównująca zdolnościom człowiekowi nie ma żadnego „życia wewnętrznego" i nie jest zdolna do subiektywnego doświadczania świata.

Czy będziemy potrafili odróżnić maszynę świadomą od maszyny jedynie inteligentnej? Choć to szczególnie trudny problem, stawka jest ogromna, a konsekwencje pomyłki przerażające. Gdyby SI były świadome, nieuznanie ich praw i zmuszenie do służenia człowiekowi byłoby równoznaczne z niewolnictwem na bezprecedensową skalę.

Z kolei jeśli przypiszemy świadomość maszynom, które w istocie jej nie posiadają, w przyszłości może się okazać, iż kosmos wypełniają nasi postbiologiczni potomkowie – lecz brak w nim świadomych istot. "Świadome maszyny" to mapa intelektualna, która pomaga rozeznać się w zawiłych dylematach na styku filozofii, kognitywistyki i badań nad sztuczną inteligencją.

Autorka omawia metodologię testów na świadomość SI, które opracowała dla Instytutu Studiów zaawansowanych w Princeton, i rozważa czy umysł to tylko program, który możemy modyfikować albo kopiować – jak też czy pozostaje on wtedy umysłem tej samej osoby.

Książka konkretyzuje pytania, których dłużej nie możemy ignorować, i dobitnie uzmysławia, że zanim wkroczymy w erę projektowania umysłów, musimy lepiej zrozumieć takie zjawiska jak świadomość, jaźń i tożsamość – gdyż dzięki rozwojowi technice te pozornie abstrakcyjne problemy mogą stać się sprawą życia i śmierci.

"Czy realna jest sztuczna świadomość? Czy mógłbyś zostać sztuczną inteligencją? Czy nadal byłbyś sobą? Schneider żywo i przekonująco argumentuje, że przyszłość ludzkości może zależeć od odpowiedzi na te filozoficzne pytania.

Świadome maszyny są pełne {pomocn|przydatn)ych narzędzi do myślenia na temat umysłu i jego przyszłości." David Chalmers, autor "Świadomy umysł. W poszukiwaniu teorii fundamentalnej" (PWN, 2004) Powyższy opis pochodzi od wydawcy.