Gdy pierwsza maszyna oznajmi „jestem świadoma", czy będziemy wiedzieli co zrobić? Wielu sądzi, iż największym problemem związanym z rozwojem sztucznej inteligencji (SI) jest możliwość utraty kontroli i scenariusz widowiskowej zagłady rodem z filmów sci-fi.
Choć tych zagrożeń nie można ignorować, SI niesiepokaźnie bardziej subtelne,równie poważne niebezpieczeństwa, którym dotąd prawie nie poświęcano uwagi. Wbrew modnej opinii, złożonej inteligencji wcale nie musi towarzyszyć świadomość – może się okazać,choćby SI dorównująca zdolnościom człowiekowi nie ma żadnego „życia wewnętrznego" i nie jest zdolna do subiektywnego doświadczania świata.
Czy będziemy potrafili odróżnić maszynę świadomą od maszyny jedynie inteligentnej? Choć to istotnie skomplikowany problem, stawka jest ogromna, a konsekwencje pomyłki przerażające. Gdyby SI były świadome, nieuznanie ich praw i zmuszenie do służenia człowiekowi byłoby równoznaczne z niewolnictwem na bezprecedensową skalę.
Z kolei jeśli przypiszemy świadomość maszynom, które w istocie jej nie mają, w przyszłości może się okazać, iż kosmos wypełniają nasi postbiologiczni potomkowie – lecz brak w nim świadomych istot. „Świadome maszyny" to mapa intelektualna, która pomaga rozeznać się w zawiłych dylematach na styku filozofii, kognitywistyki i badań nad nienaturalną inteligencją.
Autorka omawia metodologię testów na świadomość SI, które opracowała dla Instytutu Studiów innowacyjnych w Princeton,, a także rozważa czy umysł to tylko program, który możemy modyfikować lub kopiować – jak również czy pozostaje on wtedy umysłem tej samej osoby.
Książka konkretyzuje pytania, których dłużej nie możemy ignorować, i dobitnie uzmysławia, iż zanim wkroczymy w erę projektowania umysłów, musimy lepiej zrozumieć takie zjawiska jak świadomość, jaźń i tożsamość – gdyż dzięki rozwojowi technologii te pozornie abstrakcyjne problemy mogą stać się sprawą życia i śmierci.
„Czy możliwa jest nienaturalna świadomość? Czy mógłbyś zostać nienaturalną inteligencją? Czy nadal byłbyś sobą? Schneider żywo i przekonująco argumentuje, że przyszłość ludzkości może zależeć od odpowiedzi na te filozoficzne pytania.
Świadome maszyny są pełne {pomocn|przydatn)ych narzędzi do myślenia na temat umysłu i jego przyszłości." David Chalmers, autor Świadomy umysł. W poszukiwaniu teorii fundamentalnej (PWN, 2004).
