1. Če bi lahko naložili svoje možgane v računalnik, bi to storili?
Predstavljajte si, da bo možno v prihodnosti možgane naložiti v računalnik in ustvariti popolno digitalno kopijo vaše zavesti. Samo ta nova različica je pametnejša od vas in skozi čas se začne zbirati vtise, ki jih nikoli niste doživeli v resničnem življenju. Bi se odločili za to? Zakaj? Vas bo ta digitalna kopija še vedno obravnavala? Ali ste odgovorni za odločitve, ki jih izda vaša kopija? Ali bi morali imeti pravico, da vzpostavimo odnos z digitalnim izvodom nekoga?
2. Ali morajo starši urediti gene svojega otroka?
Če je vaš otrok imel prirojeno srčno bolezen in da bi ga rešili, bi morali odstraniti določen gen, kaj bi storili? Večina staršev bi se verjetno strinjala.
In kaj, če lahko narediš otroka pametnejšega? Lepše? Ali naj imajo starši pravico do izbire otrokove spolne usmerjenosti ali barve kože? In kaj, če je bila na voljo samo bogatim? Kaj če bi se vsi drugi starši odločili, da bodo »uredili« svoje otroke, in niste?
3. Ali mora osebje brez posadke ubiti potnika, da bi rešilo pet pešcev?
Predstavljajte si: vozite se v avtomobilu brez posadke na dvosmerni cesti, ko se nenadoma pojavi pet otrok na cesti. Avto ima tri možnosti: trka v otroke, trk v avtomobil na napačni strani ali trk v drevo ob cesti. V prvem primeru lahko umre pet ljudi, v drugem - dva, v tretjem pa eden. Kako programirati stroj za tak primer? Ali naj poskusi rešiti potnika ali rešiti čim več življenj?
Ste pripravljeni priti v avto, ki vas bo morda ubil? Bi šla z otrokom? Ali morajo vsa brezpilotna letala delovati po enakih pravilih, ali pa bo mogoče dodatno plačati za avto, ki sploh prihrani potnika?
4. Katere moralne vrednote bi morali postaviti v AI?
Predstavljajte si svet z inteligentnimi roboti - stroji, ki so mnogokrat boljši od ljudi - ki ne razlikujejo dobrega od zla, pravičnosti od krivice. Veliko težav bo. Vendar so moralne vrednote v njih bolj problematične, ker moramo mi, ljudje, izbrati te vrednote.
Katere vrednote naj imajo prednost? Kdo naj odloči, katera stališča so najbolj „pravilna“? Ali mora vsaka država sprejeti določeno vrsto vrednot? Ali je mogoče dati robotu zmožnost, da spremeni svoje mnenje?
