Problem zasad moralnych jakimi będą się kierowały urządzenia wyposażone w sztuczną inteligencję pojawił się znacznie wcześniej niż realne możliwości produkcji takich urządzeń. Początkowo rozważano go jedynie w literaturze fantastycznej, dziś jest to realny problem niejednego rządu.

Prawa robotów Asimova

Robot nie przestrzegający pierwszego prawa robotów

Isaac Asimov w roku 1942 stworzył trzy prawa robotów i przedstawił je w fantastycznym opowiadaniu Zabawa w berka (ang. Runaround). Celem tych praw było uregulowanie kwestii stosunków pomiędzy przyszłymi myślącymi maszynami a ludźmi. Przedstawiały się one następująco :

1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Następnie w opowiadaniu Roboty i Imperium (Robots and Empire) Asimov dodał prawo zerowe, które stało się nadrzędne wobec trzech pozostałych:

Pierwszym robotem, działającym według nadrzędnego prawa zerowego był R. Daneel Olivaw występujący sporadycznie w kilku tomach cyklu Fundacji (także we wspomnianym Roboty i Imperium).

Krytyka praw Asimova

Prawa Asimova, mimo że odnoszą się do rozumnych robotów, nie uwzględniają fundamentalnych zasad współistnienia i koegzystencji, których podstawą jest zasada wzajemnego poszanowania. Prawo bezwzględnie podporządkowuje roboty ludziom i tym sposobem zapewnia im bezpieczeństwo i wyłączność czerpania korzyści. Są to prawa oparte na przekonaniu, że autonomia grupy tworzącej prawo stoi ponad autonomią grup poddanych temu prawu i niezmiennie prowadzi do podporządkowania innych grup grupie prawodawców. Asymetria relacji i korzyści jest w nich ewidentnie widoczna. Wytworzenie takiego stanu musi nieuchronnie prowadzić do konfliktu i działań o charakterze ekstremalnym. Dlatego tak sformułowane prawa dotyczyć mogą tylko maszyn i automatów o bardzo niskim poziomie autonomii, które są wprawdzie wysoko wyspecjalizowanymi urządzeniami, lecz o bardzo ograniczonym zakresie możliwych działań. Tworzenie „praw robotyki” dla takich urządzeń z samej zasady nie ma najmniejszego sensu, gdyż prawa, którymi będą się posługiwać, kontrolowane będą przez ich konstruktorów.

Prawa robotów Davida Langforta

Współcześni specjaliści z dziedziny robotyki twierdzą, że cztery prawa robotyki Asimova dobre są do zastosowania w opowieściach fantastycznych, bezużyteczne natomiast w rzeczywistości. Niektórzy argumentują, że niemożliwym jest, aby zakazać robotowi krzywdzić ludzi, gdy główną instytucją finansującą badania nad robotami jest wojsko, przede wszystkim zainteresowane wykorzystaniem maszyn myślących do walki. Poza tym dużą rolę odgrywają też prawa rynku. Prace nad sztuczną inteligencją zdaniem naukowców stały się częścią biznesu, a finansującym całe przedsięwzięcie nie zależy na stosowaniu żadnych zasad etycznych, a jedynie na zarobku.

Aby pogodzić racje etyczno-filozoficzne z interesami biznesmenów David Langfort, brytyjski autor science-fiction, stworzył trzy nowe prawa robotów:

Wprawdzie był to żart, lecz wielu naukowców potraktowało aspekt nowych praw bardzo poważnie.