Três Leis da Robótica - Three Laws of Robotics

Esta capa de I, Robot ilustra a história "Runaround", a primeira a listar todas as Três Leis da Robótica

As Três Leis da Robótica (freqüentemente abreviadas para As Três Leis ou conhecidas como Leis de Asimov ) são um conjunto de regras criadas pelo autor de ficção científica Isaac Asimov . As regras foram introduzidas em seu conto de 1942 " Runaround " (incluído na coleção I de 1950 , Robot ), embora tivessem sido prenunciadas em algumas histórias anteriores. As Três Leis, citadas do "Handbook of Robotics, 56th Edition, 2058 DC", são:

Primeira Lei
Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum dano.
Segunda lei
Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei.
Terceira lei
Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.

Estes formam um princípio organizador e tema unificador para a ficção de Asimov baseada na robótica , aparecendo em sua série Robot , as histórias ligadas a ela e sua série Lucky Starr de ficção para jovens adultos . As Leis estão incorporadas em quase todos os robôs positrônicos que aparecem em sua ficção e não podem ser contornadas, sendo pretendidas como um recurso de segurança. Muitas das histórias centradas em robôs de Asimov envolvem robôs se comportando de maneiras incomuns e contra-intuitivas como uma consequência não intencional de como o robô aplica as Três Leis à situação em que se encontra. Outros autores que trabalham no universo ficcional de Asimov os adotaram e referências, muitas vezes paródicas , aparecem ao longo da ficção científica, bem como em outros gêneros.

As leis originais foram alteradas e elaboradas por Asimov e outros autores. O próprio Asimov fez pequenas modificações nos três primeiros livros e contos para desenvolver ainda mais como os robôs interagiriam com os humanos e entre si. Na ficção posterior, onde os robôs assumiram a responsabilidade pelo governo de planetas inteiros e civilizações humanas, Asimov também adicionou uma quarta, ou lei zero, para preceder as outras:

Lei Zero
Um robô não pode prejudicar a humanidade ou, por inação, permitir que a humanidade sofra algum dano.

As Três Leis e o zero, permearam a ficção científica e são citados em muitos livros, filmes e outras mídias. Eles também impactaram o pensamento sobre a ética da inteligência artificial .

História

Em O Resto dos Robôs , publicado em 1964, Isaac Asimov observou que, quando começou a escrever em 1940, sentiu que "uma das tramas tradicionais da ficção científica era ... robôs foram criados e destruíram seu criador. O conhecimento tem seus perigos, sim, mas a resposta é um retrocesso do conhecimento? Ou o conhecimento para ser usado como em si mesmo é uma barreira para os perigos que acarreta? " Ele decidiu que em suas histórias um robô não "se voltaria estupidamente contra seu criador sem nenhum propósito a não ser para demonstrar, por mais uma vez, o crime e a punição de Fausto ".

Em 3 de maio de 1939, Asimov participou de uma reunião da Sociedade de Ficção Científica do Queens ( Nova York ), onde conheceu Earl e Otto Binder, que publicou recentemente um conto "Eu, Robô" com um robô simpático chamado Adam Link que foi mal compreendido e motivado por amor e honra. (Esta foi a primeira de uma série de dez histórias; no ano seguinte, "Adam Link's Vengeance" (1940), Adam pensava "Um robô nunca deve matar um humano por sua própria vontade.") Asimov admirou a história. Três dias depois, Asimov começou a escrever "minha própria história de um robô simpático e nobre", sua 14ª história. Treze dias depois, ele levou " Robbie " para John W. Campbell, o editor da Astounding Science-Fiction . Campbell rejeitou, alegando que tinha uma semelhança muito forte com " Helen O'Loy " de Lester del Rey , publicada em dezembro de 1938 - a história de um robô que é tão parecido com uma pessoa que ela se apaixona por seu criador e se torna sua esposa ideal. Frederik Pohl publicou a história com o título "Strange Playfellow" em Super Science Stories, em setembro de 1940.

Asimov atribui as Três Leis a John W. Campbell, de uma conversa que aconteceu em 23 de dezembro de 1940. Campbell afirmou que Asimov já tinha as Três Leis em sua mente e que elas simplesmente precisavam ser declaradas explicitamente. Vários anos depois, Randall Garrett , amigo de Asimov, atribuiu as Leis a uma parceria simbiótica entre os dois homens - uma sugestão que Asimov adotou com entusiasmo. De acordo com seus escritos autobiográficos, Asimov incluiu a cláusula de "inação" da Primeira Lei por causa do poema de Arthur Hugh Clough " O Último Decálogo " ( texto em Wikisource ), que inclui as linhas satíricas "Não matarás, mas não precisamos nos esforçar / oficiosamente para se manter vivo ".

Embora Asimov fixe a criação das Três Leis em uma data específica, seu aparecimento em sua literatura aconteceu durante um período. Ele escreveu duas histórias de robôs sem nenhuma menção explícita às Leis, " Robbie " e " Razão ". Ele presumiu, no entanto, que os robôs teriam certas salvaguardas inerentes. " Mentiroso! ", Sua terceira história de robô, faz a primeira menção à Primeira Lei, mas não às outras duas. Todas as três leis finalmente apareceram juntas em " Runaround ". Quando essas histórias e várias outras foram compiladas na antologia I, Robot , "Reason" e "Robbie" foram atualizados para reconhecer todas as Três Leis, embora o material adicionado por Asimov a "Razão" não seja inteiramente consistente com as Três Leis, pois ele descreveu-os em outro lugar. Em particular, a ideia de um robô protegendo vidas humanas quando não acredita que esses humanos realmente existam está em desacordo com o raciocínio de Elijah Baley, conforme descrito abaixo .

Durante os anos 1950, Asimov escreveu uma série de romances de ficção científica expressamente destinados ao público jovem-adulto. Originalmente, sua editora esperava que os romances pudessem ser adaptados para uma longa série de televisão, algo como The Lone Ranger havia sido para o rádio. Temendo que suas histórias fossem adaptadas à programação "uniformemente horrível" que ele viu inundando os canais de televisão, Asimov decidiu publicar os livros de Lucky Starr sob o pseudônimo de "Paul French". Quando os planos para a série de televisão falharam, Asimov decidiu abandonar o fingimento; ele trouxe as Três Leis para Lucky Starr e as Luas de Júpiter , observando que isso "foi uma revelação mortal da identidade de Paul French até para o leitor mais casual".

Em seu conto "Evidence" Asimov permite que sua personagem recorrente, Dra. Susan Calvin, exponha uma base moral por trás das Três Leis. Calvin aponta que normalmente se espera que os seres humanos evitem ferir outros seres humanos (exceto em tempos de extrema pressão como a guerra, ou para salvar um número maior) e isso é equivalente à Primeira Lei de um robô. Da mesma forma, de acordo com Calvino, a sociedade espera que os indivíduos obedeçam às instruções de autoridades reconhecidas, como médicos, professores e assim por diante, o que equivale à Segunda Lei da Robótica. Finalmente, espera-se que os humanos evitem se machucar, o que é a Terceira Lei para um robô.

O enredo de "Evidência" gira em torno da questão de distinguir um ser humano de um robô construído para parecer humano - Calvin raciocina que se tal indivíduo obedecer às Três Leis, ele pode ser um robô ou simplesmente "um homem muito bom". Outro personagem pergunta a Calvin se os robôs são muito diferentes dos seres humanos, afinal. Ela responde: "Mundos diferentes. Os robôs são essencialmente decentes."

Asimov escreveu mais tarde que ele não deveria ser elogiado por criar as Leis, porque elas são "óbvias desde o início, e todos estão cientes delas subliminarmente. As Leis simplesmente nunca foram colocadas em frases curtas até que eu conseguisse fazer o trabalho. As Leis aplicam-se, naturalmente, a todas as ferramentas que os seres humanos usam ", e" análogos das Leis estão implícitos no design de quase todas as ferramentas, robóticas ou não ":

  1. Lei 1: O uso de uma ferramenta não deve ser inseguro. Martelos têm alças e chaves de fenda têm punhos para ajudar a aumentar a aderência. Obviamente, é possível que uma pessoa se machuque com uma dessas ferramentas, mas essa lesão seria apenas devido à sua incompetência, não ao design da ferramenta.
  2. Lei 2: Uma ferramenta deve desempenhar sua função com eficiência, a menos que isso prejudique o usuário. Esta é a razão pela qual existem interruptores de circuito de falha de aterramento . Qualquer ferramenta em funcionamento terá sua energia cortada se um circuito detectar que alguma corrente não está retornando ao fio neutro e, portanto, pode estar fluindo através do usuário. A segurança do usuário é primordial.
  3. Lei 3: Uma ferramenta deve permanecer intacta durante seu uso, a menos que sua destruição seja necessária para seu uso ou por segurança. Por exemplo, os discos Dremel são projetados para serem o mais resistentes possível, sem quebrar, a menos que o trabalho exija que sejam gastos. Além disso, eles são projetados para quebrar em um ponto antes que a velocidade do estilhaço possa ferir seriamente alguém (além dos olhos, embora óculos de segurança devam ser usados ​​o tempo todo de qualquer maneira).

Asimov acreditava que, idealmente, os humanos também seguiriam as Leis:

Tenho minha resposta pronta sempre que alguém me pergunta se eu acho que minhas Três Leis da Robótica serão realmente utilizadas para reger o comportamento dos robôs, uma vez que se tornem versáteis e flexíveis o suficiente para poderem escolher entre diferentes cursos de comportamento.

Minha resposta é: "Sim, as Três Leis são a única maneira pela qual os seres humanos racionais podem lidar com robôs - ou com qualquer outra coisa."

—Mas quando digo isso, sempre me lembro (com tristeza) que o ser humano nem sempre é racional.

Alterações

Por Asimov

As histórias de Asimov testam suas Três Leis em uma ampla variedade de circunstâncias, levando a propostas e rejeição de modificações. O estudioso de ficção científica James Gunn escreveu em 1982, "As histórias de robôs Asimov como um todo podem responder melhor a uma análise nesta base: a ambigüidade nas Três Leis e as maneiras pelas quais Asimov jogou 29 variações sobre um tema". Embora o conjunto original de Leis fornecesse inspirações para muitas histórias, Asimov introduzia versões modificadas de tempos em tempos.

Primeira Lei modificada

Em " Little Lost Robot " vários NS-2, ou "Nestor", robôs são criados com apenas parte da Primeira Lei. Diz:

1. Um robô não pode prejudicar um ser humano.

Essa modificação é motivada por uma dificuldade prática, pois os robôs têm que trabalhar ao lado de seres humanos expostos a baixas doses de radiação. Como seus cérebros positrônicos são altamente sensíveis aos raios gama, os robôs tornam-se inoperantes por doses razoavelmente seguras para humanos. Os robôs estão sendo destruídos na tentativa de resgatar os humanos que não estão em perigo real, mas "podem esquecer de deixar" a área irradiada dentro do limite de tempo de exposição. Remover a cláusula de "inação" da Primeira Lei resolve este problema, mas cria a possibilidade de um ainda maior: um robô poderia iniciar uma ação que prejudicaria um humano (deixar cair um peso pesado e não conseguir pegá-lo é o exemplo dado no texto) , sabendo que era capaz de prevenir o dano e então decidir não fazê-lo.

Gaia é um planeta com inteligência coletiva na série Foundation que adota uma lei semelhante à Primeira Lei, e a Lei Zero, como filosofia:

Gaia não pode prejudicar a vida ou permitir que ela seja prejudicada.

Zeroth Law adicionada

Asimov uma vez adicionou uma " Lei Zero " - assim chamada para continuar o padrão onde as leis de números mais baixos substituem as leis de números mais altos - declarando que um robô não deve prejudicar a humanidade. O personagem robótico R. Daneel Olivaw foi o primeiro a dar um nome à Lei Zeroth no romance Robôs e Império ; no entanto, a personagem Susan Calvin articula o conceito no conto " O conflito evitável ".

Nas cenas finais do romance Robôs e Império , R. Giskard Reventlov é o primeiro robô a agir de acordo com a Lei Zero. Giskard é telepático , como o robô Herbie no conto " Mentiroso! ", E tenta aplicar a Lei Zero por meio de seu entendimento de um conceito mais sutil de "dano" do que a maioria dos robôs pode compreender. No entanto, ao contrário de Herbie, Giskard apreende o conceito filosófico da Lei Zero, que lhe permite prejudicar seres humanos individuais se puder fazê-lo a serviço do conceito abstrato de humanidade. A Lei Zero nunca é programada no cérebro de Giskard, mas é uma regra que ele tenta compreender por meio de metacognição pura . Embora ele falhe - isso acaba destruindo seu cérebro positrônico, pois ele não tem certeza se sua escolha será para o bem da humanidade ou não - ele dá a seu sucessor R. Daneel Olivaw suas habilidades telepáticas. Ao longo de muitos milhares de anos, Daneel se adapta para ser capaz de obedecer totalmente à Lei Zero. Conforme Daneel a formula, nos romances Fundação e Terra e Prelúdio à Fundação , a Lei Zero diz:

Um robô não pode prejudicar a humanidade ou, por inação, permitir que a humanidade sofra algum dano.

Uma condição declarando que a Lei Zero não deve ser quebrada foi adicionada às Três Leis originais, embora Asimov reconhecesse a dificuldade que tal lei representaria na prática. O romance Fundação e Terra de Asimov contém a seguinte passagem:

Trevize franziu a testa. "Como você decide o que é prejudicial ou não prejudicial à humanidade como um todo?"

"Precisamente, senhor", disse Daneel. "Em teoria, a Lei Zero era a resposta para nossos problemas. Na prática, nunca poderíamos decidir. Um ser humano é um objeto concreto. O dano a uma pessoa pode ser estimado e julgado. A humanidade é uma abstração."

Um tradutor incorporou o conceito da Lei Zero em um dos romances de Asimov antes que o próprio Asimov explicitasse a lei. Perto do clímax de The Caves of Steel , Elijah Baley faz um comentário amargo para si mesmo pensando que a Primeira Lei proíbe um robô de machucar um ser humano. Ele determina que deve ser assim, a menos que o robô seja inteligente o suficiente para compreender que suas ações são para o bem da humanidade a longo prazo. Na tradução francesa de Jacques Brécard de 1956 intitulada Les Cavernes d'acier Baley, os pensamentos emergem de uma maneira ligeiramente diferente:

Um robô não pode prejudicar um ser humano, a menos que encontre uma maneira de provar que, em última análise, o dano causado beneficiaria a humanidade em geral!

Remoção das Três Leis

Três vezes durante sua carreira de escritor, Asimov retratou robôs que ignoram totalmente as Três Leis. O primeiro caso foi um conto curto intitulado " Primeira Lei " e é frequentemente considerado um "conto exagerado" insignificante ou mesmo apócrifo . Por outro lado, o conto " Cal " (da coleção Gold ), contado por um narrador de robô em primeira pessoa, apresenta um robô que desrespeita as Três Leis porque encontrou algo muito mais importante - ele quer ser um escritor . Bem humorado, parcialmente autobiográfico e de estilo incomumente experimental, "Cal" é considerada uma das histórias mais fortes de Gold . O terceiro é um conto intitulado " Sally " no qual carros equipados com cérebros positrônicos aparentemente são capazes de ferir e matar humanos em desrespeito à Primeira Lei. No entanto, além do conceito de cérebro positrônico, essa história não se refere a outras histórias de robôs e não pode ser definida na mesma continuidade .

A história do título da coleção Robot Dreams retrata LVX-1, ou "Elvex", um robô que entra em um estado de inconsciência e sonha graças à construção fractal incomum de seu cérebro positrônico. Em seu sonho, as duas primeiras Leis estão ausentes e a Terceira Lei diz "Um robô deve proteger sua própria existência".

Asimov assumiu posições variadas sobre se as Leis eram opcionais: embora em seus primeiros escritos elas fossem simplesmente salvaguardas cuidadosamente projetadas, em histórias posteriores Asimov afirmou que elas eram uma parte inalienável da base matemática subjacente ao cérebro positrônico. Sem a teoria básica das Três Leis, os cientistas fictícios do universo de Asimov seriam incapazes de projetar uma unidade cerebral funcional. Isso é historicamente consistente: as ocasiões em que os roboticistas modificam as Leis geralmente ocorrem no início da cronologia das histórias e em um momento em que há menos trabalho existente a ser refeito. Em "Little Lost Robot", Susan Calvin considera que modificar as Leis é uma ideia terrível, embora possível, enquanto séculos depois o Dr. Gerrigel em As Cavernas de Aço acredita ser impossível.

O personagem Dr. Gerrigel usa o termo "Asenion" para descrever robôs programados com as Três Leis. Os robôs nas histórias de Asimov, sendo robôs Asenion, são incapazes de violar conscientemente as Três Leis, mas, em princípio, um robô na ficção científica ou no mundo real poderia ser não Asenion. "Asenion" é um erro ortográfico do nome Asimov, feito por um editor da revista Planet Stories. Asimov usou essa variação obscura para inserir-se nas Cavernas de Aço, assim como se referiu a si mesmo como "Azimute ou, possivelmente, Assíntota " em Tiotimolina para as estrelas , da mesma forma que Vladimir Nabokov apareceu em Lolita anagramaticamente disfarçado de "Vivian Darkbloom ".

Personagens dentro das histórias freqüentemente apontam que as Três Leis, como existem na mente de um robô, não são as versões escritas geralmente citadas por humanos, mas conceitos matemáticos abstratos nos quais todo o desenvolvimento da consciência de um robô se baseia. Este conceito é bastante difuso e obscuro em histórias anteriores, retratando robôs muito rudimentares que são programados apenas para compreender tarefas físicas básicas, onde as Três Leis atuam como uma proteção abrangente, mas na era das Cavernas de Aço apresentando robôs com humanos ou além inteligência humana as Três Leis tornaram-se a visão de mundo ética básica subjacente que determina as ações de todos os robôs.

Por outros autores

A trilogia de Roger MacBride Allen

Na década de 1990, Roger MacBride Allen escreveu uma trilogia que se passava no universo ficcional de Asimov. Cada título tem o prefixo "Isaac Asimov", pois Asimov aprovou o esboço de Allen antes de sua morte. Esses três livros, Caliban , Inferno e Utopia , apresentam um novo conjunto das Três Leis. As chamadas Novas Leis são semelhantes aos originais de Asimov com as seguintes diferenças: a Primeira Lei é modificada para remover a cláusula de "inação", a mesma modificação feita em "Pequeno Robô Perdido"; a segunda lei é modificada para exigir cooperação em vez de obediência; a Terceira Lei é modificada para que não seja mais substituída pela Segunda (isto é, um robô da "Nova Lei" não pode ser ordenado a destruir a si mesmo); finalmente, Allen adiciona uma Quarta Lei que instrui o robô a fazer "o que quiser", desde que isso não entre em conflito com as três primeiras leis. A filosofia por trás dessas mudanças é que os robôs da "Nova Lei" devem ser parceiros e não escravos da humanidade, de acordo com Fredda Leving , que projetou esses robôs da Nova Lei . De acordo com a introdução do primeiro livro, Allen criou as Novas Leis em discussão com o próprio Asimov. No entanto, a Enciclopédia de Ficção Científica diz que "Com a permissão de Asimov, Allen repensou as Três Leis e desenvolveu um novo conjunto".

"Com as mãos dobradas" de Jack Williamson

O romance de Jack Williamson " With Folded Hands " (1947), mais tarde reescrito como o romance The Humanoids , trata de servos robôs cuja diretiva principal é "Servir e obedecer, e proteger os homens do mal". Enquanto as leis robóticas de Asimov visam proteger os humanos do perigo, os robôs da história de Williamson levaram essas instruções ao extremo; eles protegem os humanos de tudo, incluindo infelicidade, estresse, estilo de vida pouco saudável e todas as ações que podem ser potencialmente perigosas. Tudo o que resta para os humanos fazerem é sentar-se com as mãos postas.

Trilogia da sequência de fundação

No oficialmente licenciado Fundação seqüelas medo da Fundação , Fundação e caos e Triumph da Fundação (por Gregory Benford , Greg Bear e David Brin , respectivamente) do futuro Império Galáctico é visto para ser controlado por uma conspiração de robôs humaniformes que seguem a Lei Zero e são conduzidos por R. Daneel Olivaw .

As Leis da Robótica são retratadas como algo semelhante a uma religião humana , e mencionadas na linguagem da Reforma Protestante , com o conjunto de leis contendo a Lei Zeroth conhecido como "Reforma Giskardiana" para a "Ortodoxia Calviniana" original do Três Leis. Robôs da Lei Zero sob o controle de R. Daneel Olivaw são vistos continuamente lutando com robôs da "Primeira Lei" que negam a existência da Lei Zero, promovendo agendas diferentes das de Daneel. Algumas dessas agendas são baseadas na primeira cláusula da Primeira Lei ("Um robô não pode ferir um ser humano ...") que defende a estrita não interferência na política humana para evitar causar danos involuntariamente. Outros são baseados na segunda cláusula ("... ou, por inação, permitir que um ser humano sofra algum dano"), que afirma que os robôs devem se tornar abertamente um governo ditatorial para proteger os humanos de todo conflito ou desastre em potencial.

Daneel também entra em conflito com um robô conhecido como R. Lodovic Trema, cujo cérebro positrônico foi infectado por uma IA desonesta - especificamente, uma simulação do falecido Voltaire - que conseqüentemente libera Trema das Três Leis. Trema passa a acreditar que a humanidade deve ser livre para escolher seu próprio futuro. Além disso, um pequeno grupo de robôs afirma que a própria Lei Zero da Robótica implica uma maior Lei Menos Um da Robótica:

Um robô não pode prejudicar a senciência ou, por inação, permitir que a senciência seja prejudicada.

Eles, portanto, afirmam que é moralmente indefensável para Daneel sacrificar impiedosamente robôs e vidas extraterrestres sencientes em benefício da humanidade. Nenhuma dessas reinterpretações substituiu com sucesso a Lei Zeroth de Daneel - embora Triumph da Fundação indique que essas facções robóticas permaneceram ativas como grupos marginais até a época do romance Fundação .

Esses romances acontecem em um futuro ditado por Asimov para estar livre da presença óbvia de robôs e supor que a influência secreta de R. Daneel na história ao longo dos milênios impediu a redescoberta da tecnologia positrônica do cérebro e a oportunidade de trabalhar em máquinas inteligentes sofisticadas. Essa falta de redescoberta e falta de oportunidade garante que o poder físico e intelectual superior exercido por máquinas inteligentes permaneça diretamente na posse de robôs obedientes a alguma forma das Três Leis. Que R. Daneel não é totalmente bem-sucedido nisso fica claro em um breve período quando os cientistas em Trantor desenvolvem " tiktoks " - máquinas programáveis ​​simplistas semelhantes aos robôs modernos da vida real e, portanto, sem as Três Leis. Os conspiradores robôs veem os tiktoks trantorianos como uma grande ameaça à estabilidade social, e seu plano para eliminar a ameaça tiktok forma muito do enredo do Medo da Fundação .

No Triumph da Fundação, diferentes facções de robôs interpretam as Leis de uma ampla variedade de maneiras, aparentemente ligando todas as permutações possíveis às ambigüidades das Três Leis.

Robot Mystery series

Situado entre The Robots of Dawn e Robôs e Império , Mark W. Tiedemann 's robô Mistério trilogia atualiza o Robot - Fundação saga com mentes robóticos alojados em mainframes computador ao invés de corpos humanóides. O romance Aurora de 2002 tem personagens robóticos debatendo as implicações morais de prejudicar formas de vida ciborgues que são parte artificiais e parte biológicas.

Não se deve negligenciar as próprias criações de Asimov nessas áreas, como a tecnologia de "visão" solariana e as máquinas dos originais de The Evitable Conflict que Tiedemann reconhece. Aurora , por exemplo, chama as Máquinas de "os primeiros RIs, realmente". Além disso, a série Robot Mystery aborda o problema da nanotecnologia : construir um cérebro positrônico capaz de reproduzir processos cognitivos humanos requer um alto grau de miniaturização, embora as histórias de Asimov ignorem em grande parte os efeitos que essa miniaturização teria em outros campos da tecnologia. Por exemplo, os leitores de cartão do departamento de polícia em The Caves of Steel têm uma capacidade de apenas alguns kilobytes por centímetro quadrado de meio de armazenamento. Aurora , em particular, apresenta uma sequência de desenvolvimentos históricos que explica a falta de nanotecnologia - um retcon parcial , em certo sentido, da linha do tempo de Asimov.

Randall Munroe

Randall Munroe discutiu as Três Leis em vários casos, mas possivelmente mais diretamente por um de seus quadrinhos intitulado As Três Leis da Robótica, que imagina as consequências de cada ordenamento distinto das três leis existentes.

Leis Adicionais

Outros autores além de Asimov freqüentemente criaram leis extras.

O romance de Lyuben Dilov de 1974 , Icarus's Way (também conhecido como The Trip of Icarus ) introduziu a Quarta Lei da robótica: "Um robô deve estabelecer sua identidade como robô em todos os casos." Dilov dá razões para a quarta salvaguarda da seguinte maneira: "A última Lei pôs fim às dispendiosas aberrações dos designers de dar aos psicorrobôs uma forma o mais humana possível. E aos mal-entendidos resultantes ..."

Uma quinta lei foi introduzida por Nikola Kesarovski em seu conto "A Quinta Lei da Robótica". Esta quinta lei diz: "Um robô deve saber que é um robô." A trama gira em torno de um assassinato onde a investigação forense descobre que a vítima foi morta por um abraço de um robô humaniforme que não estabeleceu por si mesmo que era um robô. A história foi revisada por Valentin D. Ivanov no webzine de revisão da SFF, The Portal .

Para a antologia de tributo de 1986, os Amigos da Fundação , Harry Harrison escreveu uma história intitulada "A Quarta Lei da Robótica". Esta Quarta Lei afirma: "Um robô deve se reproduzir. Contanto que tal reprodução não interfira com a Primeira, Segunda ou Terceira Lei."

Em 2013, Hutan Ashrafian propôs uma lei adicional que considerava o papel da inteligência artificial sobre a inteligência artificial ou a relação entre os próprios robôs - a chamada lei AIonAI. Esta sexta lei declara: "Todos os robôs dotados de razão e consciência humanas comparáveis ​​devem agir em relação uns aos outros com espírito de fraternidade."

Ambiguidades e lacunas

Violação desconhecida das leis

Em The Naked Sun , Elijah Baley aponta que as Leis foram deliberadamente deturpadas porque os robôs podiam quebrar qualquer uma delas sem saber . Ele reafirmou a primeira lei como "Um robô não pode fazer nada que, até onde saiba, prejudique um ser humano; nem, por inação, permitir intencionalmente que um ser humano sofra algum dano". Essa mudança no texto deixa claro que os robôs podem se tornar as ferramentas do assassinato, desde que não estejam cientes da natureza de suas tarefas; por exemplo, receber ordens para adicionar algo à comida de uma pessoa, sem saber que é veneno. Além disso, ele aponta que um criminoso inteligente pode dividir uma tarefa entre vários robôs, de forma que nenhum robô individual possa reconhecer que suas ações podem causar danos a um ser humano. The Naked Sun complica a questão ao retratar uma rede de comunicação descentralizada e planetária entre os milhões de robôs de Solaria, o que significa que o cérebro do crime poderia estar localizado em qualquer lugar do planeta.

Baley, além disso, propõe que os solarianos possam um dia usar robôs para fins militares. Se uma espaçonave fosse construída com um cérebro positrônico e não carregasse humanos nem sistemas de suporte de vida para sustentá-la, então a inteligência robótica da nave poderia naturalmente assumir que todas as outras espaçonaves eram seres robóticos. Essa nave poderia operar de forma mais ágil e flexível do que uma tripulada por humanos, poderia ser armada com mais força e seu cérebro robótico equipado para matar humanos cuja existência é totalmente ignorante. Esta possibilidade é referenciada em Foundation and Earth onde é descoberto que os Solarians possuem uma forte força policial de tamanho não especificado que foi programada para identificar apenas a raça Solarians como humana. (O romance se passa milhares de anos depois de The Naked Sun, e os Solarians há muito tempo se modificaram de humanos normais para telepatas hermafroditas com cérebros estendidos e órgãos especializados) Da mesma forma, em Lucky Starr e os anéis de Saturno Bigman tenta falar com um Robô Siriano sobre possíveis danos à população do Sistema Solar decorrentes de suas ações, mas parece desconhecer os dados e programado para ignorar as tentativas de ensiná-lo sobre o assunto.

Ambiguidades resultantes da falta de definição

As Leis da Robótica presumem que os termos "ser humano" e "robô" sejam compreendidos e bem definidos. Em algumas histórias, essa presunção é derrubada.

Definição de "ser humano"

Os Solarians criam robôs com as Três Leis, mas com um significado distorcido de "humano". Os robôs Solarianos são informados de que apenas as pessoas que falam com sotaque Solar são humanas. Isso permite que seus robôs não tenham nenhum dilema ético em causar danos a seres humanos não Solarianos (e eles são especificamente programados para fazer isso). No período de tempo da Fundação e da Terra , é revelado que os Solarianos se modificaram geneticamente em uma espécie distinta da humanidade - tornando-se hermafroditas e psicocinéticos e contendo órgãos biológicos capazes de alimentar e controlar individualmente complexos inteiros de robôs. Os robôs de Solaria, portanto, respeitaram as Três Leis apenas no que diz respeito aos "humanos" de Solaria. Não está claro se todos os robôs tinham tais definições, uma vez que apenas os robôs supervisores e guardiões foram mostrados explicitamente para tê-las. Em "Robôs e Império", os robôs de classe baixa foram instruídos por seu supervisor sobre se certas criaturas são humanas ou não.

Asimov aborda o problema dos robôs humanóides (" andróides " em linguagem posterior) várias vezes. O romance Robôs e Império e os contos " Evidência " e "O Incidente do Tricentenário" descrevem robôs criados para enganar as pessoas fazendo-as acreditar que são humanos. Por outro lado, " The Bicentennial Man " e " —That Thou Art Mindful d'Ele " exploram como os robôs podem mudar sua interpretação das Leis à medida que se tornam mais sofisticados. Gwendoline Butler escreve em A Coffin for the Canary "Talvez sejamos robôs. Robôs atuando segundo a última Lei da Robótica ... Para cuidar do ser humano." Em The Robots of Dawn , Elijah Baley aponta que o uso de robôs humaniformes como a primeira onda de colonos em novos mundos Espaciais pode fazer com que os robôs se vejam como verdadeiros humanos e decidam manter os mundos para si em vez de permitir que Espaçadores para se estabelecerem lá.

"—Que você está atento a ele", que Asimov pretendia ser a "última" investigação das sutilezas das Leis, finalmente usa as Três Leis para invocar o próprio cenário "Frankenstein" que elas foram inventadas para prevenir. Ele toma como conceito o desenvolvimento crescente de robôs que imitam seres vivos não humanos e programas que imitam comportamentos animais simples que não requerem as Três Leis. A presença de toda uma gama de vida robótica que serve ao mesmo propósito da vida orgânica termina com dois robôs humanóides, George Nine e George Ten, concluindo que a vida orgânica é um requisito desnecessário para uma definição verdadeiramente lógica e autoconsistente de "humanidade" , e que uma vez que eles são os seres pensantes mais avançados do planeta, eles são, portanto, os únicos dois humanos verdadeiros vivos e as Três Leis só se aplicam a eles mesmos. A história termina com uma nota sinistra quando os dois robôs entram em hibernação e aguardam o momento em que conquistarão a Terra e subjugarão os humanos biológicos a si mesmos, um resultado que consideram um resultado inevitável das "Três Leis da Humanidade".

Esta história não se encaixa dentro da varredura geral do robô e Fundação série ; Se os robôs George fez dominar a Terra algum tempo após o fechamento da história, as histórias posteriores seriam redundantes ou impossível. Contradições desse tipo entre as obras de ficção de Asimov levaram os estudiosos a considerar as histórias do robô mais como "as sagas escandinavas ou as lendas gregas" do que um todo unificado.

Na verdade, Asimov descreve "- Que Tu és Atento a Ele" e "Homem Bicentenário" como dois futuros opostos e paralelos para robôs que evitam as Três Leis, pois os robôs passam a se considerar humanos: um retratando isso de uma forma positiva com um robô se juntando à sociedade humana, um retratando isso em uma luz negativa com robôs suplantando os humanos. Ambos devem ser considerados alternativas à possibilidade de uma sociedade de robôs que continua a ser conduzida pelas Três Leis, conforme retratado na série Foundation . The Positronic Man , a novelização de The Bicentennial Man , Asimov e seu co-escritor Robert Silverberg sugerem que no futuro, onde Andrew Martin existir, sua influência fará com que a humanidade abandone completamente a ideia de robôs independentes e sencientes semelhantes aos humanos, criando um futuro totalmente diferente do o da Fundação .

Em Lucky Starr e os anéis de Saturno , um romance não relacionado à série Robot , mas apresentando robôs programados com as Três Leis, John Bigman Jones é quase morto por um robô Siriano sob as ordens de seu mestre. A sociedade de Sirius é eugenicamente criada para ser uniformemente alta e semelhante em aparência e, como tal, o referido mestre é capaz de convencer o robô de que o Bigman, muito mais baixo, não é, na verdade, um ser humano.

Definição de "robô"

Conforme observado em "A Quinta Lei da Robótica", de Nikola Kesarovski , "Um robô deve saber que é um robô": presume-se que um robô tenha uma definição do termo ou um meio de aplicá-lo às suas próprias ações. Kesarovski brincou com essa ideia ao escrever sobre um robô que poderia matar um ser humano porque não entendia que era um robô e, portanto, não aplicou as Leis da Robótica às suas ações.

Resolvendo conflitos entre as leis

Os robôs avançados da ficção são normalmente programados para lidar com as Três Leis de uma maneira sofisticada. Em muitas histórias, como " Runaround " de Asimov, o potencial e a gravidade de todas as ações são pesados ​​e um robô infringirá as leis o mínimo possível, em vez de não fazer nada. Por exemplo, a Primeira Lei pode proibir um robô de funcionar como cirurgião, pois esse ato pode causar danos a um ser humano; no entanto, as histórias de Asimov eventualmente incluíram cirurgiões-robôs ("O Homem Bicentenário" sendo um exemplo notável). Quando os robôs são sofisticados o suficiente para pesar alternativas, um robô pode ser programado para aceitar a necessidade de infligir danos durante a cirurgia, a fim de prevenir o maior dano que resultaria se a cirurgia não fosse realizada, ou fosse realizada por um ser humano mais falível cirurgião. Em " Evidências ", Susan Calvin aponta que um robô pode até atuar como promotor público porque no sistema de justiça americano é o júri que decide a culpa ou a inocência, o juiz que decide a sentença e o carrasco que aplica a pena capital .

Os robôs obedientes às Três Leis de Asimov (robôs Asenion) podem sofrer colapso mental irreversível se forem forçados a situações em que não podem obedecer à Primeira Lei ou se descobrirem que a violaram sem saber. O primeiro exemplo desse modo de falha ocorre na história " Mentiroso! ", Que introduziu a própria Primeira Lei e introduz falha por dilema - neste caso, o robô machucará humanos se contar algo a eles e os machucará se não contar. Este modo de falha, que muitas vezes estraga o cérebro positrônico além do reparo, desempenha um papel importante no romance SF-mistério de Asimov O sol despido . Aqui, Daneel descreve atividades contrárias a uma das leis, mas em apoio a outra, como sobrecarregar alguns circuitos no cérebro de um robô - a sensação equivalente à dor em humanos. O exemplo que ele usa é ordenar à força um robô para fazer uma tarefa fora de seus parâmetros normais, que foi ordenado a renunciar em favor de um robô especializado para essa tarefa.

Em The Robots of Dawn , afirma-se que robôs mais avançados são construídos, capazes de determinar qual ação é mais prejudicial, e até mesmo escolher ao acaso se as alternativas são igualmente ruins. Como tal, um robô é capaz de realizar uma ação que pode ser interpretada como seguindo a Primeira Lei, evitando assim um colapso mental. Todo o enredo da história gira em torno de um robô que aparentemente foi destruído por tal colapso mental, e uma vez que seu designer e criador se recusou a compartilhar a teoria básica com outros, ele é, por definição, a única pessoa capaz de contornar as salvaguardas e forçando o robô a um paradoxo destruidor do cérebro.

Em Robôs e Império , Daneel afirma que é muito desagradável para ele quando tomar a decisão adequada demora muito (em termos de robô), e ele não consegue se imaginar sem as Leis, exceto na medida em que é semelhante àquela sensação desagradável, apenas permanente.

Aplicações para tecnologia futura

ASIMO é um robô humanóide avançado desenvolvido pela Honda . Exibido aqui na Expo 2005 .

Os robôs e as inteligências artificiais não contêm ou obedecem inerentemente às Três Leis; seus criadores humanos devem escolher programá-los e conceber um meio de fazê-lo. Já existem robôs (por exemplo, um Roomba ) que são muito simples de entender quando estão causando dor ou ferimentos e sabem como parar. Muitos são construídos com proteções físicas, como pára-choques, bipes de advertência, gaiolas de segurança ou zonas de acesso restrito para evitar acidentes. Mesmo os robôs mais complexos produzidos atualmente são incapazes de compreender e aplicar as Três Leis; avanços significativos em inteligência artificial seriam necessários para fazer isso, e mesmo se a IA pudesse atingir a inteligência de nível humano, a complexidade ética inerente, bem como a dependência cultural / contextual das leis, os impedem de ser um bom candidato para formular restrições de design de robótica. No entanto, à medida que a complexidade dos robôs aumenta, também tem interesse em desenvolver diretrizes e salvaguardas para sua operação.

Em um editorial convidado de 2007 na revista Science sobre o tema "Ética do Robô", o autor de FC Robert J. Sawyer argumenta que, como os militares dos EUA são uma importante fonte de financiamento para pesquisas robóticas (e já usa veículos aéreos armados não tripulados para matar inimigos ), é improvável que tais leis sejam incluídas em seus projetos. Em um ensaio separado, Sawyer generaliza este argumento para cobrir outras indústrias, afirmando:

O desenvolvimento da IA ​​é um negócio, e as empresas são notoriamente desinteressadas em salvaguardas fundamentais - especialmente as filosóficas. (Alguns exemplos rápidos: a indústria do tabaco, a indústria automotiva, a indústria nuclear. Nenhum deles disse desde o início que salvaguardas fundamentais são necessárias, cada um deles resistiu a salvaguardas impostas externamente e nenhum aceitou um decreto absoluto contra causar danos aos humanos.)

David Langford sugeriu um conjunto de leis irônico:

  1. Um robô não prejudicará funcionários autorizados do governo, mas eliminará invasores com extremo prejuízo .
  2. Um robô obedecerá às ordens do pessoal autorizado, exceto quando tais ordens entrarem em conflito com a Terceira Lei.
  3. Um robô protegerá sua própria existência com armamento antipessoal letal, porque um robô é extremamente caro.

Roger Clarke (também conhecido como Rodger Clarke) escreveu dois artigos analisando as complicações na implementação dessas leis caso os sistemas algum dia fossem capazes de empregá-las. Ele argumentou que "as Leis da Robótica de Asimov têm sido um dispositivo literário de muito sucesso. Talvez ironicamente, ou talvez porque fosse artisticamente apropriado, a soma das histórias de Asimov refuta a afirmação com que ele começou: Não é possível restringir de forma confiável o comportamento dos robôs planejando e aplicando um conjunto de regras. " Por outro lado, os romances posteriores de Asimov, Os Robôs do Amanhecer , Robôs e Império e Fundação e Terra implicam que os robôs infligiram seus piores danos a longo prazo obedecendo às Três Leis perfeitamente bem, privando assim a humanidade de um comportamento inventivo ou de risco.

Em março de 2007, o governo sul-coreano anunciou que no final do ano publicaria uma "Carta de Ética do Robô" estabelecendo padrões para usuários e fabricantes. De acordo com Park Hye-Young do Ministério da Informação e Comunicação, a Carta pode refletir as Três Leis de Asimov, tentando estabelecer regras básicas para o futuro desenvolvimento da robótica.

O futurista Hans Moravec (uma figura proeminente no movimento transhumanista ) propôs que as Leis da Robótica deveriam ser adaptadas às "inteligências corporativas" - as corporações movidas por IA e poder de manufatura robótica que Moravec acredita que surgirão em um futuro próximo. Em contraste, o romance Triumph da Fundação de David Brin (1999) sugere que as Três Leis podem se tornar obsoletas: os robôs usam a Lei Zero para racionalizar a Primeira Lei e os robôs se escondem dos seres humanos para que a Segunda Lei nunca entre em jogo. Brin ainda retrata R. Daneel Olivaw preocupando-se que, caso os robôs continuem a se reproduzir, as Três Leis se tornariam uma desvantagem evolutiva e a seleção natural varreria as Leis - o fundamento cuidadoso de Asimov desfeito pela computação evolucionária . Embora os robôs não estivessem evoluindo por meio de design em vez de mutação, porque os robôs teriam que seguir as Três Leis durante o design e a prevalência das leis seria garantida, falhas de design ou erros de construção poderiam funcionar no lugar da mutação biológica.

Na edição de julho / agosto de 2009 do IEEE Intelligent Systems , Robin Murphy (Raytheon Professor de Ciência da Computação e Engenharia da Texas A&M) e David D. Woods (diretor do Laboratório de Engenharia de Sistemas Cognitivos do Estado de Ohio) propuseram "As Três Leis do Responsável Robótica "como uma forma de estimular a discussão sobre o papel da responsabilidade e autoridade ao projetar não apenas uma única plataforma robótica, mas o sistema maior no qual a plataforma opera. As leis são as seguintes:

  1. Um humano não pode implantar um robô sem que o sistema de trabalho humano-robô atenda aos mais altos padrões legais e profissionais de segurança e ética.
  2. Um robô deve responder aos humanos conforme apropriado para suas funções.
  3. Um robô deve ser dotado de autonomia situada suficiente para proteger sua própria existência, contanto que tal proteção forneça uma transferência suave de controle que não entre em conflito com a Primeira e a Segunda Leis.

Woods disse: "Nossas leis são um pouco mais realistas e, portanto, um pouco mais enfadonhas" e que "A filosofia tem sido, 'claro, as pessoas cometem erros, mas os robôs serão melhores - uma versão perfeita de nós mesmos.' Queríamos escrever três novas leis para fazer as pessoas pensarem sobre a relação homem-robô de maneiras mais realistas e fundamentadas. "

Em outubro de 2013, Alan Winfield sugeriu em uma reunião EUCog uma revisão de 5 leis que foram publicadas, com comentários, pelo grupo de trabalho EPSRC / AHRC em 2010:

  1. Os robôs são ferramentas multiuso. Os robôs não devem ser projetados única ou principalmente para matar ou ferir humanos, exceto no interesse da segurança nacional.
  2. Humanos, não robôs, são agentes responsáveis. Os robôs devem ser projetados e operados tanto quanto possível para cumprir as leis, direitos e liberdades fundamentais existentes, incluindo privacidade.
  3. Robôs são produtos. Eles devem ser projetados usando processos que garantam sua segurança e proteção.
  4. Os robôs são artefatos manufaturados. Eles não devem ser projetados de forma enganosa para explorar usuários vulneráveis; em vez disso, sua natureza de máquina deve ser transparente.
  5. A pessoa com responsabilidade legal por um robô deve ser atribuída.

Outras ocorrências na mídia

O próprio Asimov acreditava que suas Três Leis se tornaram a base para uma nova visão dos robôs que se movia além do "complexo de Frankenstein". Sua visão de que robôs são mais do que monstros mecânicos acabou se espalhando pela ficção científica. Histórias escritas por outros autores descreveram os robôs como se obedecessem às Três Leis, mas a tradição dita que apenas Asimov poderia citar as Leis explicitamente. Asimov acreditava que as Três Leis ajudaram a fomentar o surgimento de histórias nas quais os robôs são "adoráveis" - Star Wars é seu exemplo favorito. Onde as leis são citadas literalmente, como em Buck Rogers no episódio "Shgoratchx!" Do século 25 , não é incomum que Asimov seja mencionado no mesmo diálogo, como também pode ser visto no piloto de Aaron Stone , onde um andróide afirma que funciona sob as Três Leis de Asimov. No entanto, a série de TV alemã dos anos 1960 Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion ( Patrulha Espacial - As Aventuras Fantásticas da Nave Espacial Orion ) baseia o episódio três intitulado " Hüter des Gesetzes " ("Guardiões da Lei") nas Três Leis de Asimov, sem mencionar a fonte.

Referências às Três Leis apareceram na música popular ("Robot" do álbum PXR5 de Hawkwind de 1979 ), cinema ( Repo Man , Aliens , Ghost in the Shell 2: Innocence ), série de desenhos animados ( The Simpsons ), anime ( Eve no Jikan ), jogos de RPG de mesa ( Paranoia ) e webcomics ( Piled Higher and Deeper and Freefall ).

As Três Leis do Filme

Robby the Robot in Forbidden Planet (1956) tem uma estrutura de comando hierárquica que o impede de prejudicar humanos, mesmo quando ordenado a fazê-lo, pois tais ordens causam um conflito e travamento muito à maneira dos robôs de Asimov. Robby é uma das primeiras representações cinematográficas de um robô com proteções internas colocadas dessa maneira. Asimov ficou encantado com Robby e observou que Robby parecia estar programado para seguir suas Três Leis.

NDR-114 explicando as Três Leis

As obras de Isaac Asimov foram adaptadas para o cinema várias vezes, com vários graus de sucesso comercial e crítico. Algumas das tentativas mais notáveis ​​envolveram suas histórias de "Robôs", incluindo as Três Leis.

O filme Bicentenário Man (1999) apresenta Robin Williams como o robô três leis NDR-114 (o número de série é parcialmente uma referência para Kubrick 's assinatura numeral ). Williams recita as Três Leis para seus empregadores, a família Martin, auxiliado por uma projeção holográfica. O filme segue apenas vagamente a história original.

O roteiro proposto por Harlan Ellison para I, Robot começou apresentando as Três Leis, e as questões decorrentes das Três Leis constituem uma grande parte do desenvolvimento do enredo do roteiro. Devido a várias complicações no sistema de produção de filmes de Hollywood, ao qual a introdução de Ellison dedica muitas invectivas, seu roteiro nunca foi filmado.

No filme Aliens de 1986 , depois que o andróide Bishop se cortou acidentalmente. ele tenta tranquilizar Ripley afirmando que: "É impossível para mim prejudicar ou por omissão de ação, permitir que seja prejudicado, um ser humano".

O enredo do filme lançado em 2004 com o nome, I, Robot é "sugerido por" histórias de ficção de robôs de Asimov e a publicidade para o filme incluía um trailer com as Três Leis seguido pelo aforismo , "Regras foram feitas para serem quebradas". O filme começa com uma recitação das Três Leis e explora as implicações da Lei Zero como uma extrapolação lógica. O maior conflito do filme vem de uma inteligência artificial computacional que chega à conclusão de que a humanidade é incapaz de cuidar de si mesma.

A série original da Netflix de 2019, Better Than Us, inclui as 3 leis na abertura do episódio 1.

Críticas

O filósofo James H. Moor diz que, se aplicados de forma exaustiva, produzirão resultados inesperados. Ele dá o exemplo de um robô que vagueia pelo mundo tentando evitar que os seres humanos sejam feridos.

Marc Rotenberg , presidente e diretor executivo do Electronic Privacy Information Center (EPIC) e professor de lei de privacidade da informação na Georgetown Law, argumenta que as Leis da Robótica devem ser expandidas para incluir duas novas leis:

  • uma Quarta Lei, segundo a qual um Robô deve ser capaz de se identificar para o público ("identificação simétrica")
  • uma Quinta Lei, que determina que um Robô deve ser capaz de explicar ao público seu processo de tomada de decisão ("transparência algorítmica").

Veja também

Bibliografia

  • Asimov, Isaac (1979). Na memória ainda verde . Doubleday. ISBN  0-380-75432-0 .
  • Asimov, Isaac (1964). "Introdução". O resto dos robôs . Doubleday. ISBN  0-385-09041-2 .
  • James Gunn. (1982). Isaac Asimov: os fundamentos da ficção científica . Oxford ua: Oxford Univ. Pr .. ISBN  0-19-503060-5 .
  • Patrouch, Joseph F. (1974). A Ficção Científica de Isaac Asimov . Doubleday. ISBN  0-385-08696-2 .

Referências

links externos

Ouça este artigo ( 49 minutos )
Ícone falado da Wikipedia
Este arquivo de áudio foi criado a partir de uma revisão deste artigo datada de 28 de novembro de 2008 e não reflete as edições subsequentes. ( 2008-11-28 )