Opiniões de Hubert Dreyfus sobre inteligência artificial - Hubert Dreyfus's views on artificial intelligence

Capa do livro da edição de bolso de 1979

Hubert Dreyfus foi um crítico da pesquisa de inteligência artificial . Em uma série de artigos e livros, incluindo Alchemy and AI (1965) , What Computers Can't Do ( 1972 ; 1979 ; 1992 ) e Mind over Machine (1986) , ele apresentou uma avaliação pessimista do progresso da AI e uma crítica do fundamentos filosóficos do campo. As objeções de Dreyfus são discutidas na maioria das introduções à filosofia da inteligência artificial , incluindo Russell & Norvig (2003) , o livro-texto padrão de IA, e em Fearn (2007) , uma pesquisa de filosofia contemporânea.

Dreyfus argumentou que a inteligência humana e a perícia dependem principalmente de processos inconscientes, em vez de manipulação simbólica consciente , e que essas habilidades inconscientes nunca podem ser totalmente capturadas em regras formais. Sua crítica foi baseada nos insights de filósofos continentais modernos , como Merleau-Ponty e Heidegger , e foi direcionada à primeira onda de pesquisa em IA que usava símbolos formais de alto nível para representar a realidade e tentava reduzir a inteligência à manipulação de símbolos.

Quando as ideias de Dreyfus foram introduzidas pela primeira vez em meados da década de 1960, foram recebidas com ridículo e hostilidade aberta. Na década de 1980, entretanto, muitas de suas perspectivas foram redescobertas por pesquisadores que trabalhavam em robótica e no novo campo do conexionismo - abordagens agora chamadas de " sub-simbólicas " porque evitam a ênfase das primeiras pesquisas sobre IA em símbolos de alto nível. No século 21, as abordagens baseadas em estatísticas para o aprendizado de máquina simulam a maneira como o cérebro usa o processo inconsciente para perceber, notar anomalias e fazer julgamentos rápidos. Essas técnicas são muito bem-sucedidas e, atualmente, são amplamente utilizadas na indústria e na academia. O historiador e pesquisador de IA Daniel Crevier escreve: "o tempo provou a precisão e a percepção de alguns dos comentários de Dreyfus." Dreyfus disse em 2007: "Acho que venci e acabou - eles desistiram."

Crítica de Dreyfus

As promessas grandiosas de inteligência artificial

Em Alchemy and AI (1965) e What Computers Can't Do (1972) , Dreyfus resumiu a história da inteligência artificial e ridicularizou o otimismo desenfreado que permeou o campo. Por exemplo, Herbert A. Simon , após o sucesso de seu programa General Problem Solver (1957) , previu que em 1967:

  1. Um computador seria campeão mundial de xadrez.
  2. Um computador descobriria e provaria um novo teorema matemático importante.
  3. A maioria das teorias em psicologia assumirá a forma de programas de computador.

A imprensa divulgou essas previsões em relatos entusiasmados sobre a chegada iminente da inteligência da máquina.

Dreyfus sentiu que esse otimismo era totalmente injustificado. Ele acreditava que eram baseados em falsas suposições sobre a natureza da inteligência humana. Pamela McCorduck explica a posição de Dreyfus:

[Um] grande mal-entendido é responsável pela confusão pública sobre as máquinas pensantes, um mal-entendido perpetrado pelas afirmações irrealistas que os pesquisadores em IA têm feito, afirmações de que as máquinas pensantes já estão aqui, ou pelo menos, ao virar da esquina.

Essas previsões foram baseadas no sucesso de um modelo de "processamento de informações" da mente, articulado por Newell e Simon em sua hipótese de sistemas de símbolos físicos , e posteriormente expandido para uma posição filosófica conhecida como computacionalismo por filósofos como Jerry Fodor e Hilary Putnam . Acreditando que eles haviam simulado com sucesso o processo essencial do pensamento humano com programas simples, parecia um passo curto para produzir máquinas totalmente inteligentes. No entanto, Dreyfus argumentou que a filosofia, especialmente a filosofia do século 20 , havia descoberto sérios problemas com esse ponto de vista de processamento de informações. A mente, de acordo com a filosofia moderna, não é nada como um computador digital.

As quatro suposições de Dreyfus sobre a pesquisa de inteligência artificial

Em Alquimia e IA e O que os computadores não podem fazer , Dreyfus identificou quatro suposições filosóficas que sustentavam a fé dos primeiros pesquisadores da IA ​​de que a inteligência humana dependia da manipulação de símbolos. "Em cada caso", escreve Dreyfus, "o pressuposto é tomado pelos trabalhadores [da IA] como um axioma, garantindo resultados, ao passo que é, na verdade, uma hipótese entre outras, a ser testada pelo sucesso de tal trabalho."

A suposição biológica
O cérebro processa informações em operações discretas por meio de algum equivalente biológico de interruptores liga / desliga.

Nos primeiros dias da pesquisa em neurologia , os cientistas perceberam que os neurônios disparam em pulsos de tudo ou nada. Vários pesquisadores, como Walter Pitts e Warren McCulloch , argumentaram que os neurônios funcionavam de maneira semelhante à maneira como as portas lógicas booleanas operam e, portanto, podiam ser imitados por circuitos eletrônicos no nível do neurônio. Quando os computadores digitais se tornaram amplamente usados ​​no início dos anos 50, esse argumento foi estendido para sugerir que o cérebro era um vasto sistema de símbolos físicos , manipulando os símbolos binários de zero e um. Dreyfus foi capaz de refutar a suposição biológica citando pesquisas em neurologia que sugeriam que a ação e o tempo de disparo dos neurônios tinham componentes analógicos. Mas Daniel Crevier observa que "poucos ainda mantinham essa crença no início dos anos 1970, e ninguém argumentou contra Dreyfus" sobre a suposição biológica.

A suposição psicológica
A mente pode ser vista como um dispositivo operando em bits de informação de acordo com regras formais.

Ele refutou essa suposição mostrando que muito do que "sabemos" sobre o mundo consiste em atitudes ou tendências complexas que nos fazem inclinar para uma interpretação em detrimento de outra. Ele argumentou que, mesmo quando usamos símbolos explícitos, os estamos usando contra um pano de fundo inconsciente de conhecimento de senso comum e que, sem esse pano de fundo, nossos símbolos deixam de significar qualquer coisa. Esse pano de fundo, na visão de Dreyfus, não foi implementado em cérebros individuais como símbolos individuais explícitos com significados individuais explícitos.

O pressuposto epistemológico
Todo conhecimento pode ser formalizado.

Isso diz respeito à questão filosófica da epistemologia , ou ao estudo do conhecimento . Mesmo se concordarmos que a suposição psicológica é falsa, os pesquisadores de IA ainda podem argumentar (como fez o fundador da IA, John McCarthy ) que é possível para uma máquina de processamento de símbolos representar todo o conhecimento, independentemente de os seres humanos representarem o conhecimento da mesma forma. Dreyfus argumentou que não há justificativa para essa suposição, uma vez que muito do conhecimento humano não é simbólico.

O pressuposto ontológico
O mundo consiste em fatos independentes que podem ser representados por símbolos independentes

Dreyfus também identificou uma suposição mais sutil sobre o mundo. Pesquisadores de IA (e futuristas e escritores de ficção científica) freqüentemente assumem que não há limite para o conhecimento científico formal, porque eles assumem que qualquer fenômeno no universo pode ser descrito por símbolos ou teorias científicas. Isso pressupõe que tudo o que existe pode ser entendido como objetos, propriedades de objetos, classes de objetos, relações de objetos e assim por diante: precisamente aquelas coisas que podem ser descritas pela lógica, linguagem e matemática. O estudo do ser ou existência é chamado de ontologia , e Dreyfus chama isso de pressuposto ontológico. Se isso for falso, então levantará dúvidas sobre o que podemos finalmente saber e o que as máquinas inteligentes serão capazes de nos ajudar a fazer.

Saber-fazer versus saber-aquilo: a primazia da intuição

Em Mind Over Machine (1986) , escrito durante o apogeu dos sistemas especialistas , Dreyfus analisou a diferença entre a expertise humana e os programas que afirmavam capturá-la. Isso expandiu as idéias de O que os computadores não podem fazer , onde ele fez um argumento semelhante criticando a escola de " simulação cognitiva " da pesquisa em IA praticada por Allen Newell e Herbert A. Simon nos anos 1960.

Dreyfus argumentou que a solução de problemas humanos e perícia dependem de nosso senso de fundo do contexto, do que é importante e interessante dada a situação, ao invés do processo de busca por combinações de possibilidades para encontrar o que precisamos. Dreyfus o descreveria em 1986 como a diferença entre "saber que" e "saber como", com base na distinção de Heidegger de presente à mão e pronto à mão .

Saber isso é nossa capacidade de resolução de problemas passo a passo consciente. Usamos essas habilidades quando encontramos um problema difícil que exige que paremos, recuemos e busquemos ideias uma de cada vez. Em momentos como este, as ideias tornam-se muito precisas e simples: tornam-se símbolos livres de contexto, que manipulamos usando lógica e linguagem. Essas são as habilidades que Newell e Simon demonstraram com experimentos psicológicos e programas de computador. Dreyfus concordou que seus programas imitavam adequadamente as habilidades que ele chama de "saber disso".

Saber-fazer, por outro lado, é a maneira como lidamos normalmente com as coisas. Agimos sem usar o raciocínio simbólico consciente, como quando reconhecemos um rosto, nos dirigimos ao trabalho ou encontramos a coisa certa a dizer. Parece que simplesmente pulamos para a resposta apropriada, sem considerar nenhuma alternativa. Essa é a essência da perícia, argumentou Dreyfus: quando nossas intuições foram treinadas a ponto de esquecermos as regras e simplesmente "avaliarmos a situação" e reagirmos.

O senso humano da situação, de acordo com Dreyfus, é baseado em nossos objetivos, nossos corpos e nossa cultura - todas as nossas intuições inconscientes, atitudes e conhecimento sobre o mundo. Este “contexto” ou "fundo" (relacionada com Heidegger de Dasein ) é uma forma de conhecimento que não é armazenada em nossos cérebros simbolicamente, mas intuitivamente, de alguma forma. Afeta o que percebemos e o que não percebemos, o que esperamos e as possibilidades que não consideramos: discriminamos entre o que é essencial e o que não é essencial. As coisas que não são essenciais são relegadas à nossa "consciência periférica" ​​(pegando emprestada uma frase de William James ): as milhões de coisas das quais temos consciência, mas não estamos realmente pensando nisso agora.

Dreyfus não acredita que os programas de IA, como foram implementados nas décadas de 70 e 80, pudessem capturar esse "pano de fundo" ou fazer o tipo de resolução rápida de problemas que isso permite. Ele argumentou que nosso conhecimento inconsciente nunca poderia ser capturado simbolicamente. Se a IA não conseguisse encontrar uma maneira de resolver esses problemas, então estava fadada ao fracasso, um exercício de "subir em árvores com os olhos na lua".

História

Dreyfus começou a formular sua crítica no início dos anos 1960, quando era professor no MIT , então um foco de pesquisas em inteligência artificial. Sua primeira publicação sobre o assunto é uma objeção de meia página a uma palestra proferida por Herbert A. Simon na primavera de 1961. Dreyfus ficou especialmente incomodado, como filósofo, que os pesquisadores de IA pareciam acreditar que estavam prestes a resolver muitos problemas filosóficos de longa data dentro de alguns anos, usando computadores.

Alquimia e Inteligência Artificial

Em 1965, Dreyfus foi contratado (com a ajuda de seu irmão Stuart Dreyfus ) por Paul Armer para passar o verão nas instalações da RAND Corporation em Santa Monica, onde escreveria Alchemy and Artificial Intelligence, a primeira salva de seu ataque. Armer pensara que estava contratando um crítico imparcial e ficou surpreso quando Dreyfus produziu um artigo contundente com o objetivo de demolir os alicerces do campo. (Armer afirmou que não sabia da publicação anterior de Dreyfus.) Armer atrasou sua publicação, mas finalmente percebeu que "só porque chegou a uma conclusão da qual você não gostou, não havia razão para não publicá-la". Finalmente saiu como RAND Memo e logo se tornou um best-seller.

O jornal ridicularizou categoricamente a pesquisa de IA, comparando-a à alquimia : uma tentativa equivocada de transformar metais em ouro com base em uma base teórica que não era mais do que mitologia e ilusão. Ele ridicularizou as previsões grandiosas dos principais pesquisadores de IA, prevendo que havia limites além dos quais a IA não progrediria e insinuando que esses limites seriam alcançados em breve.

Reação

O jornal "causou alvoroço", segundo Pamela McCorduck. A resposta da comunidade de IA foi irrisória e pessoal. Seymour Papert descartou um terço do jornal como "fofoca" e afirmou que cada citação foi deliberadamente tirada do contexto. Herbert A. Simon acusou Dreyfus de fazer "política" para que pudesse anexar o prestigioso nome RAND às suas idéias. Simon disse, "o que eu me ressinto sobre isso é o nome RAND anexado àquele lixo".

Dreyfus, que lecionava no MIT , lembra que seus colegas de IA "não ousavam ser vistos almoçando comigo". Joseph Weizenbaum , o autor de ELIZA , sentiu que o tratamento que seus colegas deram a Dreyfus não foi profissional e infantil. Embora fosse um crítico franco das posições de Dreyfus, ele relembra "Eu me tornei o único membro da comunidade de IA a ser visto almoçando com Dreyfus. E deliberadamente deixei claro que não era assim que se tratava um ser humano".

O jornal foi tema de um curta na revista The New Yorker em 11 de junho de 1966. A matéria mencionava a afirmação de Dreyfus de que, embora os computadores possam jogar damas, nenhum computador ainda pode jogar uma partida decente de xadrez. Reportava com humor irônico (como fizera Dreyfus) sobre a vitória de um menino de dez anos sobre o programa de xadrez mais importante, com "ainda mais presunção do que de costume".

Na esperança de restaurar a reputação da AI, Seymour Papert organizou uma partida de xadrez entre Dreyfus e Richard Greenblatt 's Mac Corte programa. Dreyfus perdeu, para grande satisfação de Papert. Um boletim da Association for Computing Machinery usou o título:

"Uma criança de dez anos pode vencer a máquina - Dreyfus: mas a máquina pode vencer Dreyfus "

Dreyfus reclamou na mídia impressa que não havia dito que um computador nunca jogará xadrez, ao que Herbert A. Simon respondeu: "Você deve reconhecer que alguns daqueles que são mordidos por sua prosa de dentes afiados são provavelmente, em sua fraqueza humana, para morder de volta ... posso ter a ousadia de sugerir que você bem poderia começar a esfriar --- uma recuperação do seu senso de humor sendo um bom primeiro passo. "

Vindicado

No início da década de 1990, várias das opiniões radicais de Dreyfus haviam se tornado a tendência.

Previsões falhadas . Como Dreyfus previra, as previsões grandiosas dos primeiros pesquisadores de IA não se concretizaram. Máquinas totalmente inteligentes (agora conhecidas como " IA forte ") não apareceram em meados da década de 1970 como previsto. O HAL 9000 (cujas capacidades de linguagem natural, percepção e solução de problemas foram baseadas nos conselhos e opiniões de Marvin Minsky ) não apareceu no ano de 2001. "Pesquisadores de IA", escreve Nicolas Fearn, "claramente têm algumas explicações a dar." Hoje, os pesquisadores estão muito mais relutantes em fazer o tipo de previsões que eram feitas no início. (Embora alguns futuristas, como Ray Kurzweil , ainda tenham o mesmo tipo de otimismo.)

A suposição biológica , embora comum nos anos quarenta e cinquenta e poucos anos, já não era assumido pela maioria dos pesquisadores de IA pelo tempo Dreyfus publicou que os computadores não pode fazer . Embora muitos ainda argumentem que é essencial fazer a engenharia reversa do cérebro simulando a ação dos neurônios (como Ray Kurzweil ou Jeff Hawkins ), eles não presumem que os neurônios são essencialmente digitais, mas sim que a ação dos neurônios analógicos pode ser simulado por máquinas digitais com um nível razoável de precisão. ( Alan Turing fez esta mesma observação já em 1950.)

A suposição psicológica e habilidades inconscientes . Muitos pesquisadores de IA concordaram que o raciocínio humano não consiste principalmente na manipulação de símbolos de alto nível. Na verdade, desde que Dreyfus publicou suas críticas nos anos 60, a pesquisa em IA em geral se afastou da manipulação de símbolos de alto nível ou " GOFAI ", em direção a novos modelos que pretendem capturar mais de nosso raciocínio inconsciente . Daniel Crevier escreve que em 1993, ao contrário de 1965, os pesquisadores de IA "não fizeram mais a suposição psicológica" e continuaram em frente sem ela.

Na década de 1980, essas novas abordagens " sub-simbólicas " incluíam:

  • Paradigmas de inteligência computacional , como redes neurais , algoritmos evolutivos e assim por diante, são principalmente direcionados ao raciocínio inconsciente simulado. O próprio Dreyfus concorda que esses métodos sub-simbólicos podem capturar o tipo de "tendências" e "atitudes" que ele considera essenciais para a inteligência e a perícia.
  • A pesquisa em conhecimento de senso comum tem se concentrado em reproduzir o "pano de fundo" ou contexto do conhecimento.
  • Pesquisadores de robótica como Hans Moravec e Rodney Brooks foram os primeiros a perceber que habilidades inconscientes provariam ser as mais difíceis de realizar a engenharia reversa. (Veja o paradoxo de Moravec .) Brooks liderou um movimento no final dos anos 80 que visava diretamente o uso de símbolos de alto nível, chamados Nouvelle AI . O movimento situado na pesquisa robótica tenta capturar nossas habilidades inconscientes de percepção e atenção.

Na década de 1990 e nas primeiras décadas do século 21, as abordagens baseadas em estatísticas para o aprendizado de máquina usaram técnicas relacionadas à economia e às estatísticas para permitir que as máquinas "adivinhassem" - tomassem decisões e previsões probabilísticas inexatas com base na experiência e no aprendizado. Esses programas simulam a maneira como nossos instintos inconscientes são capazes de perceber, notar anomalias e fazer julgamentos rápidos, semelhantes ao que Dreyfus chamou de "avaliar a situação e reagir", mas aqui a "situação" consiste em uma grande quantidade de dados numéricos. Essas técnicas são muito bem-sucedidas e, atualmente, são amplamente utilizadas na indústria e na academia.

Esta pesquisa avançou sem qualquer conexão direta com o trabalho de Dreyfus.

Saber fazer e saber isso . A pesquisa em psicologia e economia foi capaz de mostrar que a especulação de Dreyfus (e de Heidegger) sobre a natureza da solução de problemas humanos estava essencialmente correta. Daniel Kahnemann e Amos Tversky coletaram uma vasta quantidade de evidências concretas de que os seres humanos usam dois métodos muito diferentes para resolver problemas, que eles chamaram de "sistema 1" e "sistema 2". O sistema um, também conhecido como inconsciente adaptativo , é rápido, intuitivo e inconsciente. O Sistema 2 é lento, lógico e deliberado. Sua pesquisa foi coletada no livro Thinking, Fast and Slow , e inspirou o popular livro de Malcolm Gladwell , Blink . Assim como a IA, essa pesquisa foi totalmente independente de Dreyfus e Heidegger.

Ignorado

Embora a pesquisa de IA claramente tenha concordado com Dreyfus, McCorduck afirmou que "minha impressão é que este progresso ocorreu aos poucos e em resposta a problemas difíceis, e não deve nada a Dreyfus."

A comunidade de IA, com algumas exceções, optou por não responder diretamente a Dreyfus. "Ele é muito bobo para ser levado a sério", disse um pesquisador a Pamela McCorduck. Marvin Minsky disse de Dreyfus (e de outras críticas vindas da filosofia ) que "eles entendem mal e devem ser ignorados". Quando Dreyfus expandiu Alchemy and AI para o tamanho de um livro e o publicou como What Computers Can't Do em 1972, ninguém da comunidade AI decidiu responder (com exceção de algumas análises críticas). McCorduck pergunta "Se Dreyfus é tão equivocado, por que o pessoal da inteligência artificial não fez mais esforço para contradizê-lo?"

Parte do problema era o tipo de filosofia que Dreyfus usou em sua crítica. Dreyfus era um especialista em filósofos europeus modernos (como Heidegger e Merleau-Ponty ). Os pesquisadores de IA dos anos 1960, por outro lado, baseavam sua compreensão da mente humana em princípios de engenharia e técnicas eficientes de resolução de problemas relacionados à ciência da administração . Em um nível fundamental, eles falavam uma língua diferente. Edward Feigenbaum reclamou: "O que ele nos oferece? Fenomenologia ! Essa bola de penugem. Esse algodão doce!" Em 1965, havia uma lacuna muito grande entre a filosofia européia e a inteligência artificial , lacuna que desde então foi preenchida pela ciência cognitiva , pelo conexionismo e pela pesquisa em robótica . Levaria muitos anos antes de pesquisadores da inteligência artificial foram capazes de resolver as questões que eram importantes para a filosofia continental, como a contextualização , personificação , percepção e gestalt .

Outro problema foi que ele alegou (ou parecia alegar) que a IA nunca seria capaz de capturar a habilidade humana de entender o contexto, a situação ou o propósito na forma de regras. Mas (como Peter Norvig e Stuart Russell explicariam mais tarde), um argumento dessa forma não pode ser vencido: só porque não se pode imaginar regras formais que governam a inteligência e a perícia humanas, isso não significa que essas regras não existam. Eles citam a resposta de Alan Turing a todos os argumentos semelhantes aos de Dreyfus:

"não podemos nos convencer tão facilmente da ausência de leis completas de comportamento ... A única maneira que conhecemos para encontrar tais leis é a observação científica, e certamente não conhecemos nenhuma circunstância em que poderíamos dizer: 'Já pesquisamos o suficiente . Não existem tais leis. '"

Dreyfus não previu que os pesquisadores de IA perceberiam seu erro e começassem a trabalhar em busca de novas soluções, afastando-se dos métodos simbólicos que Dreyfus criticou. Em 1965, ele não imaginava que tais programas um dia seriam criados, então afirmou que a IA era impossível. Em 1965, os pesquisadores de IA não imaginavam que tais programas fossem necessários, então alegaram que a IA estava quase completa. Ambos estavam errados.

Uma questão mais séria era a impressão de que a crítica de Dreyfus era incorrigivelmente hostil. McCorduck escreveu: "Seu escárnio foi tão provocador que afastou qualquer pessoa que pudesse ter esclarecido. E isso é uma pena". Daniel Crevier afirmou que "o tempo provou a precisão e percepção de alguns dos comentários de Dreyfus. Se ele os tivesse formulado de forma menos agressiva, as ações construtivas que eles sugeriram poderiam ter sido tomadas muito antes".

Veja também

Notas

Referências