Por que a filosofia é crucial na era da inteligência artificial

Londres:

A nova compreensão científica e as novas técnicas de engenharia sempre impressionaram e assustaram. Não há dúvida de que continuarão a fazê-lo. OpenAI anunciou recentemente que antecipa “superinteligência” – A IA superando as capacidades humanas – nesta década. É correspondentemente construindo uma nova equipee dedicar 20% dos seus recursos informáticos para garantir que o comportamento de tais sistemas de IA estará alinhado com os valores humanos.

Parece que eles não querem superinteligências artificiais desonestas travando guerra contra a humanidade, como no thriller de ficção científica de James Cameron de 1984, O Exterminador do Futuro (sinistramente, o exterminador de Arnold Schwarzenegger é enviado de volta no tempo a partir de 2029). A OpenAI está convocando os melhores pesquisadores e engenheiros de aprendizado de máquina para ajudá-los a resolver o problema.

Mas poderão os filósofos ter algo a contribuir? De um modo mais geral, o que se pode esperar da disciplina milenar na nova era tecnologicamente avançada que está agora a emergir?

Para começar a responder a isso, vale ressaltar que a filosofia tem sido fundamental para a IA desde o seu início. Uma das primeiras histórias de sucesso de IA foi em 1956 programa de computadorapelidado de Teórico da Lógica, criado por Allen Newell e Herbert Simon. Seu trabalho era provar teoremas usando proposições do Principia Mathematica, uma obra de 1910 em três volumes dos filósofos Alfred North Whitehead e Bertrand Russell, com o objetivo de reconstruir toda a matemática sobre uma base lógica.

Na verdade, o foco inicial na lógica em IA devia muito aos debates fundamentais perseguidos por matemáticos e filósofos.

Um passo significativo foi o desenvolvimento da lógica moderna pelo filósofo alemão Gottlob Frege no final do século XIX. Frege introduziu o uso de variáveis ​​quantificáveis ​​– em vez de objetos como pessoas – na lógica. A sua abordagem tornou possível dizer não só, por exemplo, “Joe Biden é presidente”, mas também expressar sistematicamente pensamentos gerais como “existe um X tal que X é presidente”, onde “existe” é um quantificador, e “X” é uma variável.

Outros contribuidores importantes na década de 1930 foram o lógico austríaco Kurt Gödel, cujos teoremas de completude e incompletude tratam dos limites do que se pode provar, e a “prova da indefinibilidade da verdade” do lógico polaco Alfred Tarski. Este último mostrou que a “verdade” em qualquer sistema formal padrão não pode ser definida dentro desse sistema particular, de modo que a verdade aritmética, por exemplo, não pode ser definida dentro do sistema da aritmética.

Finalmente, a noção abstrata de uma máquina de computação de 1936, do pioneiro britânico Alan Turing, baseou-se nesse desenvolvimento e teve um enorme impacto nos primeiros anos da IA.

Pode-se dizer, entretanto, que mesmo que tal bom e velho a IA simbólica estava em dívida com a filosofia e a lógica de alto nível, a IA da “segunda onda”baseado na aprendizagem profunda, deriva mais do feitos de engenharia de concreto associados ao processamento de grandes quantidades de dados.

Ainda assim, a filosofia também desempenhou um papel aqui. Considere modelos de linguagem grandes, como aquele que alimenta o ChatGPT, que produz texto conversacional. São modelos enormes, com bilhões ou até trilhões de parâmetros, treinados em vastos conjuntos de dados (normalmente compreendendo grande parte da Internet). Mas, no fundo, eles rastreiam – e exploram – padrões estatísticos de uso da linguagem. Algo muito parecido com essa ideia foi articulado pelo filósofo austríaco Ludwig Wittgenstein em meados do século XX: “o significado de uma palavra”, disse ele, “é o seu uso na língua”.

Mas a filosofia contemporânea, e não apenas a sua história, é relevante para a IA e o seu desenvolvimento. Um LLM poderia realmente entender a linguagem que processa? Poderia alcançar a consciência? Estas são questões profundamente filosóficas.

Até agora, a ciência não conseguiu explicar completamente como a consciência surge das células do cérebro humano. Alguns filósofos até acreditam que este é um “problema tão difícil” que é além do escopo da ciênciae pode exigir uma mão amiga da filosofia.

Na mesma linha, podemos perguntar se uma IA geradora de imagens poderia ser verdadeiramente criativa. Margaret Boden, uma cientista cognitiva britânica e filósofa da IA, argumenta que embora a IA seja capaz de produzir novas ideias, será difícil avaliá-los como fazem as pessoas criativas.

Ela também antecipa que apenas uma arquitetura híbrida (neural-simbólica) – aquela que usa tanto as técnicas lógicas quanto aprendizagem profunda a partir de dados – alcançará inteligência artificial geral.

Valores HUMANOS

Voltando ao anúncio da OpenAI, quando questionado sobre o papel da filosofia na era da IA, ChatGPT sugeriu-nos que (entre outras coisas) “ajuda a garantir que o desenvolvimento e a utilização da IA ​​estão alinhados com os valores humanos”.

Neste espírito, talvez possamos propor que, se o alinhamento da IA ​​é o problema sério que a OpenAI acredita ser, não é apenas um problema técnico a ser resolvido por engenheiros ou empresas de tecnologia, mas também um problema social. Isso exigirá o contributo de filósofos, mas também de cientistas sociais, advogados, decisores políticos, cidadãos utilizadores e outros.

Na verdade, muitas pessoas estão preocupadas com a crescente poder e influência das empresas de tecnologia e seu impacto na democracia. Alguns argumentam que precisamos de uma forma totalmente nova de pensar sobre a IA – tendo em conta os sistemas subjacentes que apoiam a indústria. O advogado e escritor britânico Jamie Susskind, por exemplo, argumentou que é hora de construir um “república digital”- um que, em última análise, rejeita o próprio sistema político e económico que deu tanta influência às empresas de tecnologia.

Finalmente, perguntemos brevemente: como a IA afetará a filosofia? A lógica formal na filosofia, na verdade, data do trabalho de Aristóteles na antiguidade. No século XVII. o filósofo alemão Gottfried Leibniz sugeriu que um dia poderemos ter um “Calculadora” – uma máquina de calcular que nos ajudaria a obter respostas a questões filosóficas e científicas de uma forma quase oracular.

Talvez estejamos agora a começar a concretizar essa visão, com alguns autores a defenderem uma “filosofia computacional” que literalmente codifica suposições e delas deriva consequências. Em última análise, isto permite avaliações factuais e/ou orientadas para o valor dos resultados.

Por exemplo, o projeto PolyGraphs simula os efeitos do compartilhamento de informações nas redes sociais. Isso pode então ser usado para resolver computacionalmente questões sobre como devemos formar nossas opiniões.

Certamente, o progresso na IA deu aos filósofos muito em que pensar; pode até ter começado a fornecer algumas respostas.

(Autor:Anthony GraylingProfessor de Filosofia, Universidade do Nordeste de Londres e Brian BolaProfessor Associado de Filosofia, IA e Ética da Informação, Universidade do Nordeste de Londres)

(Declaração de divulgação:Brian Ball recebe financiamento da Academia Britânica e já foi apoiado pela Royal Society, pela Royal Academy of Engineering e pelo Leverhulme Trust. Anthony Grayling não trabalha, presta consultoria, possui ações ou recebe financiamento de qualquer empresa ou organização que se beneficiaria com este artigo e não revelou nenhuma afiliação relevante além de sua nomeação acadêmica)

Este artigo foi republicado de A conversa sob uma licença Creative Commons. Leia o artigo original.