O maior perigo talvez não seja a máquina tornar-se humana, mas o ser humano aceitar compreender-se como uma máquina
Entre os muitos problemas suscitados pelo desenvolvimento da inteligência artificial, há um que antecede todos os outros. Antes de perguntarmos o que as máquinas serão capazes de fazer, deveríamos perguntar o que continuamos a entender por ser humano.
É esta interrogação que atravessa o ensaio de Samuel Korb, «Know Thyself: Augustine for the Present Age», publicado na Church Life Journal. O autor regressa a Santo Agostinho, particularmente ao De Trinitate, para procurar uma compreensão da inteligência que não se reduza à capacidade de calcular, ordenar dados, produzir textos ou resolver problemas.
A questão é decisiva porque a inteligência artificial parece obrigar-nos a definir a inteligência humana por comparação com aquilo que a máquina consegue realizar. Quanto mais impressionantes são os resultados produzidos pelos sistemas artificiais, maior é a tentação de concluir que pensar consiste essencialmente em processar informação. O cérebro seria uma máquina biológica; a consciência, um efeito particularmente complexo desse mecanismo; a pessoa, uma organização provisória de dados, impulsos e memórias.
Mas será realmente assim?
Santo Agostinho convida-nos a procurar a inteligência num lugar diferente. Não apenas nos seus produtos, mas na presença do sujeito a si próprio. O ser humano não se limita a conhecer coisas: sabe que conhece. Não se limita a duvidar: sabe que está a duvidar. Não se limita a desejar: reconhece-se como aquele que deseja. Existe nele uma interioridade que acompanha os seus atos e que não pode ser reduzida aos objetos conhecidos nem aos resultados produzidos.
Quando o espírito procura conhecer-se, já está presente a si mesmo. A própria procura pressupõe aquele que procura. Mesmo quando duvida de si, o sujeito não pode duvidar de que é ele quem duvida. Muito antes de Descartes, Agostinho encontrara na consciência de viver, recordar, compreender, querer e julgar uma certeza que nenhuma dúvida poderia eliminar.
A inteligência humana não é, portanto, apenas uma função. É manifestação de um ser pessoal.
Uma máquina pode produzir uma resposta correta, mas não sabe que respondeu. Pode organizar milhões de informações, mas não possui consciência da verdade. Pode reproduzir a linguagem do amor, do sofrimento ou da esperança, mas não ama, não sofre nem espera. Pode construir uma frase sobre Deus, mas não pode procurar Deus. Pode descrever o arrependimento, mas não pode reconhecer uma culpa, pedir perdão ou recomeçar moralmente.
A diferença não é apenas quantitativa. Não reside no número de operações realizadas por segundo, na extensão da memória ou na qualidade aparente do resultado. É uma diferença ontológica: uma diferença relativa ao próprio modo de ser.
A inteligência artificial é exteriormente constituída. Recebe de outros a sua programação, os dados com que é treinada, as perguntas a que responde e os critérios segundo os quais é avaliada. Não possui uma fonte interior de existência consciente. Não está presente a si própria, porque não existe como um «si próprio».
O ser humano, pelo contrário, é sujeito. Não apenas executa atos: é responsável por eles. Não apenas produz consequências: pode reconhecer nelas o bem ou o mal. Não apenas existe: interroga-se acerca do sentido da sua existência.
É precisamente aqui que começa o verdadeiro perigo.
Talvez a maior ameaça da inteligência artificial não seja a possibilidade de a máquina se tornar humana. Talvez seja a possibilidade de o ser humano começar a compreender-se à imagem da máquina.
Quando atribuímos às máquinas qualidades pessoais — dizendo que pensam, compreendem, decidem ou criam — e, simultaneamente, descrevemos a pessoa como um mecanismo informacional, produzimos uma estranha inversão. Elevamos ontologicamente o artefacto e diminuímos ontologicamente o seu criador. Humanizamos a máquina enquanto mecanizamos o homem.
Esta inversão constitui uma nova forma de desvalorização ontológica do humano.
O ser humano deixa de valer por aquilo que é e passa a valer sobretudo pelo que consegue produzir. A sua inteligência mede-se pela rapidez; o conhecimento, pela quantidade de informação acumulada; a ação, pela eficiência; a vida, pela utilidade. Tudo o que não pode ser contado ou reproduzido — a contemplação, a compaixão, a fidelidade, o sacrifício, o perdão, a consciência moral — corre o risco de ser considerado secundário ou improdutivo.
A pessoa começa então a competir com a máquina num terreno que foi definido pela própria máquina.
É uma competição perdida à partida. Nenhum ser humano calculará tão rapidamente, armazenará tanta informação ou reproduzirá tantas combinações linguísticas. Mas isso não demonstra a inferioridade humana. Demonstra apenas que a inteligência humana foi definida de maneira empobrecida.
Um navio atravessa o oceano mais depressa do que um nadador, mas não é, por isso, um nadador superior. Uma grua levanta mais peso do que um homem, mas não possui força moral. Uma máquina calcula mais rapidamente, mas não se torna, por essa razão, sujeito consciente, livre e responsável.
Em Santo Agostinho, o conhecimento de si não é um exercício narcisista. Conhecer-se significa também reconhecer a ordem do próprio ser. A mente descobre-se como realidade capaz de verdade, de amor e de transcendência. Descobre-se como imagem de Deus, não porque seja divina, mas porque pode conhecer e amar Aquele que a criou.
A dignidade humana não depende, assim, do desempenho. Não aumenta com a inteligência, nem diminui com a fragilidade. Não desaparece na doença, na deficiência, na velhice ou na perda de autonomia. Se dependesse da capacidade de produzir resultados, qualquer máquina mais eficiente poderia reclamar uma dignidade superior à pessoa. E entre os próprios seres humanos seriam os mais úteis, autónomos ou cognitivamente capazes que adquiririam maior valor.
É precisamente contra esta lógica que importa afirmar a diferença entre valor e utilidade. Uma pessoa não é digna porque é eficiente; é digna porque é pessoa.
A reflexão agostiniana contém, contudo, uma advertência adicional. Embora a imagem de Deus pertença ontologicamente ao ser humano, pode ser obscurecida. A pessoa pode esquecer aquilo que é. Pode confundir-se com os objetos que fabrica, submeter-se aos instrumentos que deveria governar e procurar no exterior aquilo que apenas a interioridade pode revelar.
A inteligência humana não pode ser roubada como se fosse um objeto, mas pode ser soterrada. Pode deixar de ser exercida. Pode entregar a outros — às máquinas, às ideologias, às multidões ou ao poder — a tarefa de pensar, discernir e julgar.
É neste ponto que a questão tecnológica se transforma numa questão ética. O problema não está apenas naquilo que a inteligência artificial faz, mas naquilo que nós deixamos de fazer quando renunciamos à responsabilidade de pensar. Uma sociedade que entrega o juízo às máquinas corre o risco de conservar a informação e perder a sabedoria; de multiplicar respostas e esquecer as perguntas; de aumentar o poder e diminuir a responsabilidade.
A antiga inscrição de Delfos — «Conhece-te a ti mesmo» — adquire, por isso, uma inesperada atualidade. Conhecer-se, na era da inteligência artificial, significa resistir à tentação de nos definirmos pelos critérios da máquina. Significa recordar que a inteligência não é apenas produção, mas consciência; não apenas cálculo, mas juízo; não apenas linguagem, mas palavra responsável; não apenas poder, mas abertura à verdade e ao bem.
A pergunta decisiva não é se a máquina conseguirá imitar perfeitamente o ser humano. É se o ser humano continuará a reconhecer em si aquilo que nenhuma máquina pode possuir.
Antes de temermos que a inteligência artificial adquira uma humanidade que não tem, talvez devamos recear que o homem abdique da humanidade que lhe pertence.
Francisco Vaz
19 de setembro de 26