Inteligência artificial: “Precisamos mesmo de esperar por um desastre?”

Luciano Floridi, filósofo, defende que é urgente pensar nos limites a estabelecer num mundo de máquinas cada vez mais inteligentes. E que não nos podemos distrair com cenários irrealistas.

Luciano Floridi Rui Gaudêncio

Trabalhar menos e ter uma vida mais fácil é um desejo universal. Na sociedade descrita por Thomas More, as pessoas podiam escolher carreiras de acordo com os seus interesses (um conceito relativamente novo para a época), todos tinham de trabalhar (incluindo na agricultura) e as jornadas de trabalho eram reduzidas. É uma tendência histórica atribuir a outros os trabalhos que não queremos fazer: a animais (como cavalos), a escravos (que também existem na Utopia de More) e, mais recentemente, a máquinas, que se estão a tornar cada vez mais inteligentes e são capazes de fazer tarefas que antes eram exclusivamente humanas.

O filósofo italiano Luciano Floridi, professor em Oxford e investigador na área da filosofia da informação, argumenta que é possível levar a tecnologia muito longe e criar máquinas autónomas capazes de executar todo o tipo de trabalhos. A tecnologia permite até que sejam as máquinas a decidir quando disparar sobre alguém ou lançar uma bomba. A questão, diz, é que devemos parar muito antes de chegarmos a esse ponto. Mesmo nos casos das máquinas que fazem apenas tarefas relativamente simples, como registar compras de supermercado, o filósofo antecipa problemas: uma maior polarização da riqueza e pessoas que não conseguem encontrar trabalho.

Floridi faz questão de distinguir entre máquinas eficientes - a jogar xadrez, a pilotar um avião - e a ideia de computadores com uma inteligência semelhante à do cérebro humano. É um crítico feroz da singularidade, um cenário que tem vindo a acumular entusiastas e no qual chegaremos a um momento em que um computador terá uma inteligência superior à humana e será capaz de aperfeiçoar sozinho essa tecnologia, gerando máquinas cada vez mais inteligentes. Para o filósofo, esta ideia é uma distracção face aos verdadeiros problemas que as máquinas inteligentes levantam. Conversou com o PÚBLICO  à margem da conferência The unknown, 100 years from now, no edifício de aspecto futurista da Fundação Champalimaud, em Lisboa.

Dos filmes de ficção científica até à Siri, a assistente pessoal que vem com o iPhone, porque é que temos este fascínio por inteligência artificial semelhante à inteligência humana?
Essa fixação é muito antiga. A primeira descrição que conheço está na Ilíada, quando Homero descreve uns robôs. Os humanos têm alguma paixão por entidades artificiais. É uma mistura de razões. Por um lado, é uma questão de criatividade. Criamos tudo o que nos rodeia: edifícios, a cadeira em que estou sentado, a mesa. Queremos criar mais. E há o medo e a questão da incerteza. Ainda somos animais e temos medo. Estamos preocupados com a possibilidade de a nossa criatividade, que nos leva a criar máquinas cada vez mais inteligentes e poderosas, ter um efeito boomerang que nos prejudique. É o fascínio com algo que é audaz, perigoso e ao mesmo tempo intrigante.

Há também uma motivação fundamental: o factor económico. Queremos delegar em máquinas aquilo que não queremos fazer. A indústria automóvel tem-se vindo a transformar a um ritmo impressionante em termos da robótica que está a ser usada. Há uma transformação do mercado de trabalho. É típico da humanidade. Queremos delegar tarefas noutras entidades. No passado foram escravos, cavalos, depois máquinas. As tarefas foram-se tornando mais difíceis, passou a ser necessário processar informação e chegamos assim à inteligência artificial. Não queremos trabalhar, nem queremos pensar.

É possível delegar responsabilidade máquinas com inteligência artificial? E é desejável?
Se puder delegar a responsabilidade de limpar a casa. Se disser “robô limpa a casa” e quando voltar a casa estiver limpa… Se lermos a descrição de Aristóteles do que é um escravo e retirarmos a palavra escravo, temos um robô.

Quão longe podemos ir nessa delegação? Uma coisa é limpar a casa, outra é decidir bombardear uma cidade.
Temos de distinguir entre quão longe conseguimos ir e quão longe devemos ir. Conseguimos ir mesmo muito longe. Devemos ir por esse caminho? Não, de todo. Hoje é possível ter drones completamente autónomos. Na fronteira das Coreias, há robôs armados a patrulhar. É possível fazer com que disparem sobre qualquer coisa que se mexa? Sim. Mas não queremos isso. Pode ser uma criança a brincar no sítio errado. Queremos ter controlo sobre estas máquinas. Mas às vezes as pessoas confundem: “É possível, então vamos fazê-lo”. Mas o que é aceitável fazer é outra história.

Se temos a possibilidade de fazer estas coisas, quem é que vai estabelecer os limites?
Nós. A sociedade, os políticos que elegemos. Não há mais ninguém em quem possamos delegar essa decisão. Estou mais pessimista quanto a como o vamos fazer. No passado, fizemos mudanças apenas depois de grandes desastres. Só decidimos regular o uso de armas nucleares depois de terem sido largadas duas bombas.

Isto gera dois problemas. Em primeiro lugar: precisamos mesmo de esperar por um desastre? Por exemplo, um país com tecnologia suficientemente avançada decide pôr drones no ar 24 horas por dia, armados e completamente autónomos. Queremos fazer isso até que dispare sobre um avião comercial? Infelizmente, esse é um cenário muito plausível. Não é ficção científica. Conversas como esta vão ajudar. Precisamos de fazer com que as pessoas tenham a noção de que não devemos esperar até que um desastre aconteça.

O segundo problema é que às vezes já é tarde de mais. Se pensarmos na História, há situações em que pensamos nas coisas, percebemos que algo de errado pode acontecer, algo errado acontece e depois mudamos de acção. Essa dialéctica não é algo a que nos possamos dar ao luxo hoje, quando os desastres vão ser tão grandes.

Este tipo de inteligência artificial está muito longe do cenário de máquinas mais inteligentes que humanos, que vemos nos filmes e descrito pelos adeptos da singularidade. Acha esse cenário impossível, apenas improvável, ou …
Totalmente improvável. É tão improvável como ganhar a lotaria dez vezes seguidas. Impossível é uma palavra forte para os filósofos. Impossível é um triângulo com quatro lados. Eu pensava que [a singularidade] era apenas uma piada, parte da cultura de ficção científica. Hoje, acho que é altamente irresponsável.

Sei que defende que se gasta demasiado tempo a discutir isto...
Tempo, dinheiro, atenção social. Os jornais preferem falar de uma história relacionada com a singularidade enquanto desastres acontecem, enquanto alguém está a desenvolver um drone autónomo. Os problemas a sério estão a acontecer, isto é uma distracção.

E é plausível esperar que evitemos essa distracção? Há os filmes, há pessoas conhecidas por trás dessas discussões, há os assistentes pessoais nos telemóveis que alimentam o nosso imaginário.
Gosto de pensar que sim, porque estamos a crescer. A nossa sociedade da informação é muito jovem. Era plausível achar que íamos desenvolver alguma sensibilidade ambiental a sério? Demorou um bocado. Para os meus pais era normal fumar no cinema. A questão de delegar em máquinas vai ser fundamental e levar a uma abordagem mais madura. É a diferença entre algo da moda e um assunto de longo prazo que tem de ser compreendido de forma apropriada.

Argumenta que o mundo de informação e de dispositivos inteligentes que nos rodeia nos faz repensar a nós próprios enquanto humanos. Mas também que a nossa inteligência continua a ser única e diferente da inteligência das máquinas. Assim sendo, em que sentido é que nos estamos a repensar?
Se nos considerarmos o único agente inteligente que é capaz de fazer algo, e depois vem uma máquina que o faz melhor, então quem somos nós? Acontece no xadrez, ou a decidir o melhor caminho do ponto A para o ponto B. O computador faz isso melhor. Precisamos de entender melhor em que sentido somos únicos. Não é no sentido de que somos os únicos capazes de conduzir um carro, aterrar um avião, jogar xadrez, resolver um problema matemático. Temos dispositivos que já conseguem fazer isso como nós… Desculpe, não é “como nós”, mas tão bem como nós, ou ainda melhor. Não é “como nós”, porque nós fazemo-lo de uma forma completamente diferente. A questão é: de que forma a humanidade é única se tudo o que fazemos pode, em princípio, ser feito por uma máquina?

Acha que tudo vai poder ser feito por máquinas?
Não há um limite claro. Há quem diga que os computadores nunca vão compor música ou pintar. Não é verdade. Pensamos em nós como únicos por aquilo que fazemos, mas somos únicos pela forma como o fazemos. A forma como corremos os 100 metros é só nossa. Não é a do leopardo, a do robô ou a de uma mota.

Qual vai ser o grande desafio para nós em estarmos rodeados por todos estes dispositivos inteligentes? Vai ser integrá-los e conviver com eles no nosso quotidiano? Ou vai ser mais difícil estabelecer os limites e impedirmo-nos de ir demasiado longe?
Creio que alguns dos grandes desafios, mas isto é porque sou um filósofo, vêm da ética. No topo da lista punha a questão de delegar responsabilidade. Mas também no topo está o facto de toda esta tecnologia estar a trazer cada vez mais vantagens: riqueza, lucro, uma vida mais fácil. Quem é que vai tirar vantagem disso? Como é que se espalha este valor pela sociedade? Essencialmente, falamos de igualdade. Se daqui a 100 anos pudermos viver num mundo em que temos robôs inteligentes fantásticos, que fazem coisas por nós, vai ser porque a população está polarizada entre os que vivem como príncipes e aristocratas e outros que são escravos das máquinas? Ou toda a sociedade vai beneficiar? Alguns trabalhos vão ser feitos pelas máquinas, mas as pessoas que deixarem de fazer esse trabalho vão ter outras coisas para fazer? Ou serão pagas simplesmente por estarem vivas? Afinal, já temos actualmente dinheiro que chegue.

Estes problemas da omnipresença da tecnologia só se vão colocar nos países ricos?
É um problema que os países ricos têm de resolver, mas que vai afectar o resto do mundo. É aí que a tecnologia está a acontecer, que a regulação vai ser feita, que a riqueza está a ser acumulada. Acho que vai haver mais polarização: os ricos ficarão mais ricos e os pobres mais pobres. Mas, já que estamos a antecipar isso, vamos fazer alguma coisa. A tecnologia digital não está a substituir os humanos. Está a substituir um tipo de humanos. Nos supermercados havia pessoas nas caixas, às vezes havia um pouco de conversa. O que a tecnologia fez é que agora sou eu a registar a lata de feijões. A máquina é estúpida e eu carrego o fardo dessa estupidez. Se a pessoa que fazia esse trabalho já não o faz, então temos o pior cenário: eu estou a fazer mais, ela não tem um emprego e quem quer que tenha a máquina ganha mais dinheiro.

Há o argumento de que a máquina permite criar outros empregos.
Isso não é verdade e é problemático. Porque a curva da inteligência humana é a mesma: há X pessoas estúpidas, X pessoas mais ou menos, X génios. Na revolução industrial, as pessoas passaram dos campos para as cidades porque os trabalhos continuavam a ser simples. A tecnologia está a elevar a fasquia. Está a exigir cada vez mais competências. 

500 anos depois, o sentido de Utopia não se perdeu

Comentários

Os comentários a este artigo estão fechados. Saiba porquê.
Rui Gaudêncio