Máquinas do futuro
com princípios morais

Estudo de portugueses e indonésios publicado
no «International Journal of Reasoning-based Intelligent Systems»

Luís Moniz Pereira, investigador português

O conceito de “robôs diabólicos”, com a capacidade para tomar decisões e vontade de controlar o mundo e a humanidade, já tem sido amplamente explorado por autores de ficção científica. Com os avanços tecnológicos, a realidade pode não estar longe da ficção, embora estes sejam passivos e a intenção bem menos maléfica.

Investigadores da Universidade Nova de Lisboa (UNL) e da Universidade da Indonésia, em Depok, apresentam um estudo sobre a moralidade baseada em lógica informática. Segundo este trabalho, publicado no «International Journal of Reasoning-based Intelligent Systems», as máquinas poderão um dia desenvolver a capacidade de tomar decisões baseadas em princípios morais.

O português Luís Moniz Pereira, do Centro de Inteligência Artificial da UNL e Ari Saptawijaya, da Faculdade de Ciências dos Computadores, na Indonésia, ambos se interessam pela inteligência artificial e nas suas aplicações em lógica computacional e para estes investigadores, “a moralidade já não pertence unicamente ao reino dos filósofos e o interesse em percebê-la, do ponto de vista científico, é cada vez maior”.

E, para que intenções maliciosas possam emergir em sistemas com inteligência artificial isso requer que as máquinas em questão tenham a capacidade de compreender ou assimilar como é que as pessoas tomam decisões morais e/ou ter um sentido de ética, ou seja, distinguir o bem do mal.

Luís Moniz Pereira adiantou ao «Ciência Hoje» que, apesar da intenção ser altruísta, essa possibilidade não pode ser excluída. “Claro que constitui um risco e esse é o preço a pagar quando se desenvolve este tipo de sistema de forma errada; tal como a energia nuclear pode ser usada numa central para produzir energia, também permite a construção de bombas atómicas”, sublinhou.

Inteligência artificial já tem sido abordada na ficção

O investigador português acredita que “prevenir este tipo de catástrofes cabe ao cientista” e para se salvaguardar deve usar recursos de investigação suficientes antes de lançar o protótipo, mas reconhece, igualmente, que adversidades podem acontecer sem que seja esperado, como “o uso do conhecimento de forma malévola”.

Máquinas com livre arbítrio

Para iniciar este processo – máquinas dotadas de inteligência artificial e discernimento –, a equipa usou linguagem de programação baseada em lógica computacional. Os investigadores criaram um modelo de lógica prospectiva que propõe ao software a resolução de um dilema, tendo em conta todas as possíveis decisões a tomar. Portanto, será um computador dotado de livre arbítrio, mas capaz de fazer “uma escolha boa”, enfatizou.

Esta abordagem poderá despoletar uma espécie de emergência ética nas máquinas e, por conseguinte, permitir que o computador se torne autónomo e consiga fazer julgamentos baseados em fundamentos morais humanos. Para isso, “foram seleccionados modelos estudados em laboratório, há mais de uma década, por psicólogos”, reconfortou ainda Luís Moniz Pereira. E acrescenta: “Os psicólogos chegaram à conclusão que 90 por cento das pessoas seguem determinadas regras morais”.

A dupla de cientistas considera que “equipar agentes com esta capacidade é indispensável, especialmente no campo da saúde ou da medicina, quando ocorrem dilemas morais”.

Babuínos regem-se por princípios em sociedade

Cooperação robô

Para além destas vertentes, ainda apontam que a investigação poderá ajudar cientistas cognitivos a encontrar formas de perceber como raciocinam as pessoas e a ajudá-las a extrair princípios morais em situações complexas – perceber como distinguir o bem do mal. Esta também poderá ser uma alavanca para criar um sistema de inteligência tutorial para ensinar regras morais a crianças.

Por enquanto, este estudo apenas tem uma base digital, mas este membro do Centro de Inteligência Artificial acredita que em breve a ideia poderá vir a ser desenvolvida em conjunto com investigadores ligados à robótica.

Em parceria com antropólogos e primatólogos da Universidade de Oxford, Luís Moniz Pereira apresentou um projecto europeu, que espera ver aprovado em Outubro próximo, para estudar babuínos – já que estes se comportam seguindo determinadas regras em sociedade. Esta investigação poderá ser um contributo valioso para posteriormente ser usado "como inspiração a aplicar a um grupo de robôs". O interesse é perceber quais são as regras morais usadas pelos babuínos e que benefícios emergem daí para o grupo cooperar.

Comentários

O seu comentário:


O seu nome:


O seu email (não será publicado):