Uma equipa de investigadores do Instituto Max Planck para o Desenvolvimento Humano sugere que seria impossível controlar máquinas superinteligentes.
A tecnologia de Inteligência Artificial (IA) continua a evoluir de vento em popa, enquanto alguns cientistas e filósofos avisam sobre os seus eventuais perigos.
Se alguém programar um sistema de IA com uma inteligência superior à dos humanos, para que possa aprender de forma independente, outros problemas podem surgir. Por exemplo, a IA pode substituir todos os programas existentes e assumir o controlo de todas as máquinas em todo o mundo através da internet.
“Uma máquina superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como é que as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento tornar-se incontrolável e perigoso para a humanidade”, diz o coautor do estudo Manuel Cebrian num comunicado citado pela EurekAlert.
Os resultados do estudo foram publicados este mês na revista científica Journal of Artificial Intelligence Research.
Os cientistas exploraram duas formas de travar estas máquinas superinteligentes: a primeira envolveria limitar as capacidades da IA, bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial.
A outra via envolveria a programação de princípios éticos na IA, para que esta apenas agisse no melhor interesse da humanidade.
“Se se dividir o problema em regras básicas da ciência da computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper as suas próprias operações. Se isto acontecesse, você não saberia se o algoritmo de contenção ainda estava a analisar a ameaça, ou se parou para conter a IA prejudicial. Na realidade, isto torna o algoritmo de contenção inutilizável”, explicou Iyad Rahwan, diretor do Centro para Humanos e Máquinas.
Assim, nenhum algoritmo pode encontrar uma solução para determinar se uma IA seria perigosa para o mundo. Os investigadores alegam ainda que podem até nem saber quando é que estas máquinas superinteligentes chegarão.
Daniel Costa, ZAP //
