Rádio Câmara

Papo de Futuro

EP#53 - Rosto da IA em Portugal defende dados pessoais como bem público

12/12/2023 -

  • EP#53 - Rosto da IA em Portugal defende dados pessoais como bem público

Com mais de 450 trabalhos publicados, entre capítulos de livros, artigos de revistas, artigos de conferências e workshops e livros, Paulo Novaes (1) é considerado o rosto da Inteligência artificial em Portugal. Nesta entrevista exclusiva ao programa Papo de Futuro, ele explica os dilemas da IA, os desafios e defende que os dados sejam um bem público a serviço da sociedade, e não sejam apenas uma fonte de receita para as empresas globais.

 Paulo Novais é um renomado Professor Catedrático de Ciência da Computação no Departamento de Informática da Escola de Engenharia da Universidade do Minho, Portugal. Ele também atua como pesquisador no Centro ALGORITMI, onde lidera o grupo de pesquisa ISLab - Laboratório de Inteligência Sintética e coordena a linha de pesquisa em Ciência da Computação e Tecnologia (CST).

Na entrevista, o professor discutiu os desafios e oportunidades apresentados pela Inteligência Artificial (IA). Ele destacou a existência de dois modelos principais de IA: o modelo 'model driven', que se baseia em algoritmos definidos e é exemplificado por dispositivos como robôs aspiradores, que operam com base em sensores e têm reações previsíveis, e o modelo 'data driven', que aprende e se adapta a partir de grandes volumes de dados.

Novaes apontou que, enquanto o primeiro modelo é mais controlável e seus riscos são mais facilmente antecipáveis, o modelo 'data driven' apresenta desafios significativos, especialmente em contextos complexos como a análise de imagens médicas, onde a capacidade humana de processar e interpretar dados é limitada. O professor usou o exemplo do xadrez para ilustrar como as máquinas podem superar os humanos em termos de processamento de dados e antecipação de jogadas:

“Nesse contexto em que deixamos de ter a capacidade de controlar o ambiente, as máquinas podem ser melhores do que nós, porque fazem cálculos mais rápidos e têm a capacidade de planejar à frente. Por isso que qualquer sistema de xadrez hoje ganha do humano, mas na verdade o que ele está fazendo é dar a capacidade de jogar melhor".

Preocupam, por exemplo, as notícias sobre inteligência que aprende. O Google, por exemplo, acaba de lançar a sua IA Generativa, o Gemini, que será aberto para a sociedade em 2024 (2). O Gemini é o modelo de IA mais flexível já desenvolvido pelo Google. A ideia é que ele consiga rodar tanto em infraestruturas grandes, como as de data centers, quanto em dispositivos mais limitados, como celulares.

O professor Paulo Novaes também abordou as implicações éticas da IA, especialmente em aplicações críticas como carros autônomos. Ele expressou preocupações sobre a aprendizagem em tempo real e o indeterminismo, argumentando a favor de um 'delay' (atraso) que permita às máquinas aprender e testar conhecimentos antes de aplicá-los, expandindo assim nossa capacidade de decisão.

Um exemplo concreto são os carros autônomos. Note que os sistemas que movem os carros podem ser instados a t tomar decisões que colocam em risco a vida humana. A pergunta do milhão é: você se sente seguro numa situação limite dentro do carro autônomo, em que não é possível prever o momento seguinte?

O próprio professor Paulo Novaes responde:

“E se ele aprende algo que não pode ser benéfico para quem está no carro, que seria, para não matar, entre atropelar três pessoas, opta por matar quem está no carro. Alguém aqui quer ir dentro do carro? Eu não quero. Se a aprendizagem for em tempo real, tem o problema de não determinismo. Eu não tenho capacidade de saber antecipadamente qual é a reação.”

 Esse debate me faz lembrar da importância da responsabilidade humana e da definição de limites éticos no uso da IA. Por exemplo, apesar da ciência já saber clonar um ser, a sociedade já colocou um limite ético para parar esse tipo de experimento.

 O professor Paulo Novaes comparou o desenvolvimento tecnológico à clonagem e à energia nuclear, áreas onde a comunidade global impôs restrições significativas. O professor defendeu uma abordagem que responsabiliza as pessoas pelo uso da tecnologia, sugerindo que deveria haver limitações na aplicação da IA em determinados contextos, especialmente naqueles que envolvem decisões críticas e impactam diretamente a vida das pessoas.

Lembrando que o Brasil não tem uma lei sobre inteligência artificial, apenas proposições em tramitação nesta casa, mas a LGPD, lei geral de proteção de dados (3), traz inúmeros princípios para o uso de dados, e a preservação da vida é um deles.

Finalmente, o professor mencionou o papel dos 'grandes players' mundiais no desenvolvimento da IA, observando que os avanços estão sendo conduzidos por instituições com amplos recursos e acesso a dados. Como podemos compreender essa questão da concentração dos dados e do mercado de conteúdos e aplicações on-line?

Essa é a parte mais me intriga pessoalmente. Como nós podemos dar tanto poder para essas empresas que possuem bilhões de usuários em todo o mundo, pois dado é poder.

O professor Paulo Novaes lembrou que há um movimento para que os países criem suas próprias bases de dados e passem a tratar esses dados como uma espécie de patrimônio nacional.

É o caso de Portugal, que está criando um grande data center. Em contraste, apesar de terem capacidade de processamento, países como Portugal enfrentam a falta de dados. O professor Paulo Novaes enfatizou a necessidade de decisões públicas para transformar os dados em um bem público, a ser utilizado em benefício da população:

"Os estados estão a disponibilizar capacidade de processamento. Portugal tem um supercomputador que está ligado a uma rede europeia que permite processar, mas não tem dados. Mas tem que haver uma decisão pública de transformar os dados em um bem público para serem utilizados em proveito do bem-estar da população."

Partindo da autoridade que possui, o professor Paulo Novaes se coloca como uma das vozes que, ao contrário de pedir a moratória nas pesquisas em inteligência artificial, o que não parece ser uma ideia realista, ele destaca a necessidade de se pensar em dados não apenas como uma commodity comercial, mas como um recurso valioso que, quando disponibilizado de maneira aberta e acessível, pode potencializar o bem-estar da população e impulsionar inovações em diversas áreas.

Ao considerar os dados como um bem público, abre-se a porta para uma colaboração mais ampla entre governos, instituições de pesquisa, empresas e a sociedade civil. Muito interessante!

Você ainda pode enviar a sua sugestão de tema, crítica ou sugestão para o WhatsApp da Rádio Câmara (61) 99978-9080 ou para o e-mail papodefuturo@camara.leg.br.

Comentário – Beth Veloso
Apresentação – Cláudio Ferreira

Coluna semanal sobre as novas tendências e desafios na comunicação no Brasil e no mundo, da telefonia até a internet, e como isso pode mudar a sua vida.

Terça-feira, às 8h