Implicações: Inteligência Artificial

LUÍS MONIZ PEREIRA, MANUEL DIAS, VIRGINIA DIGNUM

São muitas as implicações que devem ser abordadas quando se considera o uso e desenvolvimento da inteligência artificial, como as de âmbito social, económico, político, tecnológico, legal, ético e filosófico. Neste encontro aprofundam-se algumas dessas questões: é possível integrar a responsabilidade como uma das funções das máquinas de inteligência artificial? Serão os algoritmos capazes de justiça ou de julgamentos morais? Que jurisdição se aplica aos agentes autónomos (como os aplicados nos automóveis)? Quais as implicações no campo da ética, da privacidade de dados das informações pessoais? Que consequências terão as tecnologias que fazem uso da inteligência artificial na educação, na saúde e, em tempos de mudanças climáticas, no ambiente?

 

Inteligência Artificial: Implicações

Virginia Dignum (Umeå University, Suécia)

Como os sistemas de inteligência artificial (IA) tomam cada vez mais decisões que afetam diretamente os utilizadores e a sociedade, muitas questões se levantam no âmbito social, económico, político, tecnológico, legal, ético e filosófico. As máquinas podem tomar decisões morais? Os sistemas de IA devem ser tratados como entidades éticas? Quais são as consequências legais e éticas das tecnologias de melhoramento humano ou das tecnologias cibergenéticas? Como devem os valores morais, sociais e legais fazer parte do processo de design? Nesta palestra, proponho maneiras de garantir o comportamento ético por sistemas artificiais. Dado que a ética depende do contexto sociocultural e está muitas vezes implícita nos processos de deliberação, são necessárias metodologias para extrair os valores, tornando-os explícitos, levando a uma melhor compreensão e confiança nos sistemas autônomos artificiais. Será dada uma atenção particular aos princípios “ART” (accountability, responsibility, transparency) para IA: prestação de contas, responsabilidade, transparência.

Luís Moniz Pereira (FCT-UNL, Portugal)

Estamos numa encruzilhada entre a inteligência artificial, a ética para máquinas, e seus impactos sociais. Em 2016 publiquei Programming Machine Ethics, um livro de incursões nessa terra incognita. Nele, emprego as ferramentas teóricas do "Logic Programming" e "Evolutionary Game Theory," e endereço dois reinos morais: o cognitivo e o populacional.
Nesta palestra vou abordar a problemática da ética para máquinas e algumas suas questões salientes para a sociedade. Nomeadamente, quanto à filosofia moral; jurisprudência e regulamentação; desenho de agentes morais autónomos; ensino e aprendizagem da moral; software eticamente seguro; e aplicações.

Manuel Dias (Microsoft, Portugal)

As possibilidades de aplicação de inteligência artificial em prol de uma sociedade melhor não têm limite. Quando pensamos em carros autónomos, assistentes virtuais inteligentes que antecipam as nossas necessidades, sistemas avançados de reconhecimento de imagem usados para nossa segurança, ou diagnósticos médicos baseados em algoritmos de aprendizagem automática (machine learning) cada vez mais precisos, percebemos como a IA irá mudar radicalmente a vida de todos nós.

No entanto, apesar do enorme potencial desta tecnologia, emergem novas questões maioritariamente relacionadas com as implicações do uso acelerado de IA, seja no campo da ética, da privacidade de dados, da transparência ou mesmo da justiça dos algoritmos. Só a resposta a estas questões tornará possível uma adoção à escala global capaz de atingir o objetivo primordial: melhorar a vida humana. A inovação em campos como a saúde, a educação ou a sustentabilidade do nosso planeta, são exemplos onde o desenvolvimento tecnológico aliado a um diálogo alargado à sociedade civil, à academia e ao governo, poderão trazer resultados exponenciais e alinhados com uma visão de IA centrada no ser humano.

Moral da Máquina e Maquinaria da Moral

Luís Moniz Pereira

Estamos numa encruzilhada entre a Inteligência Artificial, a Ética das Máquinas, e os seus Impactos Sociais. E porquê uma ética para máquinas?
Porque os agentes computacionais tornaram-se mais sofisticados, mais autónomos, actuam em grupo, e formam populações que incluem humanos.
Estes agentes estão sendo desenvolvidos numa variedade de domínios, onde questões complexas de responsabilidade exigem maior atenção, nomeadamente em situações de escolha ética.
Uma vez que a sua autonomia está a aumentar, o requisito de que funcionem com responsabilidade, eticamente, e de modo seguro, é uma preocupação crescente.
De facto, o actual estado da IA —em que o surgimento de ferramentas de deep learning  sobre big data permite tratar dados numa quantidade e qualidade até agora impensáveis; no qual se geram algoritmos cada vez mais capacitados para tomarem decisões autónomas; e é agora pensável a implementação dessa tecnologia em robôs com várias variadas e diversas funções— faz emergir uma problemática que é incontornável: os seres humanos não serão os únicos agentes autónomos, com capacidade para deliberar sobre aspectos que impactam directamente na nossa vida.
Neste contexto, a deliberação autónoma e criteriosa reclama por regras e princípios de natureza moral aplicáveis à relação entre máquinas, à relação entre máquinas e seres humanos e aos impactes resultantes da entrada destas máquinas no mundo do trabalho e na sociedade em geral.
 O actual estado de desenvolvimento da IA tanto na sua capacidade de elucidação dos processos cognitivos emergentes na evolução, quanto na sua aptidão tecnológica para a concepção e produção de programas informáticos e artefactos inteligentes, constitui-se na verdade como o maior desafio intelectual do nosso tempo.
A complexidade destas questões ilustra-se sinteticamente com o carrossel abaixo, de problemáticas interconexas que constituem factores para as decisões acerca da constituição de máquinas éticas. Percebe-se por aí bem que o tema da moral computacional interessa não apenas a empresas e instituições públicas, mas também a quem queira exercer uma cidadania consciente e crítica.

O carrossel da maquinaria ética

Luiz Moniz Pereira

Do ponto de vista do paradigma acerca do que é a evolução e a cognição, as investigações em torno desta área do conhecimento têm evidenciado uma perspectiva integradora. É possível ver a inteligência como resultado de uma actividade de processamento de informação, e traçar uma linha evolutiva que vai dos genes aos memes, e sua co-evolução. Nestes termos, rupturas tradicionais entre o ser humano e os restantes animais, ou entre cultura e natureza passam a fazer pouco sentido.
Toda a vida é um palco evolucionário, onde a replicação, a reprodução e a recombinação genética têm ensaiado soluções para uma cognição e uma acção cada vez mais aprimoradas e distribuídas. A biologia, dada a sua matriz computacional, instaura sobre a Física uma primeira artificialidade. Assim sendo, o actual estado do conhecimento implica uma redefinição do lugar do ser humano no mundo, lançando desafios a várias áreas do conhecimento. Desde logo a muitas disciplinas da Filosofia, pois problemas como o que é conhecer, o que é o homem, e o que são e como surgiram valores de natureza moral ganham aqui perspectivas até agora impensáveis.
No que diz respeito ao conhecimento, surge a possibilidade de o mesmo ser simulado em computadores, superando desta forma os limites que antes eram impostos por uma especulação que não podia passar da experiência mental, quiçá compartilhada.
No que diz respeito ao questionamento antropológico, a tradicional discussão sobre “O que é o Homem?”, mercê do cruzamento entre a IA, a engenharia genética e a nanotecnologia, vê-se agora substituída por uma poderosa e desafiante problemática em torno daquilo que pode vir a considerar-se desejável e possível que seja e irá sendo o Homem.

15 MAI 2019
QUA 16:00

Grande Auditório
Entrada gratuita*
Duração 2h

*Entrada gratuita, sujeita à lotação e mediante levantamento de bilhete no próprio dia a partir das 15:00

Em português e inglês com tradução simultânea

Live streaming disponível no dia neste site

Parceria

Fidelidade

LUÍS MONIZ PEREIRA

Centro NOVA LINCS, Departamento de Informática da Faculdade de Ciências e Tecnologia – Universidade Nova de Lisboa

MANUEL DIAS

Microsoft Portugal, Dspa e Nova Information Management School

VIRGINIA DIGNUM

Professora de Social and Ethical Artificial Intelligence no Departamento de Ciência Computacional da Universidade de Umeå

Moderação:

LUÍSA COHEUR (IST)

Biografias

 

Virginia Dignum é professora de Inteligência Artificial Social e Ética na Universidade de Umeå na Suécia e associada à TU Delft na Holanda. A sua pesquisa enfoca o impacto ético e social da IA. É membro da Associação Europeia de Inteligência Artificial (EURAI), do Grupo de Especialistas de Alto Nível da Comissão Europeia em Inteligência Artificial, e do Comitê Executivo da Iniciativa IEEE sobre Ética de Sistemas Autônomos. Em 2006, recebeu o prestigiado prémio Veni da NWO (Organização Holandesa para Pesquisa Científica). Dignum é uma reconhecida oradora  no tema do impacto social e ético da IA. Publicou extensivamente sobre o tema e é membro de comités científicos da maioria das principais publicações e conferências em IA.

Luís Moniz Pereira (FCT-UNL, Portugal)

Luís Moniz Pereira é o investigador português com mais publicações científicas e projectos de inteligência artificial, ao longo de 40 anos. Engenheiro Electrotécnico pelo IST, doutorou-se em Cibernética em 1974 pela Universidade Brunel (em Londres), foi Research Fellow na Universidade de Edimburgo e obteve em 1980 a Agregação em Inteligência Artificial pela UNL. É também Doutor honoris causa pela Universidade Dresden.
Considerado um dos fundadores da programação em lógica, fundou e presidiu à Associação Portuguesa Para a Inteligência Artificial. Recebeu o Prémio Ciência da Fundação Gulbenkian em 1984, o Prémio Boa Esperança em 1994 e o Prémio Estímulo à Ciência em 2005. É Fellow do Comité Coordenador Europeu para a Inteligência Artificial.
Presentemente é professor catedrático e investigador do NOVA Laboratory for Computer Science and Informatics da UNL, aposentado, e membro do conselho científico do IMDEA-Software, Madrid. Publicou centenas de artigos e desenvolveu ferramentas de software, disponíveis em http://centria.di.fct.unl.pt/~lmp, tendo leccionado IA e ciências cognitivas. Doutorou 19 investigadores e foi também consultor internacional em projectos de investigação da Apple, DEC, Westinghouse e World Health Organization.
As suas áreas de investigação actuais centram-se no raciocínio computacional, teoria evolucionária dos jogos, moral das máquinas e ciências cognitivas.

 

Manuel Dias (Microsoft, Portugal)

Manuel Dias tem mais de 20 anos de experiência em tecnologia. Iniciou a sua carreira na EFACEC, numa área de investigação e desenvolvimento de sistemas de tempo real, depois juntou-se à OutSystems, onde criou e liderou uma área de soluções de negócio e mais tarde a direção de Product Management. Em 2010, juntou-se à Microsoft Portugal, como Analytics Lead, com a responsabilidade da área Data & Artificial Intelligence para o mercado empresarial. Atualmente desempenha o cargo de director de Enterprise Technical Sales, o qual acumula com a função de AI Ambassador da Microsoft em Portugal. Em 2018, foi cofundador e é atualmente vice-presidente da Associação Portuguesa de Data Science (DSPA). Desde 2015, é também professor convidado na NOVA Information Management School (NOVA IMS), no Mestrado de Data Science e Advanced Analytics entre outros programas.

Manuel é licenciado em Engenharia Eletrotécnica e Computadores pelo Instituto Superior Técnico (IST) e Mestre em Gestão de Sistemas de Informação pelo Instituto Superior de Gestão e Economia (ISEG), tendo desenvolvido a sua tese em simulação matemática de sistemas complexos.

Inteligência Artificial: Aplicações, Implicações e Especulações

 

A Inteligência Artificial impõe-se cada vez mais na realidade das sociedades contemporâneas. Novos desenvolvimentos tecnológicos nascem todos os dias mas raramente o seu impacto é devidamente reflectido na esfera pública. Assumindo a importância de conhecer e discutir esta realidade, este ciclo de debates promove o olhar e a reflexão sobre as aplicações atuais da Inteligência Artificial, as suas implicações sociais nas mais variadas dimensões (da saúde à privacidade, à empregabilidade e outras) e a forma como se imagina o futuro neste novo paradigma.

Entre abril e junho, o ciclo divide-se em três momentos, cada um com um programa duplo: um debate com vários oradores do meio académico e empresarial e uma grande conferência.

17 ABR QUA

16:00 APLICAÇÕES
18:30 APLICAÇÕES (AS BOAS E AS MÁS) com Mário Figueiredo

15 MAI QUA

16:00 IMPLICAÇÕES
18:30 A ASCENSÃO DOS ROBÔS com Martin Ford

05 JUN QUA

16:00 ESPECULAÇÕES
18:30 INTELIGÊNCIA ARTIFICIAL HUMANO COMPATÍVEL com Stuart Russell

 

PARCERIA

Fidelidade - Companhia de Seguros
Culturgest

PARCERIA CIENTÍFICA

Instituto Superior Técnico da Universidade de Lisboa

CONSULTORES CIENTÍFICOS

Arlindo Oliveira (IST), Ana Paiva (IST), Mário Figueiredo (IST)

CURADORIA

Arlindo Oliveira, Ana Paiva, Liliana Coutinho, Mário Figueiredo

Ciclo Fidelidade - Culturgest

Partilhar Facebook / Twitter