Programa 34 – Pedro Saleiro – Equidade em modelos de Machine Learning e AI

(download)

Neste episódio estivemos à conversa com Pedro Saleiro, Data Science Manager na Feedzai. Ficamos a conhecer o seu trabalho maioritariamente focado em questões sociais, éticas e de equidade no âmbito da Inteligência Artificial (AI – Artificial Intelligence).

Tópicos abordados

• Data Science Manager na Feedzai [00:00:17]
• Percurso e oportunidade de ir para Chicago [00:02:55]
• Auditoria a modelos de machine learning para a discriminação, com o Aequitas [00:05:57]
• Resultados obtidos com o Aequitas [00:08:30]
• Como é que o Aequitas se adapta a diferentes contextos [00:10:23]
• Etiquetagem em machine learning e dados enviesados [00:14:38]
• Minimizar a propagação de discriminação nos modelos [00:18:54]
• Algoritmos para treinar modelos de machine learning [00:22:37]
• Ferramentas para etiquetagem – queries SQL / Pandas (Python) / Spark (Big data) [00:29:31]
• Previsão de reincidência criminal de doentes mentais, com o Kansas [00:33:31]
• Equidade (fairness) nos modelos usados no Kansas [00:39:53]
• Importância do conhecimento científico, filosófico e o bom senso, para além do conhecimento técnico [00:46:30]
• Responsabilidade partilhada e multidisciplinaridade no desenvolvimento de software – mencionamos o livro Ruined by Design (escrito por Mike Monteiro) [00:49:48]
• A economia é demasiado importante para ser deixada a economistas. E o AI é demasiado importante para ser deixado a software engineers? – mencionamos o livro Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy [00:53:39]
• Cambridge Analytica [00:58:38]

Perguntas Rápidas

• Expetativas para os próximos 12 meses a nível de web?
  Mais transparência nas tomadas de decisão (Explainable AI não é suficiente)
• Qual a app mobile que não dispensarias?
  Google Maps
• Qual a ferramenta de desenvolvimento/produtividade mais indispensável para o teu dia-a-dia?
  GitLab – ferramenta de Source Code Management (SCM) e Continuous Integration/Continuous Delivery (CI/CD)
• Um podcast ou livro fundamental?
  Livro: Practical Ethics de Peter Singer
  Podcast: TWiML (recomendou-nos em off, depois de termos gravado)
• Conferência a não perder
  Fairness, Accountability, and Transparency (FAT) Conference
• Sugestão de próximo convidado
  Rui Mendes, Presidente da Data Science Portugal