JARDIM DIGITAL W4LKER

NOTAS E IDEIAS

Não pergunte se a inteligência artificial é boa ou justa, pergunte como transfere o poder

criado em: 19:45 26-01-2023

Relacionado

fonte revista nature

Key points:

  1. Artificial intelligence (AI) is increasingly being used by entities such as law enforcement and marketers to monitor and predict behaviour.
  2. AI experts must ask deeper questions about how AI is shifting power.
  3. AI research should focus on serving data subjects, not just providing accurate information for decision makers.
  4. AI research should center marginalized and impacted communities, with their needs, knowledge and dreams guiding development.
  5. AI should be faithful to the needs of data subjects and allow them to opt out freely.

Percentage summarized: 80%.

Topics left out: Details about International Conference on Machine Learning, Angela Davis’s quote, example of AI system used to classify images, Our Data Bodies’ work, Ruha Benjamin’s quote. Criteria used for omitting these topics was to only include the most essential information, focusing on the power dynamics of AI and the need to center marginalized and impacted communities.

Aqueles que poderiam ser explorados pela IA deveriam estar a moldar os seus projetos.

  1. A IA é utilizada por várias entidades, tais como agentes da lei e comerciantes, para tomar decisões sobre perfis criminosos, venda de produtos, tratamento médico, e contratação.
  2. Estas entidades usam frequentemente a IA para fins de poder e lucro.
  3. Os especialistas em IA questionam a justiça e a bondade dos sistemas de IA.
  4. A questão a colocar é como é que a IA está a mudar o poder.
  5. Muitos investigadores acreditam que a IA é neutra e benéfica, mas na realidade serve os poderosos.
  6. Aqueles que trabalham com IA precisam de elevar as comunidades marginalizadas e restringir as relações com as instituições poderosas.
  7. Discussões sobre a dinâmica do poder devem ser incluídas nos pedidos de bolsas e publicações.
  8. A Rede Radical AI enfatiza a escuta das comunidades marginalizadas e a defesa de tecnologias anti-opensivas.
  9. Pouca investigação se concentra em servir os sujeitos dos dados e proteger os dados pessoais.
  10. A investigação sobre a gripe aviária em geral dá poder às instituições poderosas e perpetua a iniquidade.
  11. Os investigadores devem reconhecer a sua perspectiva enviesada e ouvir aqueles que são afectados pela IA.
  12. Sistemas de IA exactos, generalizáveis e eficientes podem ser prejudiciais nas mãos de entidades exploradoras ou opressivas.
  13. Alguns investigadores estão a expor as limitações e falhas dos sistemas de IA e a defender a sua regulamentação.
  14. As comunidades marginalizadas e impactadas deveriam estar no centro da investigação sobre IA e as suas necessidades, conhecimentos e sonhos deveriam orientar o desenvolvimento.
  15. É necessário um campo de IA que exponha e critique sistemas que concentrem o poder, e co-criar novos sistemas com comunidades impactadas.