A inteligência artificial já forneceu ferramentas benéficas que são usadas todos os dias por pessoas ao redor do mundo. Seu desenvolvimento contínuo, guiado pelos princípios a seguir, oferecerá oportunidades incríveis para ajudar e capacitar as pessoas nas décadas e séculos vindouros.
Os 23 princípios envolvem aspectos de pesquisa, ética e valores e aspectos de longo prazo:
- Objetivo da Pesquisa
- Financiamento da Pesquisa
- Link entre Ciência e Política
- Cultura de pesquisa
- Prevenção de Corrida
- Segurança
- Transparência de falha
- Transparência Judicial
- Responsabilidade
- Alinhamento de valor
- Valores Humanos
- Privacidade Pessoal
- Liberdade e Privacidade
- Benefício compartilhado
- Prosperidade compartilhada
- Controle Humano
- Não-subversão
- Corrida Armada com IA
- Atenção na Capacidade
- Importância
- Riscos
- Auto Aprimoramento Recursivo
- Bem comum
Na página aparece uma lista global de pesquisadores de robótica, inclusive brasileiros. Muito útil para quem estuda o assunto e quer seguir os nomes mais destacados.
[ Leia o texto original em inglês ]
[ Saiba mais sobre os 23 princípios em português ]
[ Sobre a reunião ]
A comunidade européia criou o documento “Diretrizes de Ética para uma Inteligência Artificial Confiável”. Existe versão em português de Portugal. Veja no site.
Notem que os princípios do documento deveriam ser usados para todos os sistemas e não apenas para sistemas de IA. Nem isso conseguimos em nossa história recente. Sistemas computacionais , com IA ou não, continuam sendo usados para a morte, seja no reconhecimento facial, ou na busca por minérios em áreas que deviam ser preservadas. Os donos do mundo não precisam de regras – somente seus escravos.
## Comentários e referências sobre os Princípios de Asilomar:
**Comentários:**
* **Necessidade de atualizações:** Os Princípios de Asilomar foram criados em 2017 e, desde então, o campo da IA evoluiu rapidamente. Alguns especialistas argumentam que os princípios precisam ser atualizados para refletir essas mudanças e abordar novas questões, como o viés algorítmico e a deepfake.
* **Falta de consenso:** Os Princípios de Asilomar não foram elaborados por um órgão oficial e não representam um consenso global sobre a ética da IA. Alguns especialistas argumentam que princípios mais específicos e acionáveis são necessários.
* **Foco na pesquisa:** Os Princípios de Asilomar se concentram principalmente na pesquisa em IA, com menos atenção ao desenvolvimento e implantação de sistemas de IA. Alguns especialistas argumentam que é necessária uma estrutura ética mais abrangente que abranja todo o ciclo de vida da IA.
**Referências:**
* **O documento original dos Princípios de Asilomar:** [https://futureoflife.org/open-letter/ai-principles/](https://futureoflife.org/open-letter/ai-principles/)
* **Uma análise crítica dos Princípios de Asilomar:** [https://www.scu.edu/ethics/about-the-center/press–media-hub/press-releases/ethics-in-the-age-of-ai/](https://www.scu.edu/ethics/about-the-center/press–media-hub/press-releases/ethics-in-the-age-of-ai/)
* **Um artigo discutindo a necessidade de atualizar os Princípios de Asilomar:** [https://arxiv.org/pdf/2306.08959](https://arxiv.org/pdf/2306.08959)
* **Um site com recursos sobre ética da IA, incluindo os Princípios de Asilomar:** [https://plato.stanford.edu/entries/artificial-intelligence/](https://plato.stanford.edu/entries/artificial-intelligence/)
## Exemplos de situações em que o desrespeito aos Princípios de Asilomar criou problemas para a sociedade:
* **Algoritmos enviesados:** Em alguns casos, algoritmos de IA foram usados de maneiras que discriminam certos grupos de pessoas. Isso levou a problemas como decisões de crédito injustas, sistemas de justiça criminal tendenciosos e anúncios direcionados que perpetuam estereótipos.
* **Deepfakes:** Deepfakes são vídeos ou gravações de áudio manipulados para fazer parecer que alguém está dizendo ou fazendo algo que não fez. Eles podem ser usados para espalhar desinformação, difamar pessoas ou prejudicar reputações.
* **Armas autônomas:** Armas autônomas são sistemas de armas que podem selecionar e atacar alvos sem intervenção humana. Alguns especialistas argumentam que o desenvolvimento e o uso de armas autônomas violariam os Princípios de Asilomar, pois poderiam levar a mortes e ferimentos desnecessários.
**É importante notar que esses são apenas alguns exemplos, e há muitos outros casos em que o desrespeito aos Princípios de Asilomar pode ter consequências negativas.**
## Recursos adicionais:
* **O Instituto Future of Life:** [https://futureoflife.org/](https://futureoflife.org/)
* **O Centro de Ética Aplicada Markkula:** [https://www.scu.edu/ethics/](https://www.scu.edu/ethics/)
* **A Enciclopédia de Filosofia de Stanford:** [https://plato.stanford.edu/entries/artificial-intelligence/](https://plato.stanford.edu/entries/artificial-intelligence/)
(Google Bard)
Veja discussões valiosas sobre o assunto em:
[ https://futureoflife.org/principles-discussion/ ]