{"id":1304,"date":"2021-11-22T23:33:14","date_gmt":"2021-11-23T02:33:14","guid":{"rendered":"http:\/\/treinamentolivre.com\/aluno01\/?p=1304"},"modified":"2025-04-14T18:27:19","modified_gmt":"2025-04-14T21:27:19","slug":"principios-asilomar-artificial-intelligence","status":"publish","type":"post","link":"https:\/\/treinamentolivre.com\/aluno01\/arquivos\/1304","title":{"rendered":"Princ\u00edpios de Asilomar &#8211; Intelig\u00eancia Artificial."},"content":{"rendered":"\n<p>A intelig\u00eancia artificial j\u00e1 forneceu ferramentas ben\u00e9ficas que s\u00e3o usadas todos os dias por pessoas ao redor do mundo. Seu desenvolvimento cont\u00ednuo, guiado pelos princ\u00edpios a seguir, oferecer\u00e1 oportunidades incr\u00edveis para ajudar e capacitar as pessoas nas d\u00e9cadas e s\u00e9culos vindouros.<\/p>\n\n\n\n<p>Os 23 princ\u00edpios envolvem aspectos de pesquisa, \u00e9tica e valores e  aspectos de longo prazo:<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Pesquisa<\/strong><\/h2>\n\n\n\n<ol>\n<li><strong>Objetivo da Pesquisa:<\/strong>&nbsp;O objetivo da pesquisa em IA n\u00e3o deve ser criar intelig\u00eancia n\u00e3o direcionada, mas intelig\u00eancia ben\u00e9fica.<\/li>\n\n\n\n<li><strong>Financiamento da Pesquisa:<\/strong>&nbsp;Investimentos em IA devem ser acompanhados de financiamentos em pesquisa para assegurar seu uso ben\u00e9fico, incluindo Ci\u00eancia da Computa\u00e7\u00e3o, Economia, Leis, \u00c9tica, e Estudos Sociais   para, por exemplo:<\/li>\n<\/ol>\n\n\n\n<ul>\n<li>tornar sistemas com IA altamente robustos;<\/li>\n\n\n\n<li>aumentar a prosperidade por meio da automa\u00e7\u00e3o;<\/li>\n\n\n\n<li>atualizar sistemas jur\u00eddicos para serem mais justos e eficientes;<\/li>\n\n\n\n<li>definir o conjunto de valores (e o posicionamento legal e \u00e9tico) com os quais a IA deve estar alinhada.<\/li>\n<\/ul>\n\n\n\n<ol start=\"3\">\n<li><strong>Link entre Ci\u00eancia e Pol\u00edtica:<\/strong>&nbsp;Deve haver um interc\u00e2mbio construtivo e saud\u00e1vel entre pesquisadores de IA e formuladores de pol\u00edticas.<\/li>\n\n\n\n<li><strong>Cultura de pesquisa:<\/strong>&nbsp;Uma cultura de coopera\u00e7\u00e3o, confian\u00e7a e transpar\u00eancia deve ser fomentada entre pesquisadores e desenvolvedores de IA.<\/li>\n\n\n\n<li><strong>Preven\u00e7\u00e3o de Corrida:<\/strong>&nbsp;Equipes que desenvolvem sistemas de intelig\u00eancia artificial devem cooperar ativamente para evitar cortes nas normas de seguran\u00e7a.<\/li>\n<\/ol>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>\u00c9ticas e Valores<\/strong><\/h2>\n\n\n\n<ol start=\"6\">\n<li><strong>Seguran\u00e7a:<\/strong>&nbsp;Os sistemas com IA devem ser seguros e protegidos durante toda a sua vida \u00fatil operacional, e verific\u00e1veis, quando aplic\u00e1vel e vi\u00e1vel.<\/li>\n\n\n\n<li><strong>Transpar\u00eancia de falha:<\/strong>&nbsp;Se um sistema com IA causar dano, deve ser poss\u00edvel determinar o motivo. A frase &#8220;- N\u00e3o sabemos qual \u00e9 o problema&#8221; n\u00e3o \u00e9 aceit\u00e1vel nesta \u00e1rea.<\/li>\n\n\n\n<li><strong>Transpar\u00eancia Judicial:<\/strong>&nbsp;Qualquer envolvimento de um sistema aut\u00f4nomo na tomada de decis\u00f5es judiciais deve fornecer uma explica\u00e7\u00e3o satisfat\u00f3ria pass\u00edvel de auditoria por uma autoridade humana competente.<\/li>\n\n\n\n<li><strong>Responsabilidade:<\/strong>&nbsp;Designers e construtores de sistemas avan\u00e7ados com IA s\u00e3o partes interessadas nas implica\u00e7\u00f5es morais de seu uso, abuso e a\u00e7\u00f5es, com responsabilidade e oportunidade de moldar essas implica\u00e7\u00f5es.<\/li>\n\n\n\n<li><strong>Alinhamento de valor:<\/strong>&nbsp;Sistemas com IA altamente aut\u00f4nomos devem ser projetados de modo que seja assegurado que seus objetivos e comportamentos ser\u00e3o alinhados com os valores humanos durante toda a opera\u00e7\u00e3o.<\/li>\n\n\n\n<li><strong>Valores Humanos:<\/strong>\u00a0Os sistemas com IA devem ser projetados e operados de modo a serem compat\u00edveis com os ideais da dignidade humana, direitos, liberdades e diversidade cultural. Geralmente um projeto de IA deve come\u00e7ar com a revis\u00e3o da <a href=\"https:\/\/www.unicef.org\/brazil\/declaracao-universal-dos-direitos-humanos\" target=\"_blank\" rel=\"noreferrer noopener\">Declara\u00e7\u00e3o Universal dos Direitos Humanos <\/a>e a ader\u00eancia do projeto a ela.<\/li>\n\n\n\n<li><strong>Privacidade Pessoal:<\/strong>&nbsp;As pessoas devem ter o direito de acessar, gerenciar e controlar os dados que geram, dado o poder dos sistemas com AI de analisar e utilizar esses dados.<\/li>\n\n\n\n<li><strong>Liberdade e Privacidade:<\/strong>&nbsp;A aplica\u00e7\u00e3o de IA aos dados pessoais n\u00e3o deve restringir de forma injustific\u00e1vel a liberdade real ou percebida das pessoas.<\/li>\n\n\n\n<li><strong>Benef\u00edcio compartilhado:<\/strong>&nbsp;Tecnologias com IA devem beneficiar e capacitar o maior n\u00famero de pessoas poss\u00edvel.<\/li>\n\n\n\n<li><strong>Prosperidade compartilhada:<\/strong>&nbsp;A prosperidade econ\u00f4mica criada pela IA deve ser compartilhada amplamente, para beneficiar toda a humanidade.<\/li>\n\n\n\n<li><strong>Controle Humano:<\/strong>&nbsp;Os seres humanos devem escolher como e se devem delegar decis\u00f5es aos sistemas com IA, para realizar os objetivos escolhidos pelo homem.<\/li>\n\n\n\n<li><strong>N\u00e3o-subvers\u00e3o:<\/strong>&nbsp;O poder conferido pelo controle de sistemas com IA altamente avan\u00e7ada deve respeitar e melhorar, em vez de subverter, os processos sociais e c\u00edvicos dos quais depende a sa\u00fade da sociedade. A vota\u00e7\u00e3o do Brexit, na Inglaterra foi um grande exemplo de atentado a este princ\u00edpio. As elei\u00e7\u00f5es brasileiras de 2022, com a produ\u00e7\u00e3o de <em>fake new<\/em>s e <em>deep fakes<\/em> foram outro caso t\u00edpico.<\/li>\n\n\n\n<li><strong>Corrida Armada com IA:<\/strong>&nbsp;Deve ser evitada uma corrida armamentista com armas aut\u00f4nomas letais. Contrariando este princ\u00edpio, hoje em dia temos rob\u00f4s armados patrulhando fronteiras, navios, autonomamente, decidindo abrir fogo contra outros navios, rob\u00f4s-mulas atuando junto com fuzileiros e vers\u00f5es de rob\u00f4s human\u00f3ides treinando pontaria com armas de fogo.<\/li>\n<\/ol>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Quest\u00f5es de Longo Prazo<\/strong><\/h2>\n\n\n\n<ol start=\"19\">\n<li><strong>Aten\u00e7\u00e3o na<\/strong>&nbsp;<strong>Capacidade:<\/strong>&nbsp;N\u00e3o havendo consenso, devemos evitar fortes suposi\u00e7\u00f5es sobre os limites superiores em futuras capacidades de IA.<\/li>\n\n\n\n<li><strong>Import\u00e2ncia:<\/strong>&nbsp;IA avan\u00e7ada poderia representar uma mudan\u00e7a profunda na hist\u00f3ria da vida na Terra, e deveria ser planejada e administrada com cuidado e recursos proporcionais.<\/li>\n\n\n\n<li><strong>Riscos:<\/strong>&nbsp;Os riscos gerados pelos sistemas com IA, especialmente os riscos catastr\u00f3ficos (j\u00e1 que a IA geralmente age muito rapidamente e em cascata), devem estar sujeitos ao planejamento e mitiga\u00e7\u00e3o proporcionais ao impacto esperado. O uso de outra IA para prevenir os riscos da primeira \u00e9 interessante. Outra t\u00e9cnica seria a cria\u00e7\u00e3o de um dom\u00ednio de conten\u00e7\u00e3o, que evitasse a expans\u00e3o do problema.<\/li>\n\n\n\n<li><strong>Auto Aprimoramento Recursivo:<\/strong>&nbsp;Sistemas com IA projetados para melhorar ou autorreplicar-se recursivamente de uma maneira que poderia levar a um aumento r\u00e1pido da qualidade ou quantidade, devem estar sujeitos a r\u00edgidas medidas de seguran\u00e7a e controle.<\/li>\n\n\n\n<li><strong>Bem comum:<\/strong>&nbsp;A superintelig\u00eancia s\u00f3 deve ser desenvolvida a servi\u00e7o de ideais \u00e9ticos.<\/li>\n<\/ol>\n\n\n\n<p>No texto original aparece uma lista global de pesquisadores de rob\u00f3tica, inclusive brasileiros. Muito \u00fatil para quem estuda o assunto e quer seguir os nomes mais destacados.<\/p>\n\n\n\n<p>[ <a rel=\"noreferrer noopener\" href=\"https:\/\/futureoflife.org\/ai-principles\/\" target=\"_blank\">Leia o texto original em ingl\u00eas<\/a> ] <\/p>\n\n\n\n<p>[ <a rel=\"noreferrer noopener\" href=\"https:\/\/www.deviante.com.br\/noticias\/ciencia\/os-23-principios-de-asilomar\/\" target=\"_blank\">Saiba mais sobre os 23 princ\u00edpios em  portugu\u00eas<\/a> ]<\/p>\n\n\n\n<p>[ <a href=\"https:\/\/futureoflife.org\/2017\/01\/17\/principled-ai-discussion-asilomar\/\" target=\"_blank\" rel=\"noreferrer noopener\">Sobre a reuni\u00e3o<\/a> ]<\/p>\n","protected":false},"excerpt":{"rendered":"<p>A intelig\u00eancia artificial j\u00e1 forneceu ferramentas ben\u00e9ficas que s\u00e3o usadas todos os dias por pessoas ao redor do mundo. Seu desenvolvimento cont\u00ednuo, guiado pelos princ\u00edpios a seguir, oferecer\u00e1 oportunidades incr\u00edveis&#8230;<\/p>\n<div class=\"more-link-wrapper\"><a class=\"more-link\" href=\"https:\/\/treinamentolivre.com\/aluno01\/arquivos\/1304\">Continuar a ler&#8230;<span class=\"screen-reader-text\">Princ\u00edpios de Asilomar &#8211; Intelig\u00eancia Artificial.<\/span><\/a><\/div>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10],"tags":[],"_links":{"self":[{"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/posts\/1304"}],"collection":[{"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/comments?post=1304"}],"version-history":[{"count":28,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/posts\/1304\/revisions"}],"predecessor-version":[{"id":2429,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/posts\/1304\/revisions\/2429"}],"wp:attachment":[{"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/media?parent=1304"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/categories?post=1304"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/treinamentolivre.com\/aluno01\/wp-json\/wp\/v2\/tags?post=1304"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}