“We need an FDA for Algorithms”

Cathy O´Neil, PHD
Autora, “Weapons of Math Destruction”

We need and FDA for algorithms. So, for algorithms that have the potential to ruin peoples´s lives or shortly reduce their options with their liberty, their livelihood or they finances, we need an FDA for algorithms that says, “Hey, show me evidence that it´s going to work. Not just to make your money, but it´s going to work for society. That it´s going to be fair, that it´s not going to be racist, it´s not going to discriminate against people with disability status. Show me that it´s legal, before you put it out”. That´s we dont have yet !

Precisamos de uma FDA para algoritmos. De fato, para os algoritmos que têm o potencial de arruinar a vida das pessoas ou rapidamente reduzir suas opções de liberdade, seu sustento ou finanças. Precisamos de uma FDA para algoritmos que diga: “Ei, mostre-me evidências de que isso vai funcionar. Não só para ganhar o seu dinheiro, mas vai funcionar para a sociedade. Que seja justo, que não seja racista, não seja discriminatório contra pessoas com deficiência . Mostre-me que é legal, antes de botar para funcionar”. Ainda não temos isso!