Concluzii

Concepute și utilizate corect, sistemele de învățare automată pot ajuta la eliminarea prejudecăților umane din procesul decizional, prejudecăți pe care societatea modernă încearcă din greu să le elimine. Cu toate acestea, în cazul unei analize este, de asemenea, posibil ca sistemele de învățare automată să întărească părtinirea sistemică și discriminarea și să prevină asigurarea demnității. De exemplu, datele istorice privind ocuparea forței de muncă pot arăta că femeile sunt promovate mai puțin decât bărbații. Dacă un sistem de învățare automată instruit pe astfel de date concluzionează că femeile au performanțe mai slabe, discriminarea va perpetua.

Rezultatele discriminatorii nu numai că încalcă drepturile omului, ci subminează și încrederea publicului cu privire la învățarea automată. Dacă opinia publică devine negativă, este probabil să conducă la reglementări reactive care împiedică dezvoltarea învățării automate și a potențialului ei social și economic pozitiv.