Το σύστημα υποβάλει τους υπόπτους σε 137 ερωτήσεις, ανάμεσα στις οποίες περιλαμβάνονται και οι εξής: «Πόσοι από τους φίλους ή τους γνωστούς σου παίρνουν ναρκωτικά;», «Είχε κάποιος από τους γονείς σου εκτίσει ποινή στη φυλακή;». Ωστόσο, φάνηκε ότι το σύστημα έδινε μεγαλύτερης πιθανότητες σε μαύρα άτομα να παραβούν ξανά τον νόμο, απ’ότι σε λευκά, ακόμη κι αν είχαν διαπράξει το ίδιο αδίκημα. Στο σύνολό του το σύστημα ισχυρίστηκε ότι οι μαύροι είχαν πιθανότητα 45% να διαπράξουν ξανά αδίκημα ενώ οι λευκοί 24%. Χαρακτηριστικό παράδειγμα, ένας λευκός κι ένας μαύρος αντιμετώπιζαν κατηγορίες για κατοχή ναρκωτικών.
Ο λευκός προηγουμένως είχε προβεί σε απόπειρα κλοπής ενώ ο μαύρος είχε αντισταθεί στη σύλληψη. Το σύστημα έκρινε ότι για κάποιον λόγο, ο λευκός έχει χαμηλή πιθανότητα να διαπράξει ξανά κάποια αξιόποινη πράξη, ενώ ο μαύρος είχε υψηλότερη. Ωστόσο, στην επόμενη διετία, ο λευκός συνελήφθη τρεις ακόμη φορές για κατοχή ναρκωτικών ενώ ο μαύρος δεν διέπραξε κάποια παράνομη πράξη. Όμως, το πρόβλημα δεν έγκειται στο ΑΙ καθώς μαθαίνει από το περιβάλλον του και από τα δεδομένα που λαμβάνει. Η Joanna Bryson, ερευνήτρια του Πανεπιστημίου του Μπαθ δηλώνει ότι είναι λάθος να πιστεύει το κοινό ότι τα συστήματα τεχνητής νοημοσύνης δεν θα έχουν προκαταλήψεις καθώς αν λαμβάνουν δεδομένα τα οποία βασίζονται σε προκαταλήψεις και στερεότυπα από την ανθρώπινη κουλτούρα, αναπόφευκτα θα υιοθετήσουν παρόμοιες πεποιθήσεις.
0 σχόλια:
Δημοσίευση σχολίου