Regulacje sztucznej inteligencji – między bezpieczeństwem a hamowaniem innowacji
W 2014 roku zespół inżynierów Amazona zbudował algorytm, który miał automatycznie oceniać CV kandydatów do pracy. System uczył się na podstawie dziesięciu lat historycznych danych o zatrudnieniu — a ponieważ branża technologiczna jest zdominowana przez mężczyzn, szybko nauczył się traktować męskie życiorysy jako wzorcowe. Obniżał punktację za słowo „women’s" w nazwie organizacji studenckiej. Karał absolwentki uczelni kobiecych. Amazon porzucił projekt w 2017 roku, a firma oficjalnie oświadczyła, że narzędzie nigdy nie było stosowane w realnej rekrutacji. Ale sam fakt, że algorytm wytrenowany na danych korporacji z listy Fortune 500 odtworzył i wzmocnił płciowe uprzedzenia — bez niczyjej złośliwej intencji — mówi o problemie więcej niż jakiekolwiek teoretyczne rozważania. ...