Regulacje sztucznej inteligencji – między bezpieczeństwem a hamowaniem innowacji
Wyobraź sobie alarm przeciwpożarowy, który milczy podczas siedmiu na dziesięć pożarów, ale budzi cię w co piątą spokojną noc. Nie kupiłbyś takiego czujnika. A gdyby ktoś zamontował go w twoim szpitalu? Dokładnie to zrobił Epic Sepsis Model — system wykrywania sepsy wdrożony w setkach amerykańskich placówek medycznych. Nie rozpoznawał choroby u dwóch trzecich pacjentów, u których rzeczywiście się rozwijała. Jednocześnie zasypywał personel fałszywymi alarmami. Nikt go celowo nie zaprogramował, żeby zawodziła. Po prostu uczył się ze wzorców, których ludzie nie kontrolowali — i podejmował decyzje, których nikt świadomie nie podjął. ...