Sztuczna Inteligencja

Wyobraź sobie alarm przeciwpożarowy, który milczy podczas siedmiu na dziesięć pożarów, ale budzi cię w co piątą spokojną noc. Nie kupiłbyś takiego czujnika. A gdyby ktoś zamontował go w twoim szpitalu? Dokładnie to zrobił Epic Sepsis Model — system wykrywania sepsy wdrożony w setkach amerykańskich placówek medycznych. Nie rozpoznawał choroby u dwóch trzecich pacjentów, u których rzeczywiście się rozwijała. Jednocześnie zasypywał personel fałszywymi alarmami. Nikt go celowo nie zaprogramował, żeby zawodziła. Po prostu uczył się ze wzorców, których ludzie nie kontrolowali — i podejmował decyzje, których nikt świadomie nie podjął. ...

Algorytm nie musi być złośliwy, żeby wyrządzić szkodę. Wystarczy, że uczy się ze świata takim, jaki jest — z jego nierównościami, uprzedzeniami i ślepymi plamami. System rekrutacyjny wytrenowany na dekadzie danych korporacyjnych zaczyna karać kobiece CV. Algorytm szpitalny mierzący wcześniejsze wydatki na leczenie zamiast stanu zdrowia systematycznie odsuwał czarnoskórych pacjentów od opieki. Żaden człowiek nie podjął tych decyzji. A jednak decyzje zapadły — cicho, automatycznie, na skalę przemysłową. To właśnie dlatego regulacje sztucznej inteligencji stały się jednym z najważniejszych pól legislacyjnych dekady. Ale sposób, w jaki trzy największe potęgi gospodarcze próbują okiełznać tę technologię, mówi więcej o ich wizji świata niż o samej AI. ...

W 2014 roku zespół inżynierów Amazona zbudował algorytm, który miał automatycznie oceniać CV kandydatów do pracy. System uczył się na podstawie dziesięciu lat historycznych danych o zatrudnieniu — a ponieważ branża technologiczna jest zdominowana przez mężczyzn, szybko nauczył się traktować męskie życiorysy jako wzorcowe. Obniżał punktację za słowo „women’s" w nazwie organizacji studenckiej. Karał absolwentki uczelni kobiecych. Amazon porzucił projekt w 2017 roku, a firma oficjalnie oświadczyła, że narzędzie nigdy nie było stosowane w realnej rekrutacji. Ale sam fakt, że algorytm wytrenowany na danych korporacji z listy Fortune 500 odtworzył i wzmocnił płciowe uprzedzenia — bez niczyjej złośliwej intencji — mówi o problemie więcej niż jakiekolwiek teoretyczne rozważania. ...

14 marca 2023 roku firma OpenAI opublikowała GPT-4. Komunikat prasowy mówił o „najnowszym kamieniu milowym w skalowaniu głębokiego uczenia". Komentatorzy technologiczni odnotowali wydarzenie gdzieś między nowościami o Bingu, a plotkami o nadchodzącym iPhonie. Kilka mediów branżowych napisało recenzje. Internet wzruszył ramionami i poszedł dalej. Trzy lata później da się powiedzieć rzecz, której wtedy nie mówił prawie nikt: tamtego dnia nie odbyła się premiera kolejnego produktu. Tamtego dnia praca umysłowa przestała być wyłączną domeną człowieka. ...