Dwie różne skargi

Dwadzieścia cztery stulecia narzekania na narzędzia pisania układają się z pozoru w jedną linię: ktoś zawsze twierdzi, że nowy sposób utrwalania słów zepsuje coś ważnego. Przy bliższym oglądzie linia rozpada się na dwie.

Pierwsza skarga dotyczy człowieka, który po narzędzie sięga, i pyta, czy on jeszcze cokolwiek umie. Druga dotyczy tekstu, który z narzędzia wychodzi, i pyta, czy stoi za nim konkretna osoba. Brzmią podobnie, ale sprawdza się je zupełnie inaczej, a poszczególne technologie uruchamiały zwykle tylko jedną z nich. Indeks i wyszukiwarka budziły pierwszą. Maszyna do pisania budziła wyłącznie drugą.

Generatywna sztuczna inteligencja jest pierwszym narzędziem, które uruchamia obie jednocześnie. Stąd bierze się temperatura dzisiejszego sporu i uporczywe wrażenie, że rozmówcy mijają się w powietrzu. Zwykle rzeczywiście się mijają, bo odpowiadają na dwa różne zarzuty.

Czy on w ogóle coś wie

Najstarszą wersję pierwszej skargi zapisał Platon w Fajdrosie. Egipski król Tamuz odrzuca tam pochwałę pisma, ponieważ widzi w nim lekarstwo nie na pamiętanie, lecz na przypominanie. Uczniowie, ostrzega, przyswoją bez nauczyciela mnóstwo rzeczy i będą sprawiać wrażenie ludzi mądrych, choć dostaną wyłącznie pozór mądrości.

Ten sam zarzut wraca około 1230 roku, gdy w Oksfordzie i w Paryżu niemal równocześnie powstają indeks przedmiotowy oraz konkordancja biblijna. Księga przestaje być czymś, przez co trzeba przejść od deski do deski. Można wejść w nią w dowolnym punkcie i pominąć całą resztę. Pięć wieków później Alexander Pope kpi w Dunciadzie z uczoności zdobywanej przy spisie haseł, z ludzi rozprawiających o dziełach, do których zajrzeli wyłącznie od strony wykazu.

Współczesna wersja tego zarzutu ma już postać eksperymentu. W 2011 roku Betsy Sparrow, Jenny Liu i Daniel Wegner ogłosili w „Science" wyniki, według których oczekiwanie, że informacja pozostanie pod ręką, osłabia zapamiętywanie jej treści i wzmacnia zapamiętywanie miejsca, w którym ona leży. Internet nazwali zewnętrzną pamięcią transaktywną, czyli mniej więcej tym, przed czym ostrzegał Tamuz.

Klamra jest zbyt zgrabna, żeby jej zaufać. Metaanaliza z 2024 roku zebrała dwadzieścia dwie prace, w sumie trzydzieści pięć osobnych porównań na próbie przekraczającej trzydzieści tysięcy osób. Rozrzut wyników okazał się bardzo szeroki, sam efekt powiązano z obciążeniem poznawczym i z samooceną, a badani dysponujący rozleglejszą wiedzą własną reagowali słabiej. Wniosek brzmi więc ostrożnie: zmieniają się strategie sięgania po pamięć, nie jej wydolność.

Pierwsza skarga ma za to istotną zaletę. Da się ją sprawdzić. Wystarczy odsunąć narzędzie i zadać pytanie, na które nikt nie podsunął odpowiedzi. Robimy dokładnie to, co proponował Tamuz, tyle że z grupą kontrolną i istotnością statystyczną.

Czy w tym tekście został człowiek

Druga skarga wybrzmiała najczyściej w drugiej połowie XIX wieku, razem z maszyną do pisania. Sprzedaż szła opornie, bo klienci nie bardzo wiedzieli, do czego właściwie miałaby im ona służyć. Przedsiębiorstwa nie ufały autentyczności dokumentów wystukanych na klawiszach, przyzwyczajone do ksiąg prowadzonych ręką znanego sobie skryby. Prywatny maszynopis wyglądał bezosobowo, a pierwsi użytkownicy relacjonowali, że bliscy pytali ich, czy zwykły list trzeba było naprawdę oddawać do drukarni.

Zarzut nie dotyczył jakości zdań. Dotyczył zniknięcia śladu, po którym rozpoznawało się nadawcę.

Sceptycy przegrali w sposób, którego nie brali pod uwagę, bo nikt ich nie przekonał argumentem. Około połowy lat osiemdziesiątych XIX stulecia przedsiębiorstwa zaczęły przyjmować pracowników wyłącznie do korespondencji, zmieniła się praktyka księgowa i zakup maszyny po prostu zaczął się opłacać. Właściwość wytykana jako wada okazała się zaletą przy tysiącu listów miesięcznie.

Grunt pod tą skargą był zresztą kruchy na długo wcześniej. Ann Blair od lat opisuje warsztat dawnego uczonego, w którym pracowali amanuenses: sekretarze, kopiści, uczniowie, domownicy. Przyjmowali dyktando, sporządzali czystopisy, notatki i wykazy, nanosili poprawki, a bywało, że przygotowywali gotowe partie tekstu wydanego później pod cudzym nazwiskiem. Korzystali z tego Erazm z Rotterdamu, Marcin Bucer, paryscy profesorowie.

Nazwisko na karcie tytułowej nigdy zatem nie oznaczało fizycznego śladu ręki na każdej stronie. Oznaczało odpowiedzialność za całość.

Narzędzie, które uruchamia obie skargi naraz

Generatywna AI nie zrywa z tą historią. Skleja funkcje, które wcześniej miały osobne narzędzia: wyszukiwanie, streszczanie, korektę, tłumaczenie, zmianę rejestru, przestawianie fragmentów. Każda z tych czynności była już kiedyś komuś oddana.

Nowa jest jednostka odpowiedzi. Katalog wskazywał książkę. Wyszukiwarka zawęziła wskazanie do strony. Program korektorski schodził do pojedynczego słowa. Model językowy oddaje strukturę wywodu, analogię i kilka akapitów gotowej prozy, czyli to, co dotąd zostawało po stronie piszącego.

Dlatego obie skargi odpalają równocześnie. Narzędzie podsuwa treść, więc wraca pytanie Tamuza. Narzędzie zaciera indywidualny ślad, więc wraca pytanie o maszynopis.

Prawo nie może czekać, aż spór dojrzeje, bo rozstrzyga konkretne wnioski. U.S. Copyright Office ogłosił 29 stycznia 2025 roku drugą część raportu poświęconego sztucznej inteligencji i prawu autorskiemu. Samo sięgnięcie po AI nie pozbawia ludzkiego dzieła ochrony, materiał powstały wyłącznie maszynowo ochrony nie ma, a człowiekowi zostają prawa do własnych elementów twórczych, do twórczego wyboru i uporządkowania materiału oraz do twórczych przeróbek cudzego wytworu. Najostrzej brzmi ustęp o promptach. Przy obecnym stanie techniki same polecenia nie dają dostatecznej władzy nad ekspresyjnym kształtem wyniku, ponieważ model nie realizuje ich konsekwentnie, na własną rękę wypełnia pozostawione luki i z tej samej instrukcji zwraca za każdym razem coś innego.

Czego nie widać w samym tekście

Obie skargi domagają się odpowiedzi, tyle że odpowiedzi leżą w zupełnie różnych miejscach.

Pytania o wiedzę rozstrzyga się na człowieku i zawsze się tak rozstrzygało. Narzędzie odkłada się na bok i sprawdza, co zostaje.

Pytania o obecność człowieka w tekście nie rozstrzyga się nigdzie w tekście. Nie istnieje taka właściwość zdania, po której poznaje się, kto za nim stał. Nie było jej wtedy, gdy sekretarz układał akapit firmowany przez profesora, i nie było jej wtedy, gdy list wyszedł spod klawiszy zamiast spod stalówki. Amerykański urząd nieprzypadkowo zapowiedział ocenę sprawa po sprawie. To nie jest wykręt, tylko przyznanie, że gotowy plik odpowiedzi nie zawiera.

Tymczasem większość dzisiejszej energii idzie właśnie w oglądanie tekstów pod kątem maszynowych śladów: w detektory, w wyłapywanie charakterystycznych zwrotów, w spory o myślnik. Szukamy tam, gdzie nigdy niczego nie było.