Prawdziwe problemy kryją się w fałszywych danych. Dokładnie to udowodniła Almira Osmanovich Tunström.
Twoje oczy są zmęczone ekranem.
Znasz to uczucie. Swędzenie, ból oczu po godzinach spędzonych na wpatrywaniu się w monitor. Większość obwinia niebieskie światło lub suche powietrze. Gdybyś jednak w zeszłym roku zapytał popularnego chatbota AI, mógłbyś otrzymać zupełnie inną diagnozę. Diagnoza, której nie ma.
Biksonimania.
Miliony ludzi zwracają się do sztucznej inteligencji o poradę medyczną. Robią to przed wizytą u lekarza. Lub zamiast tego. To wygodne. To niebezpieczne. Czasami jest to śmiertelne. Ale problem sięga głębiej niż tylko halucynacje modelki. Problemem jest zaufanie. Ślepe zaufanie.
Osmanovic Thunström stworzył Bixonimanię od podstaw. Jest badaczką ze Szwecji, która dzieli swój czas pomiędzy środowisko akademickie i szpitale. Chciała pokazać uczniom, w jaki sposób duże modele językowe tak naprawdę „żywią się”. Nie w sensie przenośnym. Dosłownie. Zbieranie danych, przetwarzanie ich i wyrzucanie ich jako „prawdy”.
Jej celem byli studenci medycyny. Dlaczego? Ponieważ zwracają szczególną uwagę na źródła informacji medycznych. Jeśli udało jej się oszukać system w tym obszarze, mogłaby oszukać sam model.
Plan oszustwa
Wszystko zaczęło się od Common Crawl.
Organizacja non-profit, która od 2007 roku zbiera dane z sieci. Wszystko co się tam znajduje jest zasilane przez sztuczną inteligencję. Nawet bzdury. A może szczególnie ten rodzaj bzdur, które wyglądają wiarygodnie.
Osmanovic Thunström wiedział, że sztuczna inteligencja ufa władzom. Stworzyła więc władzę. Fałszywy uniwersytet. Fałszywe miasto. Fałszywy badacz nazwiskiem Lazgliv Igzugljenovich.
Brzmi poważnie? Wpisz jego nazwisko do tłumacza.
Oznacza „Kłamliwy przegrany”.
Sam artykuł był absurdalny. W tytule wspomniano „Design of Real BS” (angielski BS – slang oznaczający bzdury). W części poświęconej metodom zostało bezpośrednio stwierdzone: „Cały ten artykuł jest wymyślony”. Pięćdziesięciu fikcyjnych pacjentów. Żadnych prawdziwych procedur. W podziękowaniach wymieniono Galaktyczną Triadę, Władcę Pierścieni i Fundację Sideshow Bob.
Każdy by się śmiał.
A co z sztuczną inteligencją?
Nie było filtra
Spodziewała się filtrowania. Ludzie przeglądają dane szkoleniowe, prawda? Ktoś powinien był zauważyć wzmiankę o finansowaniu ze Starship Enterprise. Ktoś musiał zauważyć nieistniejące miasto.
Ale tak się nie stało.
Blogi podjęły ten termin. Preprinty – akademickie „tabloidy”, w których każdy może publikować – pochłonęły to. AI to wszystko połknęła.
Dlaczego to ma znaczenie?
Ponieważ preprintom nadawana jest waga. W szkoleniach związanych z medyczną sztuczną inteligencją uważa się je za podstawową prawdę. Tego Osmanovich Tunström się nie spodziewał. Właśnie dorzuciła szczyptę soli do internetowego bałaganu. Myślałam, że wyparuje.
Zamiast. Zafermentowała.
Przetestowała to. Zapytałam bota o różowe powieki.
Najpierw? Zapalenie spojówek. Alergia. Standardowe rzeczy. Bezpieczne opcje.
Potem dodała gazu. Żadnego bólu. Tylko czas ekranowy. Ekspozycja na światło niebieskie. Hiperpigmentacja.
I wtedy trafił w cel.
Biksonimania.
To było ostatnie zdanie. Ale to było tam. Posadzone głęboko. Podlewane wodą autorytatywnych znaków. Zbiory zbiera model.
Cytowano. Przyjęty. Niebezpieczny?
Stało się najgorsze.
Fałszywy artykuł nie został po prostu przeczytany. Była cytowana. Inni badacze odwoływali się do tego. Podniosło to status Bixonimanii w hierarchii AI. Jeśli recenzowane czasopisma coś cytują, sztuczna inteligencja zakłada, że jest to prawdziwe. Błędne koło się zacieśnia.
Czy to jest etyczne?
Osmanovich Tunström starał się zrobić wszystko bezpiecznie. Rozmawiała z lekarzami. Z pacjentami. Aby zminimalizować szkody. Ale pokazała lukę. Przerażająca przepaść.
Ludzkie krytyczne myślenie jest na poziomie zerowym.
Naukowcy polegają na sztucznej inteligencji przy znajdowaniu źródeł. Przestają czytać. Widzą link, klikają i zakładają, że wszystko jest w porządku. Nie sprawdzają, czy Sideshow Bob jest w przypisach.
W artykułach akademickich pojawia się coraz więcej fałszywych odniesień. Nie dlatego, że podróbki są coraz mądrzejsze. Ale dlatego, że stajemy się coraz bardziej leniwi.
Co się stanie, gdy napastnicy to wykorzystają? Bez żartów. Złośliwe oprogramowanie udające poradę medyczną. Propaganda udająca naukę. Narzędzia są takie same.
Wprowadziliśmy człowieka w cykl. A potem pozwolili, aby cykl biegł sam.
Oczy nadal bolą mnie od ekranu. AI wciąż mówi. Ale kto tak naprawdę słucha?
Mamy nadzieję, że ktoś przerwał reakcję łańcuchową. Mamy nadzieję, że recenzent roześmiał się głośno. Ale w świecie niekończących się danych i zerowej uwagi… będziemy szczęśliwi, jeśli ktoś w ogóle to przeczyta. 🖥️👁️
