Sztuczna inteligencja ma ułatwiać ludziom życie. Potrafi analizować ogromne ilości danych, rozpoznawać obrazy, wyszukiwać zależności i pomagać policji w identyfikowaniu sprawców przestępstw. Problem zaczyna się wtedy, gdy wynik działania algorytmu przestaje być traktowany jako wskazówka, a zaczyna funkcjonować jak ostateczny dowód. Historia Lindsey Isaacs z Florydy pokazuje, jak dramatyczne mogą być konsekwencje takiego podejścia.
AI wskazała niewinną. W październiku 2025 roku na autostradzie I-4 na Florydzie doszło do tragicznego wypadku, w którym zginęły trzy osoby. Śledczy poszukiwali Dodge’a Durango, którego kierowca miał spowodować katastrofę i uciec z miejsca zdarzenia. W ramach dochodzenia wykorzystano system kamer Flock Safety, wyposażony w automatyczne rozpoznawanie tablic rejestracyjnych i możliwość wyszukiwania pojazdów dzięki AI.
System wskazał samochód Lindsey Isaacs. Problem polegał na tym, iż jej czarny Dodge Durango nie pasował do opisu poszukiwanego pojazdu. Samochód uczestniczący w wypadku był czerwony lub bordowy. Co więcej, późniejsza analiza wykazała, iż auto Isaacs nie znajdowało się na miejscu zdarzenia w momencie katastrofy. Analiza czasu i odległości wykazała, iż samochód kobiety nie mógł znaleźć się na miejscu wypadku w czasie, w którym do niego doszło.
Mimo to Isaacs została zatrzymana i oskarżona o osiem przestępstw, w tym o spowodowanie śmierci oraz ucieczkę z miejsca wypadku. Spędziła w więzieniu 13 dni. Dopiero ponowne przeanalizowanie materiału dowodowego doprowadziło do wycofania wszystkich zarzutów. Śledczy znaleźli następnie inną kobietę, której bordowy Dodge Durango odpowiadał opisowi poszukiwanego samochodu i nosił ślady poważnego wypadku.
Ta historia nie jest jednak wyłącznie opowieścią o błędzie jednej technologii. Jest przede wszystkim ostrzeżeniem przed sytuacją, w której człowiek zaczyna bezkrytycznie ufać maszynie. Flock Safety twierdzi, iż jego system jest jedynie narzędziem śledczym, a decyzje dotyczące zatrzymania podejmują funkcjonariusze. Sama Isaacs, pytana później o odpowiedzialność, wskazywała zarówno na system Flock, który skierował śledczych na jej samochód, jak i na funkcjonariuszy, którzy zignorowali informacje przeczące tej hipotezie.
Los kobiety pokazuje zagrożenia związane z rozwojem AI. Algorytm nie musi samodzielnie podjąć decyzji, aby wyrządzić człowiekowi krzywdę. Wystarczy, iż wskaże niewłaściwą osobę, a człowiek potraktuje ten wynik jako wystarczająco wiarygodny, by rozpocząć przeciwko niej działania.
Technologia może oczywiście pomagać w walce z przestępczością. Automatyczne czytniki tablic mogą umożliwić szybkie odnalezienie skradzionego samochodu albo osoby poszukiwanej. Problem pojawia się wtedy, gdy narzędzie służące do poszukiwania podejrzanych zaczyna tworzyć gigantyczną bazę informacji o przemieszczaniu się zwykłych obywateli.
Skala tego zjawiska jest ogromna. Według danych przedstawianych podczas wrześniowego przesłuchania w Senacie USA sieć Flock obejmuje około 120 tys. kamer w 49 stanach, generujących według firmy około 20 miliardów obrazów miesięcznie. Dane mogą być następnie przeszukiwane przy wykorzystaniu AI.
Oznacza to zmianę jakościową w możliwościach państwa i służb. Dawniej policjant mógł zobaczyć samochód przejeżdżający ulicą. Dzisiaj odpowiednio rozbudowany system może pozwolić na odtworzenie historii przemieszczania się pojazdu, wyszukanie go w ogromnym zbiorze danych i powiązanie z innymi informacjami. To może być niezwykle skuteczne narzędzie. Ale im potężniejsze staje się narzędzie, tym większe znaczenie mają zasady jego używania i ostatecznie decyzja człowieka, który na końcu łańcucha trzyma nad tym wszystkim kontrolę.
NASZ KOMENTARZ: Przypadek Lindsey Isaacs pokazuje też coś jeszcze: błędy AI nie muszą być spektakularne. Nie potrzeba zbuntowanej maszyny ani futurystycznego robota. Wystarczy błędne wskazanie samochodu, kilka błędnych założeń i przekonanie człowieka, iż skoro komputer coś znalazł, to musi mieć rację. Najbardziej niebezpieczna sytuacja powstaje wtedy, gdy człowiek przestaje sprawdzać maszynę właśnie dlatego, iż jest przekonany o jej nieomylności. AI nie powinna być wyrocznią, bo kiedy algorytm się pomyli, to nie on spędzi 13 dni w więzieniu. Zrobi to prawdziwy człowiek.
Polecamy również: Miliony z Brukseli na promocję skrajnych ideologii
