

Około stu osób odważyło się w czwartek zmierzyć z deszczem, by protestować przed biurami Anthropic w San Francisco, tego samego dnia, gdy laboratorium sztucznej inteligencji (AI) ogłosiło publiczność, potępiając wyścig o coraz potężniejsze modele AI.
"Zakaz RSI, nie chcemy umrzeć" – skandowali protestujący.
Chodziło im o rekurencyjne samodoskonalenie, czyli RSI — termin, którego branża używa do opisu budowy zaawansowanych modeli AI, które mogą autonomicznie tworzyć nowsze wersje siebie, co krytycy obawiają się, iż przyspieszy scenariusze zagłady.
"Nie inwestuj w wymieranie," głosił jeden z znaków.
"Ci ludzie zamierzają zarobić na technologii, która choćby oni przyznają, iż ma szansę wyeliminować życie na Ziemi lub życie ludzkie na Ziemi" – powiedział Tarnel Abbott, 72-letni emerytowany bibliotekarz, podczas czwartkowego protestu.
Inna protestująca, Emily Tan, która przyjechała z Los Angeles, opisała sytuację jak "czarną skrzynkę".
"Większość ludzi w kraju, choćby w SF, nie wie, co się dzieje" – powiedział 31-letni Tan.
Pierwsze żądanie protestujących: zakazać RSI.
"Jest tylko kilka miejsc na świecie, gdzie w 2027 roku możliwa jest rekurencyjna samodoskonalenie, a to biuro jest jednym z nich," powiedział Jacob Coxon.
Coxon to młody badacz, którego rezygnacja z Anthropic oraz towarzyszące mu ostrzeżenia dotyczące bezpieczeństwa AI wywołały we wrześniu duże poruszenie.
Ludzie w Dolinie Krzemowej prywatnie przyznają, iż nie chcą, aby RSI rozwijano w najbliższym czasie, powiedział Coxon.
Anthropic, który w czwartek przeprowadził największe IPO w historii, twierdzi, iż nie osiągnął jeszcze etapu RSI.
Krytycy kwestionują, czy firma taka jak Anthropic, która mówi o przedłożeniu bezpieczeństwa ponad zyski, potrafi trzymać się swoich deklarowanych wartości, jednocześnie pod presją ze strony akcjonariuszy, którzy chcą widzieć wzrost i zwrot z inwestycji.
"Mówią o tym, żeby zwolnić tempo i zacząć chodzić w tę i z powrotem, ale (...) oni nie próbują aż tak bardzo" – powiedział Tyler Tracy, 26-letni badacz w organizacji non-profit zajmującej się bezpieczeństwem AI o nazwie Redwood Research.
Anthropic zostało założone przez kilku byłych pracowników OpenAI, którzy nie zgadzali się z decyzjami biznesowymi firmy i zobowiązali się zawsze stawiać bezpieczeństwo na pierwszym miejscu.
"Zatrzymajcie wyścig AI" – głosił inny znak protestacyjny.
Daniel Kokotajlo, były pracownik OpenAI, powiedział, iż przyjaciele z obu laboratoriów odpowiadają na jego obawy, twierdząc, iż jeżeli nie zbudują tego sami, zrobi to rywal lub Chiny, i iż to oni są "odpowiedzialnymi dobrymi ludźmi".
"Nie podoba mi się ta odpowiedź, dlatego tu protestuję" – powiedział Kokotajlo. w tej chwili kieruje organizacją badawczą o nazwie AI Futures Project.
Wielu protestujących przyznało, iż przez cały czas korzysta z narzędzi AI i uważa je za pomocne, ale uważają, iż postęp postępuje zbyt gwałtownie i bez wystarczających zabezpieczeń.
Dzień wcześniej otwarty list podpisany przez badaczy, przedsiębiorców i naukowców oskarżył Anthropic o to, iż nie jest "bezpieczną firmą AI".
Jedyny kontrdemonstrant, 31-letni aktywist-bloger Barak Gila, stanął przed tłumem z transparentem dziękującym Anthropic za rozwój technologii i wygenerowanie znaczącego lokalnego wpływu gospodarczego.
Demonstrant skonfrontował się z nim, ale Gila była cały uśmiechnięty, wręcz zachwycona perspektywą starcia.
"Bez Anthropica na pewno umrę, prawda? Z Anthropicem może przeżyję 10 lat dłużej," powiedziała Gila.
"A może umrzesz za jakieś dwa lata," odpowiedział drugi demonstrant.