W ekskursyjnym klubie książki kolejna rekomendacja – Meredit Broussard, „Artificial Unintelligence”. Wspominałem o tej książce w gazetowym tekście o Hararim, bowiem Broussard napisała ją specjalnie dla obalenia mitów na temat AI, w które Harari zdaje się wierzyć.
W odróżnieniu od futurologów o wykształceniu humanistycznym, Broussard zajmuje się AI zawodowo. Książka jest bardzo pouczająca, autorka przeprowadza czytelnika przez proste tutorialowe przykłady machine learning (w pythonie).
Wszyscy mamy wdrukowane pewne wyobrażenie sztucznej inteligencji na podstawie SF. Odruchowo je przywołujemy, gdy słyszymy niusy z serii „komputer pokonał arcymistrza”.
Na tej podstawie snujemy fantazje o lepszym świecie, zarządzanym przez Obiektywne Algorytmy. Ale może jednak strasznym, bo sztuczna inteligencja się zbuntuje i wypowie nam wojnę. Sporo tych fantazji u Harariego.
W kręgu specjalistów takie wizje AI określane są ironicznym akronimem GOFAI („Good Old Fashioned…”). To, nad czym się realnie pracuje, to słaba/wąska AI.
GOFAI raczej z tych prac się nie wyłoni, bo to tak jakby rakieta kosmiczna powstała jako uboczny skutek udoskonalania roweru (i to pojazd, i to pojazd…). A nad GOFAI jako takim mało kto dziś pracuje na serio.
Kiedy Harari fantazjuje np. o bezpieczeństwie na drogach, które zapanuje dzięki autonomicznym pojazdom, fantazjuje właśnie o GOFAI. Broussard jest sceptyczna wobec samej idei samochodów bez kierowcy.
Wszyscy słyszeliśmy tę liczbę – że 95% wypadków bierze się z winy człowieka. Przywołuje ją Harari, pojawia się w różnych prezentacjach TED, przeważnie bez źródła (co już powinno wywołać sceptycyzm).
Z tej liczby nic nie wynika: dziś po prostu samochody prowadzą prawie wyłącznie ludzie, a więc formalnie za wszystko odpowiadają. Nawet kiedy Autopilot(TM) Tesli(TM) walnie czołowo w betonową barierę, to błąd denata, że autopilotowi na to pozwolił.
NHTSA wprowadziła klasyfikację samochodowej autonomii od SAE Level 0 po Level 5. Obecnie żaden komercyjnie dostępny samochód nie oferuje nic powyżej SAE Level 2 (wspomaganie kierowcy, który cały czas musi trzymać ręce na kółku).
Tesla de facto oferuje tylko Level 2, ale sugeruje, że to Level 3 (czyli możliwość jazdy na autopilocie). Wprawdzie instrukcja uprzedza użytkowników, żeby nie traktowali funkcji Autopilot (TM) jak autopilota, ale może w takim razie Musk nie powinien jej tak nazywać?
Subaru również oferuje SAE Level 2, ale poza ostrzeżeniami w instrukcji, robi jeszcze jedno: gdy system wykryje, że kierowca puścił kierownicę, system najpierw go napomina brzęczykiem i komunikatem na desce rozdzielczej, a potem wyłącza silnik. Tak powinno być w każdej Tesli.
A „autonomiczne” samochody Google’a? Tak jak pierwsze autonomiczne samochody, demonstrowane prawie sto lat temu (!), są po prostu zdalnie sterowane.
Przy obecnym stanie techniki da się osiągnąć tyle, że ciężarówka przejedzie USA od wybrzeża do wybrzeża. Brzmi imponująco, ale sprowadza się do jazdy jedną autostradą (I-10). Z informatycznego punktu widzenia to prostsze niż przejechanie z Hożej na Ząbkowską.
Nic nie daje podstaw do nadziei na bezbłędne autonomiczne samochody, zmniejszające liczbę wypadków. Jest natomiast wypróbowane i tanie rozwiązanie: transport publiczny.
Taką postawę, w której odrzucamy rozwiązania tanie i wypróbowane na rzecz niepewnych i drogich, ale „nowoczesnych”, Broussard nazywa „technoszowinizmem”. Wcześniej Morozov lansował określenie „solucjonizm”, ale Broussard łączy to z obserwacją – jak na cytacie na zdjęciu – że łączy ich wspólna orientacja etno-socjo-ideolo-genderowa.
Ilustruje to anegdotą o Marvinie Minskim, ojcu AI. Kolega go raz spytał o poradę, jak walczyć z pasożytami atakującymi rośliny doniczkowe. Minsky w odpowiedzi zaczął snuć wizję armii antypasożytowych nanobotów.
„No dobrze, ale tak konkretnie to co mam zrobić” – spytał kolega. „Nie wiem, pytaj moją żonę”, zbył go Minsky.
Nie chciałem tu pisać o polityce, ale Biedroń – którego inicjatywę bardzo chciałbym polubić – zarobił u mnie krechę propozycją „głosowania przez internet”. Technoszowinizm w pigułce: jeśli chcemy usprawnić głosowanie, dajmy podwyżki członkom komisji. Usprawnijmy głosowanie korespondencyjne, wprowadźmy ułatwienia w dojeździe do komisji, itd.
Ale nie, oczywiście fajniej jest sypnąć kasą na kosztowne i niebezpieczne rozwiązanie. A doniczkowych nanobotów pan nie dorzucisz w zestawie?