Od roku czy lepiej zbieram się do bezsensownego rantu w temacie "Artificial Intelligence versus Natural Stupidity" (o ile pamiętam krążyły takie tematy po sieci około 2024 - ale raczej w kierunku "AI spowoduje, że bardziej zgłupiejemy w NS", kiedy ja mam na myśli "obecna faza AI dziedziczy NS po swoich twórcach, nauczycielach i użytkownikach"). Ale nie chciało mi się tego wypisywać, bo jak wyżej: jest bezsensowny.
Gdyż nic nie wyniknie z mojej pisaniny na zasadach ogólnych, a w szczególe, jeśli piszę przeciwko megafonom miliardowych biznesów, wrzeszczących na rzesze od proli po decydentów i polityków, w świecie neolibu i post-prawdy, żeby ludzie jeszcze szybciej łykali aktualny hype i sponsorowali tech-bros i wannabe tech-bros.
(Jak tam wasze samochody elektryczne? ale
w sensie wykonania biznesplanu sprzed 10 czy 15 lat: jak tam z ich kosztem per km jazdy? czy wartością odsprzedaży? Czy może pod waszymi strzechami
coś ciekawego drukujecie drukarką 3D?)
Ale może jednak uleję sobie troszeczkę, co nie.
Małe ale istotne disclaimery czy punkty wstępne:
Nie będę wypisywał w byle notce na byle blogu 100 razy "moim skromnym zdaniem", albo że SĄ MOŻLIWE sensowne AI.
Tak, technologie klasy AI, nawet idiotyczne papugi LLM czy modele średnio adekwatne, mogą odebrać ludziom mnóstwo pracy (ale zawsze pierwsze pytanie: czy ta praca ma/miała sens?). Oczywiście, że mogą przynieść istotne pożytki (ale w kapitalizmie najważniejsze pytanie zadaje się w przypadku "kapitalnik": komu? za ile?). Mogą nas zaskoczyć (ale "a co nowego", świat, nauka może nas zawsze zaskoczyć, przeważnie jesteśmy ignorantami łatwymi do zabawiania). Piszę to na wstępie i raz, bo nie chce mi się dopisywać tego co akapit czy dwa, oraz nie, nie musicie mi tego tłumaczyć w komentarzach.
Drugi podobny disclaimer: tak, "postęp" oraz nieunikniony. Jasne, oczywiście, nie tłumaczcie mi, jak działa postęp nauk-tech w tym ustroju, i w paru sąsiednich. Wiem jak wasi pradziadkowie tłumaczyli zalety azbestu, dziadkowie zalety czteroetylku ołowiu, ojcowie zalety teflonu. (BTW jak tam wasze mikroplastiki? Czy honorowe krwiodawstwo ew. pijawki są już modne w waszym bąbelku internetowych
krewnych i znajomych?).
1. Lokalnie
Wyzwalaczem notki, w końcu, było napotkanie ogłoszenia o pracę, skierowanego do takich jak ja, tj. doświadczonych automatyków, żeby mentorowali jakimś LLMom, robionym pod automatykę przemysłową itp. Czyli w moim rozumieniu element drugiego etapu obecnej "eksplozji" "AI": skoro dało się zastąpić LLM-turingówką i chatbotami jakichś randomowych kumpli z czatu oraz "konsultantów" i ludzi z call centers itp., to może już da się zastąpić prawników, inżynierów, lekarzy, itp. "I będzie czym się dzielić!".
Może i da się, kto wie, tylko, że mam wrażenie, że bezosy stojące za startupami rosyjskimi w Holandii (to nie jest metafora, tylko kontekst tego ogłoszenia jw.) nie rozumieją, że zastąpić lekarza a prawnika a inżyniera to nieco różne pary kaloszków. Bo obecnego irlandzkiego czy brytyjskiego lekarza, tego od paracetamolu i guglania objawów, faktycznie, równie łatwo zastąpić, jak angielskojęzycznego Filipińczyka czy Pakistańczyka z call center (czy gdzie tam są obecnie resztki białkowego supportu waszych appek i srapek), życzę powodzenia. Prawników, to już zależnie od zakresu i jurysdykcji, oraz może jednak rozwiązaniem powinno być upraszczanie prawa, a nie większy lepszy bloatware do "tańszego" rozwiązywania problemów prawniczych. Z inżynierami natomiast jest ten problem, że działają w świecie realnym, a nie języka czy "tekstu", czy emocji ludzkich; świat realny nie daje się "zaczarować" normalnym językiem, tylko raczej jak w klasycznej nauce i technice: językiem matematyki i nauki (wrócę jeszcze do tego). To jest niepomijalna różnica.
Drugim wyzwalaczem było, że w końcu po latach zrobiłem na
stronie firmowo-profesjonalnej coś więcej niż placeholder i "w budowie". I refleksja, że pewnie dałoby się to już sensownie "wyklikać w narzędziu", czy wy-chat-ować promptami. Tylko po co i dlaczego, skoro zrobienie tego jak zwierzę, "w edytorze", w walidującym się 100% HTML+CSS, bez JS (poza przekierowaniem strony) czy jakiegokolwiek bloatware, było szybkie i przyjemne. Już nie mówiąc o prywatności czy oddawaniu swojego kontentu jakimś "chmurowładcom" od AI-narzędzi. Albo, że będzie działać, hm, do końca istnienia HTML+CSS i podstaw PHP.
Trzecim wyzwalaczem, że robiąc porządki w swoich profesjonalnych bajkach marketingowych, pogrzebałem też w swoich bardzo dawnych
osiongach, takich za pieniądze, z 1997, oraz ich ulepszonych propozycjach niezrealizowanych, z około 2000-2002. I nie mam na myśli małej "ciasnej ale własnej" SCADA z 1997, ale w kontekście "AI": nieduży systemik projektowy, głównie "bazodanowy", ale z elementami heurystycznymi i systemów eksperckich, dla projektowania całych fabryk/ciągów technologicznych. W 1997 "na szybkiego" wyspecjalizowany i nieprzyjazny, ale działał. Na uniwersalne rozwinięcie takich pomysłów >2000r., z prawdziwym interfejsem i prawdziwą AI, żaden decydent nie zechciał wydać monetki. Może w 2002 nikt im jeszcze nie wykrzyczał na każdym kanale medialnym, że AI to samo piękno i dobro, i wartość dla stakeholderów.
I dlaczego po 30 latach nadal nie mamy takich systemów powszechnie i realnie używanych, nieważne jakim silnikiem AI czy non-AI napędzanych. Kto wie, być może przez naszą "natural stupidity", a nie braki "artificial intelligence"?
2. Globalnie
Najważniejsze moim zdaniem punkty, dlaczego obecne modne AI są do bani
z powodu NS twórców, decydentów i konsumentów:
- W modelu, w którym AI nie może wyraźnie wskazać "granicy" swojego działania, powiedzieć "nie wiem", "tego nie mam w danych" itp.; kiedy ciśnienie jej "nauczania" w kierunku konieczności podtrzymania interakcji z użytkownikiem oraz "dostarczania rozwiązań" jest najnajważniejsze (bo utrzymuje darmowych userów przy ekranie, a płatni raczej nie zapłacą za AI mówiącą "nie wiem"), nie ma opcji, żeby to AI miało dobry sens czy nie poszło w maliny. Nie ważne, jak dobry jest model, na jak dobrych danych, nie może przekraczać "granic" o jakichś znanych i PODANYCH prawdopodobieństwach.
- A propos, źródła do uczenia są przeważnie gówniane, od szumu internetowego po poddające się manipulacjom raz-dwa. A z gównianego źródła obecnymi popularnymi metodami dostaje się gówniane AI, nieważne, ile douczania, moderunku i specjalizacji dołożą eksperci czy twórcy AI.
- W ramach tychże moderunków i specjalizacji, rzeczeni ludzie mogą dokładać bias, błędy albo przeforsowywać prawdę, czy "prawdziwą wiedzę" odkrywaną przez AI; czyli odciskać swoją NS w dziewiczej AI. Ale tego nikt stwierdzić nie jest w stanie. Jedyne co pewne, że przez dwa czy trzy lata tfurcy obarczeni NS nadal nie pozatykali dziur w różnych popularnych "AI", choć temat "bezpieczeństwa AI" w tym specyficznym informacyjnym kontekście, który ma niewiele wspólnego z normalnie rozumianym bezpieczeństwem, jest ważki i "na tapecie".
- Gdyż z definicji, od pewnego poziomu, nie ma zasobów czasu, ludzi, pieniędzy, żeby obecne AI "zrozumieć", czy rzetelnie zbadać dostarczane rozwiązania. Czego zdaje się nie rozumieją entuzjaści, od kolegi automatyka w 2023 (kiedy pierwszy raz bawiliśmy się "chatGPT w skryptach w automatyce") po obecnych fanów: z tego, że "o rany, chatbot wypisał mi skrypty do tego i owego, PRZEANALIZOWAŁEM JE i są takie zajefajne a powstały raz-dwa z paru promptów!", a nawet, że wypisał rozwiązania łże-problemów w post-pracy, nie wynika, że równie fajnie będzie, kiedy ktoś wam zrobi tak oprogramowanie hamulców w samochodzie, ryzykowny przemysł w fabryce chemicznej, koło której mieszkacie, albo porady prawnicze czy finansowe, które mogą was pośrednio czy bezpośrednio dotknąć. Oczywiście, za podejściem obecnego świata do inżynieringu IT stoi wielka plansza "działa, to na ch... drążyć", i obecne AI wpisują się i wpiszą dosko w ten trend. Ale wypadałoby NAJPIERW być pewnym, że ten wasz AI-prawnik myli się ze dwa razy rzadziej, niż przeciętny, albo że AI-automatyk jest nieco lepszy niż junior engineer z Egiptu czy Pakistanu, niż że są TAŃSI; zamiast doczekać, że powie "Sorry, jednak nie miałem racji. Chcesz kolejną poradę prawniczą? A może fabrykę chemiczną?". Albo doczekać, że tech-bros od AI wezmą za cokolwiek jakąkolwiek odpowiedzialność (tu z ponurego rechotu zajady mi się podobiły). Chociaż, co ja plotę, ludziom niewiedzącym nie tylko, jak działa ich samochód czy telefon, ale skąd się bierze prąd w gniazdku czy jedzenie na talerzu, pewnie nie robi to żadnej różnicy. Ale, ale! To właśnie NS w natarciu...
- Różne rozwiązania dla obecnych AI "prawie działa, na ch... drążyć" są głupio przypadkowe i straszliwie rozrzutne. Wszyscy wiedzą o popycie na krzem i megawaty, bo każdy ziomal koniecznie musi postawić datacenter, żeby mu się ejaje ejajowały, oraz o popycie na prawdziwe dane nieskażone AI-slopem (może wspominałem, jakoś już rok temu firmy skupowały co lepsze cyfrowe zdjęcia SPRZED 2020, po dolarze sztuka). Ale jakoś nikt głośno nie mówi, że ten absurdalny popyt nie wynika tylko z samej komplikacji czy "wielkości AI", ale np. już z samego faktu, że świat AI napędza Python (taki język programowania, nazwany nie bez powodu od Monty Pythona), który jest jakieś 70 razy bardziej energożerny niż C itp. i ze 70 razy wolniejszy niż C. Który (i parę innych też) jest/był idiotycznym wyborem do przepracowania zagadnienia, no ale akurat w nim były kluczowe programy i biblioteki "na początku" tych AI, które odniosły sukces marketingowy, no więc na pewno "Bóg widział, że były dobre". A że zapłacimy za to wszyscy, to "a co nowego".
Mógłbym jeszcze parę punktów wypisać, inherentnych dla obecnego hype na "AI", czy bardziej szczegółowych, czy o alternatywach SF, jak mogłoby/może to wyglądać (albo gdzie w swoim SF wsadziłem wizje "AI innego rodzaju"). Ale jw. już rozchodziłem to paluszkami na klawiaturze, starczy psucia bajcików.
Bo tak naprawę, od góry do dołu, to jest rant na zwykłą chciwość i ignorancję homo prawie-sapiens, tyle, że na aktualnym hype. Równie dobrze mógłbym przekopiować jakiś rant z epoki "Railway Mania" w UK 1846, w hype na koleje żelazne; czy ze szczytu boomu kauczukowego około 1900; czy z epoki dot-comów z 2000, zmieniając tylko odpowiednie nazwy, nazwiska, miejsca.
Szkoda słów.