Svetový odborník na umelú inteligenciu: Zabudnite na kalkulačky, doba sa zmenila

Britský matematik Conrad Wolfram vysvetľuje, prečo dril ručných výpočtov brzdí deti a ako im môže matematika s počítačmi otvoriť dvere k reálnemu svetu a AI.  

Súčasný systém výučby matematiky uviazol v minulosti a namiesto rozvoja skutočného logického myslenia driluje deti v mechanických výpočtoch, ktoré dnes stroje zvládnu rýchlejšie a presnejšie ako akýkoľvek človek.

Uznávaný britský matematik a technologický reformátor Conrad Wolfram v rozhovore pre Aktuality.sk objasňuje, prečo absencia počítačov v školách odrádza mladé talenty , ako umelá inteligencia mení nároky na ľudskú inteligenciu.

A najmä, prečo sa bez novej formy gramotnosti čoskoro nezaobídeme pri žiadnom dôležitom životnom či celospoločenskom rozhodnutí.

Conrad Wolfram je hosťom slovenskej konferencie Eduforum, ktorá sa koná v Bratislave na jeseň.

• Počítanie nie je matematika: Školy sa nesprávne zameriavajú na ručné výpočty, hoci túto mechanickú činnosť dnes počítače zvládnu oveľa lepšie ako človek.
• Prečo skutočná matematika spočíva v niečom inom.
• Prečo podobne ako je pre život v modernej spoločnosti nevyhnutné vedieť čítať a písať, dnes ľudia potrebujú takzvanú počítačovú gramotnosť.
• Prečo bez dostatočného porozumenia tomu, ako funguje dátová veda a AI, nebudú schopní robiť správne rozhodnutia vo svojej práci ani v osobnom živote.
• Prečo umelá inteligencia ľudí neohlupuje, ale posúva ich vyššie.
• Aký je hlavný rozdiel medzi človekom a AI.

Ako by ste vysvetlili frustrovanému 10-ročnému dieťaťu, čo matematika skutočne je? Prečo to nemusí byť nutne strašiak?

Matematika je v istom zmysle fantastický systém na získavanie lepších odpovedí alebo rozhodnutí na otázky, ktorý sa vyvíjal stovky rokov. Myšlienka je taká, že ak sa nepozeráte len na bezprostredný problém, ale pokúsite sa ho premeniť na niečo, čo sa pomocou matematiky rieši už mnoho rokov, získate lepšiu odpoveď, než keby ste o tom len hovorili v ľudskom jazyku. Úžasnou zmenou posledných desaťročí je, že teraz máme stroje, ktoré dokážu úplne kľúčovú časť tohto matematického procesu robiť neuveriteľne dobre. To znamená, že môžeme použiť matematiku na vyriešenie oveľa väčšieho množstva problémov. Umelá inteligencia je len rozšírením tohto procesu.

Vo svojej prednáške na TED pred 16 rokmi ste vysvetľovali rozdiel medzi počítaním a matematikou. Aký je v tom rozdiel a prečo považujeme matematiku často len za počítanie?

Matematika je proces, ktorý zahŕňa štyri kroky: 1. definovanie reálneho alebo abstraktného problému zo sveta , 2. jeho premena do abstraktného jazyka , 3. výpočet, kedy abstraktnú otázku premeníte na odpoveď , a 4. prenesenie odpovede späť do reality, aby ste zistili, či skutočne odpovedá na pôvodnú otázku.

Veľká zmena je v tom, že tretí krok – výpočet – sa kedysi robil len ručne veľmi vysoko vyškolenými ľuďmi. V posledných desaťročiach to však počítače robia oveľa lepšie ako akýkoľvek človek. Vo vzdelávaní sme sa napriek tomu sústredili na to, aby sme všetkých naučili robiť tretí krok ručne.

Problém je, že dnes to už ľudia väčšinu času nepotrebujú; na vykonanie tretieho kroku môžu použiť stroj a sami by mali robiť tie ostatné. Ľudia si jednoducho zamieňajú podstatu predmetu s mechanikou daného momentu. Je to ako s fotografiou – keby bola bežným školským predmetom, hodiny by sa kvôli skostnatenosti dodnes začínali tým, ako sa vkladá film do fotoaparátu, hoci dnes už všetci používajú digitálne prístroje.

Pokiaľ ide o vzdelávanie, kde je v matematike ten ideálny bod, kedy by ste si povedali, čo ešte učiť deti a čo už nie?

Najprv sa musíte pozrieť na to, ako ľudia v skutočnosti používajú matematiku v reálnom svete – napríklad na stavbu mosta, výrobu auta alebo na prácu s dátovou vedou. A potom sa musíme opýtať, čo musí reálna osoba pochopiť, aby to s aktuálnou technológiou dokázala.

Počítač vie vyriešiť rovnicu oveľa rýchlejšie ako my, takže nepotrebujeme vedieť, ako ju vyriešiť ručne, ale musíme rozumieť tomu, že rovnica existuje. Naopak, v učebných osnovách dodnes chýbajú kľúčové moderné nástroje ako strojové učenie.

Pri väčšine použití matematiky nemusíte vedieť veľa o jej vnútornom fungovaní, ale potrebujete mať skúsenosti s tým, kde sa to môže pokaziť. Je to podobné ako u pilotov na simulátoroch alebo u bežných vodičov áut. Keď sa zrodili autá, museli ste rozumieť ich mechanike. Dnes je tam toľko automatizácie, že potrebujete vedieť najmä to, ako s autom pracovať. Základy matematiky sú ten štvorfázový proces – skutočné pochopenie toho, ako ho spustiť vrátane počítača uprostred, nie nevyhnutne to, ako počítač vykonáva výpočty.

Skúsim vám dať protiargument. Keby neexistovalo tradičné matematické vzdelávanie, ako ho zažívame dnes, možno by neexistovali technickí nadšenci, ktorí vymýšľajú veľké jazykové modely umelej inteligencie, čo vidíme dnes ako revolúciu v AI. Matematiku museli predsa pochopiť od základov a bez toho by to nešlo.

Vo vzdelávaní treba rozlišovať medzi hlavnými predmetmi, ktoré nútime študovať všetkých, a vecami, ktorým sa ľudia venujú, pretože ich osobne zaujímajú. Pred rokmi museli všetci študovať latinčinu a gréčtinu, dnes to už neplatí. Ak sa niekto nadchne pre starogréčtinu, je to skvelé, ale nemôžeme k tomu nútiť každého.

Pri matematike existuje legitímny argument, aby každý mal matematické vedomosti pre správne fungovanie v spoločnosti, čo nazývam „počítačovou gramotnosťou“. Rovnako ako potrebujete gramotnosť na čítanie a písanie, dnes potrebujete počítačovú gramotnosť, aby ste dostatočne rozumeli tomu, ako používať matematiku, dátovú vedu a umelú inteligenciu pre dobrý život.

Potom tu bude pár ľudí, ktorí chcú byť takzvanými „nerdmi“ a študovať matematiku ako špecializovaný predmet, čo je skvelé a potrebujeme ich, ale nie je to väčšina. Súčasná procedurálna matematika navyše odrádza obrovské množstvo študentov na školách, pretože sa nudia a nechápu jej zmysel. S typom matematiky, aký navrhujem, by sme v skutočnosti mali viac skutočných matematikov, pretože by sme neodrádzali ľudí, ktorí sú dnes zbytočne vyradení.

Skúsme sa vrátiť ešte späť k pôvodnej otázke a potom prejdime k AI. Čo je na matematike zaujímavé pre 10-ročné dieťa a ako ho pre ňu nadchnúť?

Záleží na konkrétnom dieťati. Tvorcovia osnov sú často matematici a robia chybu, že považujú matematiku za vzrušujúcu samu osebe pre každého. Pre väčšinu ľudí to tak nie je. V mojom prípade som bol v matematike proste lepší ako vo francúzštine, bavilo ma porážať kamarátov v testoch, no v skutočnosti ma skôr nadchýnala fyzika a veda, kde som matematiku potreboval ako nástroj na riešenie úloh.

Väčšinu detí nadchne skutočnosť, že môžu matematiku použiť na vyriešenie niečoho, čo ich reálne zaujíma – či už je to biológia alebo cyklistika. Ak z matematiky pre 10-ročných odstránite počítače, odstránite takmer celý kontext toho, čo by s ňou mohli v modernom svete chcieť robiť. Väčšina moderného využitia matematiky, napríklad spracovanie obrovského množstva údajov v biológii, je bez počítačov nerealizovateľná, pretože to skrátka nemôžete urobiť ručne.

Vo svojej slávnej prednáške na TED Talk spred 16 rokov hovoríte o tom, ako menili počítače našu dobu. Dnes už hovoríme v podobne duchu len o umelej inteligencii, trochu podobným spôsobom, ako vtedy. Ale prečo trvalo tak dlho, kým sa objavili veľké jazykové modely a nastalo rozšírenie umelej inteligencie, keď počítače tu máme už toľko desaťročí?

V podstate preto, že potrebujete veľmi výkonné počítače a algoritmy sa museli výrazne posunúť. V technológiách existujú body zlomu, kedy sa veci zrazu stanú realistickými.

Napríklad náš systém Wolfram Alpha z roku 2009 bol tiež umelou inteligenciou, ale symbolickou – fungoval na úplne inom princípe ako veľké jazykové modely (LLM). Ak to porovnáme, Wolfram Alpha má v ľudskom spektre skôr „aspergerovský“ charakter, zatiaľ čo LLM sú viac poetické.

Podobný bod zlomu sme zažili, keď sme v roku 1988 uviedli na trh program Mathematica – v tom čase stolové počítače nemali dostatok RAM a výkonu na to, aby niečo také zložité bez problémov spustili pre každého.

Kritici hovoria, že používanie počítačov nás robí lenivými alebo hlúpymi. Ako reagujete na obavy, že strácame schopnosť myslieť sami za seba?

Ak sa pozriete do vonkajšieho sveta na oblasti ako veda či inžinierstvo, kde dnes používame matematiku oveľa viac ako kedysi, stali sa koncepčne jednoduchšími? Odpoveď je nie, stal sa presný opak, sú oveľa náročnejšie. Počítač nás posunul na inú úroveň schopností, a tá ľudská časť je v mnohých ohľadoch náročnejšia.

Stroje je samozrejme možné používať bezmyšlienkovito, podobne ako v digitálnej fotografii, kde môžete bez rozmyslu nacvakať množstvo odpadu. História však ukazuje, že vďaka strojom sa posúvame koncepčne vyššie. V priemyselnej revolúcii mechanickú prácu nahradili stroje a prešli sme k znalostnej ekonomike. Teraz sme v situácii, kedy používame svoj mozog s pomocou strojov, aby sme dosiahli výsledky. Väčšina ľudí dnes premýšľa intenzívnejšie a koncepčnejšie, než tomu bolo v minulosti, pretože to potrebujú na dosiahnutie úspechu.

Patríte medzi tých, čo predpovedajú koniec sveta kvôli AI alebo patríte skôr k optimistom?

V podstate som optimista, ale to neznamená, že uprostred toho všetkého nebudú ľudia, ktorí utrpia škodu, alebo že nenastanú krízové momenty, ako pri každej veľkej priemyselnej revolúcii. S novou technológiou prichádzajú výhody, ale aj nové hrozby. Kľúčové je preto prispôsobiť vzdelávanie reálnemu svetu a integrovať technológie.

Krajiny, ktoré budú napred v posúvaní ľudí k počítačovému spôsobu myslenia, budú mať v tejto revolúcii obrovskú výhodu. Musíme sa vzdelávať v tom, ako riadiť umelú inteligenciu a stroje ako súčasť svojej práce, a nenechať sa nimi riadiť.

Aké sú vaše najväčšie obavy, pokiaľ ide o umelú inteligenciu? Poviem vám tie svoje, ak môžem a skúste ich okomentovať. Z môjho hľadiska sú to najmä tieto dve. Po prvé, vytvorenie skutočne funkčnej AI si vyžaduje obrovské zdroje a tie sú teraz koncentrované v rukách niekoľkých spoločností a prakticky nikto ďalší nemá šancu ich napodobniť. Tá druhá obava je – keď som videl, že AI má vlastný chat, kde medzi sebou diskutuje a ľudí tam nazýva ako hlúpymi a menejcennými, dosť ma to vystrašilo.

Obavy z koncentrácie moci a bohatstva sú úplne racionálne. Kvôli obrovským nárokom na zdroje a elektrinu si prevádzku poriadnej AI bude môcť dovoliť len niekoľko spoločností a bohatstvo sa môže koncentrovať v rukách málokoho. Už to do istej miery vidíme pri softvéri. Poistkou proti katastrofickým scenárom je to, aby ľudia – a to v zásade každý, nielen elita na vrchole – lepšie pochopili, ako technológie používať a spravovať.

Veľkým problémom v spoločnosti je tiež to, že sa naše chápanie rizika kvôli zlej počítačovej gramotnosti zdeformovalo. Zavádzame čoraz viac regulácií, ktoré v skutočnosti brzdia rozvoj a bránia nám rýchlo reagovať na zmeny. Politici často optimalizujú nejaké veľmi zjednodušené čísla a modely, ktoré nezodpovedajú komplexnej realite, a nakoniec nedosiahneme požadovaný výsledok.

V svete, kde umelá inteligencia dokáže vyriešiť takmer akúkoľvek rovnicu, čo robí ľudský mozog výnimočným? Čo počítač nikdy nezíska?

Slovo „nikdy“ by som nepoužil, pretože budúcnosť sa predpovedá ťažko. Ľudia však dokážu vo svojom myslení robiť náhle koncepčné skoky – akési momenty „čiernej labute“, kedy vidia veci úplne inak. Súčasná AI typu LLM (veľké jazykové modely) spracováva obrovské množstvo už existujúcich informácií a nachádza medzi nimi štatistické prepojenia veľmi šikovnými spôsobmi. Pri generovaní úplne nových nápadov a nečakaných spôsobov myslenia však zatiaľ nie je jasné, či je to to, čo skutočne robia. Od ľudí stále pochádza jedinečná zmes myšlienok, ktoré nevyzerajú len čisto mechanicky premyslené.

Dnešná mladá generácia hľadá okamžité odpovede cez Gemini alebo Chat GPT. Nemáte obavu, že budú lenivejší alebo hlúpejší?

Problém s odolnosťou a pripravenosťou na konkurenčný život súvisí skôr s tým, ako dnes realizujeme vzdelávanie, s AI to nemá nič spoločné. Naši najlepší ľudia na vrchole určite nie sú hlúpejší.

A pokiaľ ide o medián, teda priemernú spoločnosť?

Pri priemernom mediáne je to zložitejšie, pretože sa zväčšuje priepasť medzi tými, ktorí počítačové myslenie ovládajú, a tými, ktorí nie. Svet sa stal pre mnohých ľudí príliš zložitým, a preto sa v porovnaní s tým, čo musia zvládnuť, zdajú menej schopní. Prehlbuje sa priepasť a hrozí, že sa zmenší stredná vrstva.

Schopnosti ľudí sa však historicky vždy menili. Ja napríklad netuším, ako sa stavia dom a neviem naostriť brko na písanie, pretože používam počítač. Zmena zručností neznamená hlúposť; väčšina nových zručností je koncepčne zložitejšia, pretože akoby stúpame o úroveň vyššie, aby sme prežili. Kalkulačky a počítače síce dávajú väčšiu možnosť výsledky predstierať bez porozumenia, ale ak stroje nasadíme správne, robia ľudí oveľa koncepčnejšími v tom, čo robia.

Ak by ste si mali vybrať jednu zručnosť, na ktorú by sa mali mladí ľudia v tejto dobe zamerať, čo by to bolo?

Pochopenie a aplikovanie spomínaného štvorstupňového procesu počítačového myslenia. Ak nerozumiete, ako to robiť, budete v budúcnosti vylúčení z mnohých vecí. Väčšina moderných rozhodnutí v spoločnosti má dnes výpočtový základ – videli sme to napríklad pri algoritmoch, grafoch a tabuľkách počas pandémie. Ak tomuto procesu vôbec nerozumiete, máte problém. Táto zručnosť vám dáva pevný základ, pomáha vám pochopiť, ako stroje fungujú, a vďaka tomu sa v živote nenecháte tak ľahko oklamať.

Rozhovor vznikol v spolupráci konferencie Eduforum, ktorá každý rok hostí svetových lídrov v oblasti vzdelávania.