16 gondolkodó, 16 AI-nézőpont | 📕Ki alakit kit? könyv az AI-ról

A könyv 6 fejezetből áll. Ez az 3. fejezet: Ők azok, akik a jövőt írják 10. rész: Kikre érdemes figyelni az AI-korszakban?

A teljes tartalomjegyzéket a könyv oldalán találod meg, ahol még több publikus fejezetbe is beleolvashatsz.

A könyvet itt tudod előrendelni.

‍

A könyv célja, hogy utat mutasson neked ne csak a következő ChatGPT- vagy Claude-modell megjelenéséig, hanem térképként és iránytűként tudd használni a következő években, amikor még tovább gyorsulnak a változások. Ha az elmúlt években olvastál cikkeket a mesterséges intelligenciáról, akkor minden bizonnyal találkoztál olyan nevekkel, mint Sam Altman, Eric Schmidt, Elon Musk vagy Dario Amodei – ő a Claude mögött álló Anthropic CEO-ja –, akik rendszeresen nyilatkoznak vállalatuk éléről a legújabb modellek kapcsán. 

Ha róluk szeretnél többet megtudni, érdemes lehet elolvasni Karen Hao Az AI birodalma: Álmok és rémálmok Sam Altman Open AI-jában vagy Stephen Witt The Thinking Machine: Jensen Huang, Nvidia, and the World’s Most Coveted Microchip (A gondolkodó gép: Jensen Huang, Nvidia és a világ legvágyottabb mikrochipje) című kötetét. 

A hazai szakértők, mint Rab Árpád, Keleti Arthur, Pogátsa Zoltán, nyilatkozataival, gondolataival is könnyen találkozhattál.

Azonban nem csak rájuk érdemes odafigyelni, ugyanis az AI-ról szóló vita sokkal fontosabb ennél. Érdemes lenne meghallgatni olyanokat is, akik jobban a felszín alá látnak, több, olykor sajnos aggasztóbb gondolatot, kétséget is megosztanak a hallgatósággal. Fontos lenne ezekkel is tisztában lenni, ezekre is odafigyelni. Vannak ugyanis, akik nem annyira optimisták ezekkel a rendszerekkel kapcsolatban, és a többséghez képest eltérő módon gondolkodnak a mesterséges intelligenciáról és az AGI-ról. Köztük is van, aki szerint az AI megoldhatja az emberiséget fenyegető válságokat, mint amilyen a klímaválság is. Mások pedig komoly aggodalommal figyelik az AI fejlődését és a technológia mögött egymásnak feszülő nagyhatalmakat, Amerikát és Kínát. 

Ezért összegyűjtöttem azokat a gondolkodókat, akikre én is igyekszem figyelni a minket körülvevő általános és az AI-t övező hatalmas médiazajban. Akikről azt gondolom, érdemes időt szánni a gondolataikra, a velük készült beszélgetésekre, az általuk írt könyvekre.

A következő rövid portrék olyan szakértőket mutatnak be, akiknek a gondolataival túl ritkán találkozhatsz a napi hírekben, mégis hasznos odafigyelni ezekre is. Mindegyik egy-egy új nézőpontot ad számodra, és segít megérteni, hogy miért is aggódnak valójában.

Karen Hao

Karen Hao újságíró az AI-iparágra nem technológiai csodaként, hanem egy új ipari forradalomként tekint, aminek a különböző eszközei – adatközpontok, áramtermelés, chipek, és feltanított modellek – akár egy új társadalmi-gazdasági berendezkedés alapjául is szolgálhatnak. Az általános megközelítéssel szemben, amivel a mindennapokban találkozunk, miszerint melyik rendszer melyik modellje mire képes, sokkal inkább azt a kérdést helyezi a középpontba, hogy milyen áron, milyen költségen működik az adott modell vagy platform. Mennyi adattal, energiával, víz felhasználásával, azaz mekkora társadalmi költséggel milyen teljesítményre képes az adott rendszer? 

Magyarul is megjelent, korábban említett könyve, Az AI birodalma fókuszában Sam Altman és cége, az OpenAI áll, amelyről igen negatív képet fest – nem véletlenül, de mindenképpen hiányzik belőle egy átfogóbb és válaszokkal is rendelkező szemlélet.

Ray Kurzweil

Ray Kurzweil könyvei ugyanerre a fő tézisre épülnek, csak merészebb következtetésekre jut, mint Karen Hao: a technológiai fejlődés nem lineáris, hanem gyorsuló, egymásra épülő S görbék sorozata. Korábbi köteteiben azt térképezte fel, hogyan válik a számítási kapacitás és a szoftveres módszerek fejlődése hétköznapi üzleti és társadalmi hatalommá – vagyis hogyan válik láthatóvá és érzékelhetővé a technológiai ugrás a mindennapokban.

A szingularitás küszöbén című könyve szerint a szingularitás elkerülhetetlen realitás az emberiség számára, amelyben a vezetők jellemzően túl későn reagálnak, mert az S alakú fejlődési görbék lapos fázisa alapján becsülik meg a közeljövőt, miközben a gyors fejlődésű fázisban – az S alak meredekebb időszakai – már nem lehet elkerülni az elkerülhetetlent, így pedig felkészületlenül érhet minket az ASI, AGI megjelenése, egy olyan korszak, ami felett nincs ráhatásunk, kontrollunk többé.

Tim Urban

Tim Urban a Wait But Why blog szerzőjeként rengeteg érdekes és említésre méltó gondolatot fogalmaz meg, amelyeket nemcsak vállalkozóként vagy vezetőként érdemes elolvasni és átgondolni, de akár munkavállalóként, diákként, tanulóként is. Az egyik ilyen fogalma a DPU – Die Progress Unit –, ami a már említett fejlődési szakaszok S görbéit helyezi új kontextusba. Ezt azóta én is beépítettem az egyik előadásom gondolatmenetébe. 

A DPU-n keresztül Urban azt teszi érzékletessé, hogy nehezen tudunk felkészülni az előttünk álló változásokra. A fogalom azt jelöli, hogy mennyi időnek kell eltelnie ahhoz, hogy a múltból az időben előreutazó ember egy olyan valóságba kerüljön, aminek a változásai már feldolgozhatatlanok számára. 

A gondolatkísérlet mindenképpen érdekes, különösen, ha a jelenre alkalmazzuk. Mit gondolunk: 2026-ból nézve mennyi időnek kell eltelnie ahhoz, hogy egy olyan jövőbe kerüljünk, amit egyszerűen már nem tudnánk befogadni, feldolgozni? Képesek vagyunk jól megbecsülni ezt az időintervallumot, vagy talán alul-, esetleg felülbecsüljük? Ebben az elképzelt jövőben szerepel már a szuperintelligencia? Meg tudjuk becsülni, milyen lenne egy ilyen jövő? Hogyan nőne fel benne a gyermekünk? Mivel találkozna? Mit tartana természetesnek abból, ami számunkra ma még elképzelhetetlen?

Frank Wilczek

Frank Wilczek Nobel-díjas elméleti fizikust azért emeltem be ebbe a gondolatmenetbe, mert írásaiban, gondolataival, példáival visszahozza az AI-ról való beszélgetést a mindennapjaink szintjére. Szerinte a világ működését sokkal inkább törvényszerűségek írják le, semmint narratívák, ahogy például Yuval Noah Harari közelíti meg az emberiség történetét. Amikor ugyanis különböző technológiai jóslatokat hallunk, érdemes magunkban visszakérdezni: mi az, ami fizikai értelemben lehetséges, és mi az, ami csak vágy vagy éppen a befektetők, részvényesek felé szóló ígéret – persze el nem szeretném vitatni a SpaceX mérnökeinek és vizionáriusának az innovációit és újító gondolatait, eredményeit. 

Wilczek az interjúiban segít kimozdítani minket abból a kényelmes, a hype-okat mantrázó beszélgetési panelekből, amikkel gyakran találkozom én is az magyarországi konferenciákon. Természettudományos alapokon nyugvó gondolkodása nekem is segít abban, hogy olyan keretrendszereket alakítsak ki – akár az AI működésével, változásaival kapcsolatban –, amelyek túlmutatnak ezeken a napi szintű bejelentéseken, nyilatkozatokon.

Wilczek munkái közül az Alapelvek: A fizika tíz kulcsa a valósághoz segít tisztábban látni, mit jelent valójában az információ, hogyan működnek a természeti törvények, illetve az ezeket leíró modellek. Ezeket jobban megértve pedig közelebb kerülhetünk az AI jobb, objektívebb megértéséhez is, anélkül hogy alá- vagy éppen felülbecsülnénk bizonyos részeit és a mindennapjainkra gyakorolt hatását.

Geoffrey Hinton

Geoffrey Hinton brit–kanadai informatikus, kognitív tudós és kognitív pszichológus, akit az AI keresztapjának is szokás hívni. Interjúit hallgatva két dolgot érdemes kiemelni: szerinte 5-20 éven belül az AI okosabbá válhat nálunk, és akár 10-20% esélyt lát arra is, hogy a mesterséges intelligencia korlátozásának hiánya a fajunk kihalásához vezethet. Szerinte a szuperintelligencia elérése közelebb lehet, mint gondolnánk, de a társadalmunk, illetve a szabályozási rendszerünk még nincs felkészülve erre. 

Hinton a modern neurális hálózatok egyik meghatározó kutatója. 1986-os, backpropagationről – a backpropagation leegyszerűsítve egy olyan tanítási eljárás, amely a hibából visszafelé számolja ki, hogyan kell kiszámítani a hálózat paramétereit, hogy a következő válasz pontosabb legyen. – szóló munkája mérföldkő volt a mai neurális hálózatok fejlődésében és fejlesztésében. 2018-ban Yoshua Bengióval és Yann Le Cunnal együtt Turing-díjat kapott, majd 2024-ben pedig John Hopfielddel megosztva fizikai Nobel-díjjal ismerték el a gépi tanulás alapjait meghatározó munkájáért. Éppen ezért Hinton megszólalásait önkritikus figyelmeztetésekként is érdemes olvasni: egy olyan ember beszél a kockázatokról, aki valóban tudja, érti, mit beszél. Ma már egyre inkább szószólója annak, hogy ami jelenleg történik, az könnyen oda vezethet, hogy a rendszer fejlődése gyorsabbá válik, semmint kontroll alatt tudjuk tartani azt. 

Ehhez kapcsolódik az a sokat idézett gondolata is: a nálunk intelligensebb rendszerek feletti kontrollra nincs sok pozitív történelmi példa, azaz a domináns, intelligens faj mindig legyőzi, maga alá rendeli a gyengébbet. A Nobel-interjújában is beszélt arról, hogy alig ismerünk olyan esetet, amikor egy kevésbé intelligens lény tartósan kontrollálna egy nála intelligensebbet. Az egyetlen jó példája a csecsemő és az anya viszonya, de ott is az evolúció rengeteg munkát tett abba, hogy ez a kapcsolat kialakuljon – valószínűleg nekünk ennyi időnk nem lesz. 

Ezért Hinton az utóbbi években egyre inkább a kockázatkommunikáció felé fordult, a nyilatkozatai, a megszólalásai a különböző podcastekben is erről szólnak. Már az egyik 2023-as interjújában arról beszélt, hogy az AI jelentette fenyegetés akár sürgetőbb is lehet, mint a klímaváltozás. Részben ezért hagyta ott a Google-t, hogy szabadabban tudjon beszélni ezekről a veszélyekről, aggódva az egzisztenciális kockázat miatt. Interjúiban sokszor ad hangot annak, hogy a nagy cégek jelenleg inkább a kevesebb szabályozásért lobbiznak, miközben szerinte jóval több erőforrást kellene biztonsági kutatásra fordítanunk társadalmi szinten. Az AI ugyanis könnyen válhat akár népszavazás, választási manipuláció, dezinformáció és háborús felhasználás eszközévé – ez utóbbiról később írok még –, valamint, hogy az AI-chatbotokkal terjesztett félretájékoztatás a Facebook és más platformok korábbi működésének egy új változatát hozhatja el. 

Prof. Stuart Russell

A Berkeley-i Kalifornia Egyetem professzora, a Center for Human-Compatible AI (Emberközpontú Mesterséges Intelligencia Kutatóközpont) vezetője és a terület egyik alapművének, a Mesterséges intelligencia modern megközelítésben társszerzője, vagyis a modern AI egyik legikonikusabb szereplője. Számára a valódi kérdés az, hogy vajon mennyire és meddig marad még a mi kezünkben az irányítás, ha egyszer nálunk kompetensebb rendszereket hozunk létre.

Russell podcastbeszélgetéseiben gyakoran mesél arról, hogyan lehet olyan AI-rendszereket építeni, amelyek összeegyeztethetők az emberi érdekekkel, miközben a rendszerek képességei folyamatosan nőnek. A fent említett könyv szerint a megszokott AI-logika – vagyis hogy egy gépnek mereven rögzített célokat adunk, aztán egyre jobbá tesszük a célok elérésében – veszélyesen félrevihet bennünket, ha a rendszer sokszorosan hatékonyabbá válik. Ha azonban a(z ember által) meghatározott cél kimunkálatlan marad, akkor könnyen olyan válaszokat, megoldásokat találhat az AI, amire egyrészt mi nem gondolunk, másrészt nem biztos, hogy segíti a túlélésünket. Russell szerint pont emiatt kellene erősebb védőkorlátok (guardrailek) közé szorítani az AI-t, valamint tovább és mélységében lenne szükséges vizsgálni a működését. Szerinte az AI fejlesztését úgy kellene folytatni, hogy a gép kevésbé rutinokból, mintákból válaszoljon, legyen nyitottabb, befogadóbb az emberi preferenciákat illetően, és ezért együttműködően, visszakérdezve, korrekcióra nyitottabban működjön.

Egy 2023-as amerikai szenátusi meghallgatáson Russell elmondta: az elmúlt évtized kutatásának központi kérdése az volt, hogyan őrizzük meg tartósan a hatalmat olyan entitások felett, amelyek végül erősebbek lehetnek nálunk. Hinton mellett tehát Russell is ugyanarra a következtetésre jutott: ha létrehozol nálad kompetensebb döntéshozót, akkor a te preferenciáid csak addig számítanak, amíg a rendszer belső szabályai azt garantálják.

Van egy általa többször elmesélt gorilla-metafora is: a gorillák nem azért veszítették el az irányítást a saját jövőjük – életterük – felett, mert az ember alapvetően gonosz volna, hanem azért, mert az ember sokkal inkább képesek átalakítani a gorillák világát, mint ők maguk. Egyszerűbben megfogalmazva: a gorillák fajként lényegében csak annyira rendelkeznek a saját jövőjük felett, amennyit az emberek megengednek nekik. 

Russell a szenátus előtt tett nyilatkozatában is hangsúlyozta, hogy ezek nem pusztán technológiai kérdések. A szabályozásnak, az intézményi rendszernek és a politikai-társadalmi beavatkozásnak is nagy szerepe van abban, hogy a kontroll rendszerszinten épüljön be az AI fejlesztésébe és alkalmazásába.

(...) 

A rész folytatása a könyvben található.

A könyvet itt tudod előrendelni.‍

Ha érdekel a könyv többi, letölthető, szabadon olvasható része, kérlek nézd meg a Ki alakít kit? - Emberek maradunk-e az AI korszakban könyv oldalát. Ha szeretnéd megkapni a fejezeteket, kérlek add meg az email címed, amire elküldhetem őket!