Az emberiség legfőbb veszélyforrása a saját elitje - gondolatok a gépi intelligencia hatásáról

Először a gépi intelligenciát tegyük helyre. A Sapir-Whorf hipotézis szerint a nyelvhasználatunk meghatározza a gondolkodásunk. Ha azt mondod egy eszközre, hogy „okos”, azt hiszed úgy működik, mint te, csak jobban, pedig dehogy. Okosságról az élővilágban a gerincesek ugrásával beszélhetünk. Lehet lesz szingularitás a gépeknél is, de az nem mennyiségi következmény lesz, és nem a mostani módszer jellemzi. A Chat GPT voltaképp nem tud gondolkodni, állítólag nyelvi kapcsolatok gyakoriságának millióiból másol. Nincs érzelmi szükséglete, nem kell lekötnie magát, „odabenn” nem történik egyelőre semmi izgalmas, hiába is kutatná egy kognitív pszichológus. De attól még, hogy sokkal érdekesebben működünk mi emberek, mint az „okos” eszközeink, azok még a maguk primitív formájában katasztrófát hozhatnak ránk. És nem úgy, ahogy a sci-fik-ben, hogy ellenünk fordulnak, hanem úgy, hogy a rabszolgáink lesznek. Nem ők lesznek veszélyesek ránk, hanem esetleg mi saját magunkra. Röviden leírom miért is.

Az egyiptomiaknál a piramisok építéséhez rabszolgákra volt szükség. Ha a gépek tudnak piramist építeni, nem kellenek rabszolgák. A feudalizmusban a nemeseknek jobbágyokra volt szüksége. Ha a gépek megtermelik az élelmiszereinket nem lesz szükség jobbágyokra. A nemzeteknek katonákra volt/van szüksége, ha a gépek fognak harcolni nem kell tovább odafigyelni az anyák sóhajára. A modern demokráciákban az elitnek szavazókra van szüksége, de ha az elit kezébe kerülnek a gépek, amelyek mindennel ellátják őket, nincs szükség tovább szavazókra. Az emberiség történetében először nem lesz szükség az elitnek a tömegre. Így joggal állíthatjuk, hogy a szingularitás előtt már az ember legnagyobb veszélyforrása maga az ember lesz.

Ez önmagában is elég érdekes, de hadd áruljam el, a dolog továbbgondolható.

Feltételezésem szerint a folyamat során verseny alakul ki az elit önfejlődése és a gépek fejlődése közt. A történet hasonlít az atombombához: valamit lehet előbb találunk fel, mint amire elég okosak vagyunk. Vagy ráébredünk a veszélyére és korlátok közt tudjuk tartani, mint az atomot, vagy elpusztítjuk magunkat. Az elitet kiszolgáló gépi világ azért veszélyes, mert az elit elpusztíthat minket. (Ez lehet jó hír a túlnépesedéstől félőknek, a természetért, a Földért aggódóknak, de több milliárd ember számára nem jó hír. Esetleg kedves olvasó a te utódaidat fogják kiírtani, mert valymi kevés esélyed van, hogy pont a te utódaid kerülnek be az elitbe.)

Mitől függ, hogy a gépi technológia fasizálódást hoz maga után vagy valami mást? – Egy másik fejlődési vonalat kell behoznunk, hogy erre válaszolni tudjunk. Az elit fejlődése ugyanis a géntechnológián keresztül fog történni. A gazdagok egyre tökéletesebb gyerekeket tudnak nemzeni, és azt hiszem ezek az egyre tökéletesebb emberek, akik uralni fogják a pénzügyi világot és a politikait, szolgálatukba állítják majd a gépeket. Még mindig a szingularitás előtt vagyunk, tehát az MI még mindig nem „okos”. Ha ez az elit morálisan is fejlődni fog, nem fogja kiírtani a tömegeket, ha viszont lasabban fejlődik, mint ahogy a gépek hatalmat adnak a kezébe, akkor fasizálódás útjára lépünk.

A harmadik lépcső nyilván a gépi intelligencia szingularitása, de én attól tartanék a legkevésbé.

Még egy gondolat, ami viszont most történik: az a generáció, amelyik a ChatGPT segítségével oldja meg a házifeladatokat elveszíti azt a képességét, amit a mostaniak még nagyon pengén csinálnak. A keresgélés, szövegértés, kimazsolázás, szerkesztés (controlc-controlv) tudást. Viszont, jól kell tudniuk kérdezni.

#MI

---

---