Van otthon tartós tej? Itt az ideje a nyakára hágni. Belátható időn belül itt van az általános mesterséges intelligencia, és semmi sem lesz olyan, mint előtte volt. Lehet, hogy a tej se. Jan Romportl, cseh mesterséges intelligencia kutató, az O2 mobilszolgáltató vezető adattudósa adott elő a think.BDPST konferencián.
A tartóstej valószínűleg túlzás volt. Jan Romportl jó előre bejelentette, hogy nem bocsátkozik jóslatokba, mert az egy vesztes játék. Az MI kutatók jellemzően a haláluk vagy a visszavonulásuk utánra szeretik prognosztizálni az általános mesterséges intelligencia megjelenését, mert akkor ha tévednek sem lehet rajtuk számon kérni a jóslatot. Ha pedig időközben létrejönne az általános MI, nos akkor mindenkinek lenne fontosabb dolga, mint a jóslatok felülvizsgálata.
De tisztázzuk először a fogalmakat. Az általános mesterséges intelligencia (AGI, azaz artificial general intelligence) az a mesterségesen létrehozott jószág, ami nagy szellemi teljesítményre képes területek széles spektrumán. Egyszerűbben fogalmazva:
olyan mesterséges intelligencia, ami jó mindenben.
Senki nem maradt le semmiről, ilyen ma nem létezik. Ami van helyette, az a narrow, azaz szűk mesterséges intelligencia. A szűk jelző nem azt jelenti, hogy ezek a rendszerek ostobák. A saját területén egy szűk MI sokkal jobb lehet az embereknél. Valószínűleg nincs az a profi kutató könyvtáros – és ez nem arról szól, hogy a könyvtárosokat lebecsülnénk, ők valóban szuperhősök – aki felérne a Google-höz általános dokumentumkeresésben.
Vannak ennél konkrétabb példák is. Csehországban teszteltek, és végül az orvosok ellenállása miatt elutasítottak egy rendszert, ami skizofréniától szenvedőknek és rokonaiknak küldött ki kérdéseket, és az erre SMS-ben kapott válaszokból figyelmeztette az orvost a visszaesés lehetőségére. Ilyenkor az antipszichotikus szerek dózisának emelésével megelőzhető a visszaesés. A Csehországban elutasított módszerrel Japánban hetven százalékos visszaesést sikerült elérni az öngyilkosságokban.
Az MI magával hozhatja a pusztulásunkat
Romportl nem rejtette véka alá, hogy az általános mesterséges intelligencia kérdésköre fontos egzisztenciális problémákat is rejt. Például, ha az embernél intelligensebb rendszert hozunk létre, akkor az az emberi lét átgondolását is magával kell hozza. Nem leszünk egyedül intelligens lények a világban, viszont a másik létező nem emberi lesz.
És a fenti még nem is a legnagyobb gondunk. Úgy kell irányítanunk az általános MI létrehozásának amúgy beláthatatlan folyamatát, hogy a végén egy barátságos MI jöjjön létre. Egy nálunk intelligensebb, emiatt nagy hatalmú lény, ami számára teljesen indifferens az emberiség, komoly veszélyt jelent. Még a meg is próbálja a neki kiszabott, az emberiség számára fontos célokat, elképzelhető, hogy az általa választott út káros számunkra.
„Képzeljük el, hogy a cél az, hogy minden ember mosolyogjon. Egy barátságtalan, indifferens MI dönthet úgy, hogy erre remek megoldás, ha a mosolyokat pillanatragasztóval rögzítjük.”
Nem tudjuk, hol jön majd létre
A szakértő szerint várhatóan nem, hogy a Google, a Facebook, egy startup vagy valamelyik általános mesterséges intelligencia fejlesztési verseny lesz-e a szülőhelye végül az általános MI-nek.
A mainstream kutatásból elágazó irány vezet majd eredményre, de nem a Google vagy a Watson lesz majd még intelligensebb.
Az elképzelhető, hogy több szűk mesterséges intelligencia összedolgozása alakítja majd ki az emberi jellegű általános MI-t.
„A szűk MI-nek te adod meg a tudásterületét. Az általános MI-nél nincs ilyen. Meg kell tanulnia tanulni, területeket felfedezni, rendszerezni” – mondta Romportl. Az általános intelligencia megjelenési utáni idők történéseire csak tippelgetni lehet. Megeszi az összes rendelkezésre álló számítási kapacitást és energiát? Elpusztít bennünket.
Lehet, hogy csak annyit fogunk először látni, hogy San Francisco mellett felrobbant egy laboratórium és utána jött egy nagy áramkimaradás.
Önmagunk bebiztosításának módja, hogy olyan végső célt építünk a rendszerbe, ami a barátságos mesterséges intelligencia létrejöttét teszi valószínűbbé. Az emberek számára fontos értékeket hordozó géppel együtt tudunk működni.
A t-betűs szót kerüljük
És hogy ez a gép tudatos lesz-e? A mesterséges intelligencia kutatók nem szeretik ezt a szót, mert mindenki csak a saját öntudatáról rendelkezik első kézből származó tapasztalattal. Romportl szerint fontos lesz öntudatot tulajdonítani az általános MI-nek, már csak azért is, hogy tudjunk hozzá viszonyulni. Az öntudat azonban olyan emergens tulajdonság, amivel nehéz bármit kezdeni.
Létrejöhet ráadásul olyan helyzet is, ahol pont azt szeretnénk, ha nem rendelkezne öntudattal a rendszer. Például ha a minden orvosi, jogi, banki adatot feldolgozó Watson válik egyszer szuperintelligenssé, lehet akkor jobban szeretnénk, ha nem gondolkodna minden privát adatunkon. Az viszont a következő kérdés, hogy etikus-e elvenni a tudatosságot egy ilyen rendszertől? És el lehet-e venni egyáltalán?
Szólj hozzá