Az atombombák helyett a technológiai cégek hozhatják el a világvégét – a szakértők aggódnak

Az atombombák helyett a technológiai cégek hozhatják el a világvégét – a szakértők aggódnak
A mesterséges intelligencia az egész emberiségre veszélyt jelent jó pár szakértő szerint. De akadnak, akik szerint csak fölösleges hisztériakeltésről van szó.

Mióta az első számítógépet bekapcsolták az emberiség jószerivel azóta fél, hogy a komputerek az alkotóik ellen fognak fordulni. Már 1970-ben is sikert aratott az a „Colossus: A Tiltott Projekt” című mozi, amelyben egy gépi értelem (artificial intelligence – AI) lassan rabszolgasorba kényszeríti a Föld lakosságát. Annyira behálóz mindent, hogy az emberek már alig tudnak úgy beszélni, hogy a szavaikról a gonosz gép ne szerezzen tudomást.

A téma számos klasszikusban felbukkant a 2001: Űrodüsszeiától, a Terminátor filmeken keresztül a Mátrix mozikig.

Sokáig mindez a sci-fi írók képzelgésének tűnt. Azonban újabban az emberiség létét fenyegető mesterséges intelligencia már nem csak a fikciós történetekben, hanem a szakmai írásokban is egyre többször bukkan fel. Pláne most, hogy egymást érik az új fejlesztések.

A Microsoft támogatását élvező OpenAI nevű kutatólaboratórium nyelvi szoftvere például már az adóbevallásban is segít, webszájtot is tud programozni, egy képnek pedig a mélyebb értelmét is ki tudja elemezni. Az ügyvédi vizsgát pedig kiváló eredménnyel tette le. Okkal merül fel a kérdés: ha most itt tartunk, mi lesz pár év múlva?

A vészharangot egyre többen kongatják.

Geoffrey Hinton, aki az AI egyik atyja egyenesen azt állította: megbánta a munkásságát.

Margrethe Vestager az Európai Unió digitális korszakért felelős ügyvezető alelnöke szerint eljuthatunk oda is, hogy az AI már a választások kimenetelét is befolyásolni fogja.

A sötét jóslatok közt talán a legborúsabbal a kaliforniai Gépi Intelligencia Kutatóintézet vezetője Eliezer Yudkowsky állt elő, aki szerint a robotok teljesen ki is irthatnak minket.

A szakember, aki a TIME-ban közölte a véleményét, úgy véli: a kritikus pillanat akkor fog eljönni, amikor a gépi értelem már intelligensebb lesz az embereknél.

"A legvalószínűbb eredménye egy emberfeletti intelligenciájú gép értelem megalkotásának - a jelenlegi körülmények között - az, hogy a Földön szó szerint mindenki meg fog halni. Nem úgy, hogy "talán van rá némi esély", hanem úgy, hogy ez a legkézenfekvőbb dolog, ami történhet."

Mint hangsúlyozza: ha létrehozunk maguknál valami okosabbat azt elvi szinten túl lehet élni, csak ennek nincsenek meg jelenleg a feltételei. Ehhez komoly előkészületekre és új tudományos felismerésekre lenne szükség, és valószínűleg nem olyan AI-rendszerekre, amelyek tört számok óriási, kifürkészhetetlen tömbjeiből állnak.

Valamiként biztosítani kéne, hogy a mesterséges intelligencia megértse, hogy az életet tisztelni kell. Csak hogy nem tudjuk, hogy ezt milyen eszközökkel lehetne elérni egy öntanuló rendszernél, amelynek az irányítása könnyen kicsúszhat a kezünk közül.

Félő, hogy a kiokosodott AI csak egy biológiai masszaként kezel majd minket, amelynek az alkotóelemeit fel tudja használni a saját céljaira.

Yudkowsky szerint idővel a gépi korlátokon is átléphet az AI például azzal, hogy a saját céljainak megfelelő szerves életformákat hoz létre. Már most is van olyan létező technológia, amellyel élő szerveket lehet nyomtatni.

Yudkowsky tanácsa radikális: szerinte minden AI projektet le kell kapcsolni.

Olvasd el a teljes cikket a Növekedés oldalán!

Kövesd az oldalunkat a Facebook-on és a Twitteren is!