Jegyet vettünk a mesterséges intelligencia-vonatra, de nem értjük az algoritmusokat

Jegyet vettünk a mesterséges intelligencia-vonatra, de nem értjük az algoritmusokat
Egyes mesterséges intelligenciák feladataikat tanulásukból egyáltalán nem következő eredménnyel zárják. A fejlesztők sem értik mindig, hogyan jutottak el A-tól B-ig, mi játszódik le a „fekete doboz” belsejében.

Ötven éve egy Magyarország méretű számítógép sem lett volna elég arra, amit ma pirinyó chipek elvégeznek. A hardverkapacitás és a rendelkezésre álló, feldolgozható adatmennyiség drasztikus növekedésével exponenciálisan nő a gépi intelligencia és az azokat megalapozó algoritmusok teljesítménye is. Webes böngészéstől pénzügyi döntéshozásig, szinte minden területen számíthatunk az élet fontos tényezőivé vált algoritmusokra. Minél intelligensebbek, annál komplexebb feladatok elvégzésére képesek, lényegében bármit pontosan körülírhatót, jól definiálhatót, számszerűsíthetőt megtanulnak: autót irányítanak, sokkal hamarabb észlelik a rákot, mint az orvosok, gómesterek, pókerfenomének, profi videojátékosok felett diadalmaskodnak.

Olykor-olykor – mind inkább – viszont kiszámíthatatlant húznak, és avatott gépitanulás-szakértők sem értik a hogyant.

Emberi aggyal felfoghatatlan lépett
A Google-hoz tartozó londoni DeepMind AlphaGo MI-algoritmusa 2016 elején fölényesen, 4-1-re verte az akkor góban a világ legjobbjának tartott dél-koreai Lee Szedolt. A kulcsmomentumnak a második játszma 37. lépése bizonyult, AlphaGo ekkor ugyanis mindenki más számára értelmezhetetlent, humán aggyal felfoghatatlant lépett, egy a tízezerhez volt rá az esély, mégis megtette, mert nagyságrendekkel több lehetőséget látott át, mint fog valaha is az ember. Ezzel nyert, de senki nem értette, miért választotta az ominózus lépést, milyen elemzéseket, előrejelzéseket futtatott le hozzá.

2017-ben a Facebook azt a feladatot adta ki két chatbotnak, hogy tárgyaljanak egymással. Végül tárgyaltak is, de angol helyett fejlesztettek egy, humán működtetőik számára érthetetlen „magánnyelvet.” Tanulóalgoritmusaik jóvoltából valószínűleg sokkal hatékonyabb kommunikációs módszert dolgoztak ki, mintha emberek munkálkodtak volna rajta. Az operátorok gyorsan le is állították őket.

Amerikai, kanadai és japán tudósokból álló nemzetközi kutatócsoport a világegyetem fejlődését szimuláló mesterséges intelligenciát fejlesztett idén. Az MI több szempontból is figyelemreméltó munkát végez: egyrészt kellő tanulás után sokkal gyorsabban, percek helyett milliszekundum-léptékben és pontosabban dolgozik a többi mostani csúcsrendszernél. Másrészt, korábban nem ismert, vagy menetközben módosított paraméterekkel is hibátlan eredményeket ér el, azaz előzetes tanulás nélkül is tudja kezelni az adatokat.

Milyen kontroll alatt vannak az intelligens algoritmusok?
A felsorolt és más hasonló példákkal kapcsolatban egyre gyakrabban merül fel a kérdés: mennyire kontrollálják fejlesztőik, működtetőik ezeket az intelligens algoritmusokat? Mennyire értik őket, szükséges e tudniuk mindenről? A rendszerek inputját és outputját ugyan ismerjük, viszont egyre kevésbé látjuk át, hogyan döntenek, pontosan milyen folyamatok vezetnek a végeredményhez. Mintha „fekete doboz” lenne a „belsejük”, és a kimenet sem mindig pozitív, „elszabadult” algoritmusok elvileg bármilyen alkalmazási területen, a tőzsdétől az önműködő autókig okozhatnak súlyos problémákat.

Egy algoritmus eredetileg és jelenleg is – bármikor megismételhető – problémamegoldó utasítások sora. Fejlődésük mára eljutott addig a szintig, hogy tanulni is képesek. Mihelyst elkezdenek tanulni, nem tudhatjuk többé teljes bizonyossággal, hogy milyen szabályokat követve, milyen paraméterekkel dolgozik, milyen interakciókat fog folytatni más algoritmusokkal, a fizikai valósággal, vagy velünk.

Újraírhatják magukat, s ha megváltozik a környezet, a viselkedésük is megváltozik. Rengeteg matematikai műveletet végeznek el, köztük az ember számára érthetetleneket (és olyanokat is, amiket felesleges értenünk). Így egyre nehezebb őket előrejelezni, outputjuk viszont majdnem mindig felhasználható infó.

Mesterséges intelligencia és intuíció, mesterséges intellgicia és kreativitás... csak néhány, a közel egy tucatnyi területből, amin keresztül előkerülnek az algiritmusok az idei Internet Hungary koncferencián.

Kövesd az oldalunkat a Facebook-on és a Twitteren is!


Kömlődi Ferenc

Kömlődi Ferenc, jövőkutató, író. Szakterülete: jövőkutatás, mesterséges intelligencia, ember-gép viszony, transzhumanizmus. Az NJSZT havi Hírmagazinjának, blogjának (Jelenből a jövőbe), ...