Asimov robotika törvényei, előítéletes algoritmusok: milyen etikai és üzleti kérdéseket vet fel a mesterséges intelligencia?

Asimov robotika törvényei, előítéletes algoritmusok: milyen etikai és üzleti kérdéseket vet fel a mesterséges intelligencia?
Léteznek-e univerzális etikai elvek egy mesterséges intelligencia számára? Milyen szabályokat kövessenek az MI fejlesztők, az MI felhasználók és társadalmak, illetve maguk a gépek? Engedjük-e, hogy egy gép maga alkosson és továbbfejlesszen szabályokat a saját működéséhez? Végül, milyen gátjai vannak jelenleg az MI üzleti terjedésének? Pintér Róbert, az eNET Internetkutató kutatásvezetőjének cikke a digitalhungary.hu-n.

2019 január 22-23 között rendezte meg Prágában az Aspen Intézet kelet-európai szervezete a Microsoft támogatásával a mesterséges intelligencia (MI) workshopját, amin volt szerencsém részt venni. A Building the Future: Addressing the Opportunities and Challenges of an AI-Enabled World című esemény nagyjából 40, elsősorban V4 országbeli szakértő részvételével zajlott. A kelet-európaiakat kiegészítették az Aspen Intézet más tagszervezeteinél dolgozó amerikai, angol és német kollégák. A workshop része volt egy éppen folyó globális vitasorozatnak: Mexikóban és Berlinben már volt egy-egy hasonló vita, ez a harmadik Prágában részben kelet-európai fókusszal folyt.

A workshop elsősorban két területre koncentrált: a mesterséges intelligenciával kapcsolatos etikai (szabályozási) kérdésekre és a várható üzleti terjedésre (a kapcsolódó társadalmi hatásokkal együtt). A két rövid vitaindító előadást Alžběta Krausová jogász kutató (Institute of State and Law, Czech Academy of Sciences) és Aleksandra Przegalińska MI kutató (Kozminiski University, Center for Collective Intelligence | MIT Sloan School of Management) tartotta. Ezeket egy-egy 60 perces csoportos vita követte, majd ezek összegzése zárta a workshopot.

Az alábbiakban rövid szubjektív élménybeszámoló következik az eseményről.

Ha nagyon egyszerűen akarnánk meghatározni, hogy mivel foglalkozik az etika, akkor azt mondhatnánk, hogy annak vizsgálatával, mi a jó és mi a rossz (viselkedés vagy döntés) egy bizonyos helyzetben. Minden etika értékalapú és mivel minden érték kultúra vagy vallási gyökerű, könnyen belátható, hogy nehéz igazán univerzális értékeket, így általánosan mindenhol érvényes etikai elveket is meghatározni. Így lehet például, hogy míg az euroamerikai kultúrkörben rendszerint idegenkednek a társalgó vagy ápoló robotoktól (ún. social robots), addig Japánban ezek óriási népszerűségnek örvendenek, ott ugyanis a sintoizmus miatt teljesen elfogadott feltételezés, hogy a tárgyaknak lehet lelke, másképpen is viselkednek velük az emberek.

 

A mesterséges intelligencia és az etika három szintje

A mesterséges intelligencia szempontjából három különböző szintet lehet megkülönböztetni jelenleg etikai szempontból. Az első az "etika fejlesztőknek" és felhasználóknak (ethics for design), ide tartoznak a cégek etikai elvei (pl. a Google vagy a Microsoft nemrégiben elfogadott etikai elvei). A második szint az "etika a fejlesztésben" (ethics in design), ami már sokkal komplexebb és olyan kérdésekkel foglalkozik, amikkel minden társadalom szembenéz az MI alkalmazásakor, mint például az algoritmusukban megjelenő szisztematikus torzítás (algorithmic bias), az adatvédelem vagy például a korreláció keverése az oksági kapcsolatokkal (például, hogy csak azért mert valaki olyan környékről származik, ahol magas a bűnözés még nem bűnöző). Végül a harmadik az "etika az MI-ben" (ethics by design), vagyis hogyan, milyen elvek mentén hozhasson döntéseket egy mesterséges intelligencia. Ide tartozik az Asimov által alkotott elhíresült robotika három törvénye. De ennek része az a klasszikus és sokszor felmerülő dilemma is, hogy kit üssön el egy önvezető autó egy képzeletbeli helyzetben, ahol elkerülhetetlen a baleset.

Legalább ugyanilyen fontos kérdés az MI etika kapcsán, hogy vajon ezen a területen hagyjuk-e, hogy egy rendszer önmagát fejlessze (dinamikus módon alkalmazkodjon a környezetéhez és új szabályokat alkosson magának) vagy csak emberek által elfogadott, tesztelt és lezárt (statikus) módon juthasson etikai elvekhez, amik meghatározzák a működését. A jelenlegi megközelítések alapján egyelőre jobban hiszünk a statikus rendszerek helyes működésében, viszont ezek jóval kevésbé képesek adaptálódni és könnyebben el is avulnak.

De nem csak az etika, hanem az üzleti terjedés és társadalmi kérdések kapcsán is felmerültek az Aspen Intézet MI workshopján izgalmas kérdések. Az egy adott területen jól működő, úgynevezett szűk MI technológiai lehetőségei már ma is adottak, ezen a téren a gépi tanulás jelenleg a leggyakoribb megközelítés.

Már világszerte elterjedtek az első alkalmazások, szolgáltatások, amik az MI-nek köszönhetően lettek igazán sikeresek (mint például a Netflix, amely ajánlórendszere nélkül nem tudna ilyen magas felhasználói élményt biztosítani). Ugyanakkor az AI terjedése lehetne gyorsabb és sikeresebb is, csak több akadályba is ütközik. Az egyik a már említett szisztematikus torzítás az adatbázisokban (például, amikor egy HR alkalmazás inkább a férfi jelölteket választja ki, mert megjelenik benne a nőkkel szembeni előítélet). Egy másik gátló tényező az oktatás: már ma sem elegendő önmagában az adat tudományban való jártasság, legalább még egy terület értő és mély ismerete szükséges ahhoz, hogy valaki sikeresen alkalmazzon MI megoldásokat. További akadályt jelenthet az idő tényező: egyrészt jellemző, hogy kevés idő van egy-egy megoldás kifejlesztésére és üzleti implementálására, miközben iszonyatosan gyorsan fejlődik a terület és avulnak el a fejlesztések, ami viszont az üzleti megtérülést veszélyezteti.

Egyvalami azonban biztos, a mesterséges intelligencia a közeljövőben nem fog veszíteni a népszerűségéből. A modern kapitalizmus az elmúlt másfélszáz évben elsősorban a számokban hitt, a szignifikáns adatokban és az ezen alapuló döntésekben. Pontosan ez azonban az AI lelke is, nem véletlen, hogy annyiak számára jelenti a Szent Grált.

Kövesd az oldalunkat a Facebook-on és a Twitteren is!


Pintér Róbert PhD

Pintér Róbert, PhD

Reacty Digital, ügyvezető

Corvinus Egyetem, Infokommunikációs Tanszék, egyetemi adjunktus

Az ezredforduló óta foglalkozik hivatásszerűen az infokommunikáció ...