1927 és 2019 között világszerte több mint 100 film készült a mesterséges intelligenciáról. És míg néhány forgatókönyvet jó színben tüntetnek fel, a többi egyenesen borzalmas. Olyan filmekben, mint a Terminátor, a Mátrix, a Bosszúállók: Age of Ultron és sok más filmben a filmipar olyan jeleneteket helyezett a közös képzeletünkbe, amelyek azt mutatják be, hogy az intelligensebb gépek hogyan veszik át a világuralmat, és hogyan igázzák le vagy törlik el teljesen az emberiséget. Az a lehetőség, hogy a mesterséges intelligenciák minden emberi intelligenciánál magasabb rendűvé válhatnak, sötét jövőt fest az emberiség számára.
A közelmúltban a világ minden országa beszállt a mesterséges intelligencia fejlesztésének versenyébe: az EU-ban 20 ország tette közzé az AI fejlesztésére vonatkozó stratégiáját mind a K+F&D, mind az oktatás területén. A mesterséges intelligencia vörös forró. De milyen etikai és gyakorlati kérdéseket kell figyelembe vennünk, miközben teljes gőzzel haladunk előre a mesterséges intelligencia technológia meghonosításában? Közös célunk, hogy a gépi intelligencia segítségével átalakítsuk az üzleti ágazatokat, milyen kockázatokkal és felelősséggel kell számolniuk az innovátoroknak?
Igen, az AI-ügynökök nagyon is képesek lesznek – és már most is képesek – az emberi intelligenciával párhuzamos folyamatok elvégzésére. Egyetemek, magánszervezetek és kormányok aktívan fejlesztik az emberi kognitív funkciók, például a tanulás, a problémamegoldás, a tervezés és a beszédfelismerés utánzására képes mesterséges intelligenciát. De ha ezekből az ágensekből hiányzik az empátia, az ösztön és a bölcsesség a döntéshozatalban, vajon korlátozni kell-e, és ha igen, milyen módon, a társadalomba való integrációjukat?
Tekintsünk át néhány etikai megfontolást a mesterséges intelligencia területén. Kizáró nyilatkozat gyanánt, ez a cikk semmiképpen sem a véleményed meggyőzésére irányul, csupán néhány kiemelkedő kérdésre kíván rávilágítani, kicsik és nagyok közül egyaránt. Bár a Kambria a mesterséges intelligencia és a robottechnológia támogatója, semmiképpen sem vagyunk etikai szakértők, és az Ön döntésére bízzuk, hogy hol helyezkedik el. Egy robotporszívó egy dolog, de a mesterséges intelligenciával kapcsolatos etikai kérdések az orvostudományban, a bűnüldözésben, a katonai védelemben, az adatvédelemben, a kvantumszámítástechnikában és más területeken mélyrehatóak és fontos megfontolandóak.
1. Munkahelyvesztés és vagyoni egyenlőtlenség
Az emberek egyik fő aggodalma a mesterséges intelligenciával kapcsolatban a munkahelyek jövőbeli megszűnése. Törekednünk kell-e a mesterséges intelligencia teljes kifejlesztésére és integrálására a társadalomba, ha ez azt jelenti, hogy sok ember elveszíti a munkáját – és valószínűleg a megélhetését is?
A McKinsey Global Institute új jelentése szerint 2030-ra körülbelül 800 millió ember veszíti el a munkáját a mesterséges intelligencia által vezérelt robotok miatt. Egyesek azzal érvelnek, hogy ha a munkájukat robotok veszik át, talán túl alantasak az emberek számára, és az AI lehet a felelős a jobb munkahelyek létrehozásáért, amelyek kihasználják a magasabb kognitív funkciókat, az elemzést és a szintézist magában foglaló egyedülálló emberi képességeket. Egy másik érv az, hogy a mesterséges intelligencia több munkahelyet teremthet – elvégre az emberekre hárul majd a feladat, hogy kezdetben létrehozzák ezeket a robotokat, majd a jövőben irányítsák őket.
A munkahelyek megszűnésével kapcsolatos egyik probléma a vagyoni egyenlőtlenség. Gondoljunk arra, hogy a legtöbb modern gazdasági rendszer megköveteli a dolgozóktól, hogy egy terméket vagy szolgáltatást állítsanak elő, és a javadalmazásuk órabéren alapul. A vállalat fizeti a béreket, adókat és egyéb kiadásokat, a megmaradt nyereséget pedig gyakran visszaforgatják a termelésbe, a képzésbe és/vagy további vállalkozások létrehozásába a nyereség további növelése érdekében. Ebben a forgatókönyvben a gazdaság tovább növekszik.
De mi történik, ha bevezetjük a mesterséges intelligenciát a gazdasági folyamatokba? A robotok nem kapnak órabért, és nem fizetnek adót sem. 100%-os szinten járulhatnak hozzá, alacsony folyamatos költséggel, hogy működőképesnek és hasznosnak tartsák őket. Ez megnyitja az ajtót a vezérigazgatók és az érdekeltek előtt, hogy az AI-munkaerő által termelt nagyobb vállalati nyereséget tartsanak meg, ami nagyobb vagyoni egyenlőtlenséghez vezet. Ez talán azt eredményezheti, hogy a “gazdagok” – azok a magánszemélyek és vállalatok, akiknek megvan a pénzük a mesterséges intelligenciára – egyre gazdagabbak lesznek.
2. Az AI tökéletlen – mi van, ha hibázik?
A mesterséges intelligencia nem mentes a hibák elkövetésétől, és a gépi tanulásnak időbe telik, amíg hasznossá válik. Ha jól képzik ki őket, jó adatok felhasználásával, akkor a mesterséges intelligenciák jól teljesíthetnek. Ha azonban rossz adatokkal tápláljuk a mesterséges intelligenciákat, vagy hibákat követünk el a belső programozással, akkor a mesterséges intelligenciák károsak lehetnek. Teka Microsoft AI chatbotja, Tay, amely 2016-ban jelent meg a Twitteren. Kevesebb mint egy nap alatt a robot a többi Twitter-felhasználótól kapott és tanult információknak köszönhetően megtanult rasszista szidalmakat és náci propagandát ontani. A Microsoft azonnal leállította a chatbotot, mivel annak életben hagyása nyilvánvalóan ártott volna a vállalat hírnevének.
Igen, a mesterséges intelligenciák hibáznak. De vajon nagyobb vagy kevesebb hibát követnek el, mint az emberek? Hány életet oltottak ki emberek hibás döntésekkel? Jobb vagy rosszabb, ha egy mesterséges intelligencia követi el ugyanazt a hibát?
3. Szabad-e a mesterséges intelligencia rendszereknek ölni?
Ebben a TEDx előadásban Jay Tuck az AI-kat olyan szoftverekként írja le, amelyek maguk írják a saját frissítéseiket és megújítják magukat. Ez azt jelenti, hogy a gépet programozva nem arra hozzák létre, hogy azt tegye, amit mi akarunk – azt teszi, amit megtanul. Jay a továbbiakban egy Tallon nevű robottal történt esetet ír le. Számítógépes fegyvere elakadt, és egy robbanás után kontrollálatlanul nyitott tüzet, ami 9 embert megölt és további 14-et megsebesített.
Predator drónok, mint például a General Atomics MQ-1 Predator, már több mint egy évtizede léteznek. Ezek a távirányítású repülőgépek képesek rakétákat kilőni, bár az amerikai törvények előírják, hogy a tényleges gyilkos döntéseket emberek hozzák meg. Mivel azonban a drónok egyre nagyobb szerepet játszanak a légi katonai védelemben, tovább kell vizsgálnunk szerepüket és felhasználásukat. Jobb-e mesterséges intelligenciával ölni, mint embereket a tűzvonalba állítani? Mi lenne, ha a robotokat csak elrettentésre használnánk, nem pedig tényleges erőszakra?
A Kampány a gyilkos robotok megállításáért egy nonprofit szervezet, amely a teljesen autonóm fegyverek betiltására szerveződött, amelyek emberi beavatkozás nélkül dönthetnek arról, hogy ki éljen és ki haljon meg. “A teljesen autonóm fegyverek nélkülöznék a támadás arányosságának értékeléséhez szükséges emberi ítélőképességet, a civil és a harcos megkülönböztetéséhez, valamint a háborús törvények egyéb alapvető elveinek betartásához. A történelem azt mutatja, hogy használatuk nem korlátozódna bizonyos körülményekre.”
4. Szélhámos mesterséges intelligenciák
Ha van rá esély, hogy az intelligens gépek hibázhatnak, akkor a lehetőségen belül van, hogy egy mesterséges intelligencia szélhámossá válik, vagy nem szándékolt következményeket okoz a látszólag ártalmatlan célok elérése során. A mesterséges intelligencia önállótlanná válásának egyik forgatókönyve az, amit már láttunk olyan filmekben, mint a Terminátor, és olyan tévéműsorokban, ahol egy szuperintelligens, központosított mesterséges intelligenciájú számítógép öntudatra ébred, és úgy dönt, hogy nem akarja többé az emberi irányítást.
Jelenleg a szakértők szerint a jelenlegi mesterséges intelligencia technológia még nem képes az öntudatosságnak erre a rendkívül veszélyes mutatványára; a jövőbeli mesterséges intelligencia szuperszámítógépek azonban képesek lehetnek rá.
A másik forgatókönyv az, amikor egy mesterséges intelligencia például azt a feladatot kapja, hogy tanulmányozza egy vírus genetikai szerkezetét, hogy létrehozzon egy vakcinát a vírus semlegesítésére. Hosszas számítások után az AI olyan megoldást fogalmazott meg, ahol ahelyett, hogy vakcinát készítene belőle, a vírust fegyverré teszi. Ez olyan, mintha egy modernkori Pandora szelencéjét nyitná ki, és ismét az etika kerül a képbe, ahol jogos aggályokkal kell foglalkozni egy ilyen forgatókönyv megelőzése érdekében.
5. A szingularitás és az AI-k feletti kontroll megtartása
Az AI-k úgy fejlődnek, hogy felülmúlják az embert? Mi van, ha okosabbak lesznek az embernél, és megpróbálnak minket irányítani? A számítógépek elavulttá teszik majd az embert? Azt a pontot, amikor a technológiai fejlődés meghaladja az emberi intelligenciát, “technológiai szingularitásnak” nevezik. Egyesek szerint ez az emberi korszak végét fogja jelezni, és a technológiai innováció üteme alapján akár már 2030-ban bekövetkezhet. A mesterséges intelligencia az emberiség kihalásához vezet – könnyű megérteni, hogy a mesterséges intelligencia fejlődése miért ijesztő sok ember számára.
6. Hogyan bánjunk a mesterséges intelligenciákkal?
A robotoknak emberi jogokat vagy állampolgárságot kellene adni? Ha olyan szintre fejlesztjük a robotokat, hogy képesek legyenek “érezni”, ez feljogosítja őket az emberekhez vagy állatokhoz hasonló jogokra? Ha a robotoknak jogokat biztosítunk, akkor hogyan rangsoroljuk társadalmi státuszukat? Ez a “roboetika” egyik fő kérdése, amelyet először Isaac Asimov vetett fel 1942-ben. 2017-ben a Hanson Robotics humanoid robotja, Sophia állampolgárságot kapott Szaúd-Arábiában. Bár egyesek ezt inkább PR-akciónak tartják, mint tényleges jogi elismerésnek, mégis példát mutat arra, hogy a jövőben milyen jogokat kaphatnak a mesterséges intelligenciák.
7. AI Bias
Az AI egyre inkább beépül az arc- és hangfelismerő rendszerekbe, amelyek közül néhánynak valódi üzleti vonatkozásai vannak, és közvetlen hatással vannak az emberekre. Ezek a rendszerek sebezhetőek az emberi készítőik által bevezetett elfogultságokkal és hibákkal szemben. Emellett maga az AI-rendszerek betanításához használt adatok is lehetnek elfogultak. Például a Microsoft, az IBM és a Megvii által készített arcfelismerő algoritmusok mind elfogultságot mutattak az emberek nemének felismerésekor. Ezek az AI-rendszerek a fehér bőrű férfiak nemét pontosabban tudták felismerni, mint a sötétebb bőrű férfiakét. Hasonlóképpen, az Amazon’s.com mesterséges intelligenciával történő felvétel és toborzás megszüntetése egy másik példa arra, hogy az AI nem lehet igazságos; az algoritmus előnyben részesítette a férfi jelölteket a nőkkel szemben. Ennek oka az volt, hogy az Amazon rendszerét 10 év alatt gyűjtött adatokkal képezték ki, amelyek többnyire férfi jelöltektől származtak.
Az AI elfogult lehet? Nos, ez egy trükkös kérdés. Lehet azzal érvelni, hogy az intelligens gépeknek nincs erkölcsi iránytűjük, sem elveik, mint nekünk, embereknek. Azonban még a mi erkölcsi iránytűnk és elveink sem szolgálják néha az emberiség egészének javát, tehát hogyan biztosíthatjuk, hogy az AI-ügynökök ne rendelkezzenek ugyanazokkal a hibákkal, mint a teremtőik? Ha a mesterséges intelligencia faji, nemi, vallási vagy etnikai előítéleteket alakít ki, akkor a hiba leginkább abban rejlik, hogy hogyan tanították és képezték ki. Ezért az AI-kutatásban dolgozóknak szem előtt kell tartaniuk az elfogultságot, amikor meghatározzák, hogy milyen adatokat használjanak.
Összefoglaló
Igen, ijesztő a gondolat, hogy az egyre inkább jelen lévő AI-rendszerek felülmúlják az emberi intelligenciát. Az AI bevezetésével járó etikai kérdések pedig összetettek. A kulcs az lesz, hogy ezeket a kérdéseket szem előtt tartsuk, hogy elemezni tudjuk a tágabb értelemben vett társadalmi kérdéseket. Azt, hogy az AI jó vagy rossz, sokféle szempontból lehet vizsgálni, és nincs egyetlen elmélet vagy keretrendszer, amely a legjobb lenne. Folyamatosan tanulnunk kell, és tájékozottnak kell maradnunk, hogy jó döntéseket hozhassunk a jövőnk érdekében.
Open Call for Writers
Szeretsz ilyen technológiai témákról írni? Akkor csatlakozz a Kambria tartalmi kihívásához, és oszd meg meglátásaidat és szakértelmedet növekvő fejlesztői közösségünkkel. A legjobb beadványért több mint 200 dollárt kaphatsz. A tartalmi kihívásunk teljes körű részleteiért kattints ide.
Jelentkezzen a Kambria hírlevélre
