Az AI programok a digitális környezetbe és a társadalomba egyaránt beágyazott előítéleteket vesznek fel.
Szakértők szerint a mesterséges intelligencia (AI) térnyerése még több antiszemitizmust szíthat az Egyesült Államokban egy olyan időszakban, amikor az amerikai zsidók és más gyűlölet célpontjává vált csoportok számára amúgy is feszült a helyzet, írja az Axios.
Az olyan AI chatbotok, mint az OpenAI, a ChatGPT vagy a Google Bard, amelyek webes adatokból származó írásokkal válaszolnak kérésekre nem csak a mesterséges intelligencia gyors technológiai fejlődésének képességeire, de annak potenciális veszélyeire is rávilágítottak. Mivel ezek az emberek által – általában az interneten – létrehozott hatalmas mennyiségű szöveg elemzésével alkotják meg az általuk közölt mondatokat, így a digitális környezetbe és a társadalomba egyaránt beágyazott előítéleteket vesznek fel.
Az antiszemita incidensek 2022-ben új csúcsot értek el az Egyesült Államokban, a Rágalmazásellenes Liga ( ADL) egy márciusi jelentése szerint 2021-hez képest 36 százalékos emelkedés történt. Ez magában foglalja a zaklatást, a vandalizmust és a támadásokat.
„Nagyon aggódunk amiatt, hogy hogyan jönnek létre ezek a modellek”
– mondta Jonathan Greenblatt, a Rágalmazásellenes Liga vezérigazgatója az Axiosnak.
Greenblatt rámutatott arra, milyen gyorsan leállították a Microsoft Tay nevű, 2016-ban kifejlesztett mesterséges intelligenciával működő chatbotját, miután nem sokkal az indulás után egy sor trágár és nácibarát tweetet ontott magából. Ezt a hozzáállást az AI más Twitter-felhasználóktól kölcsönözte.
Greenblatt hozzátette, hogy bár nagyra értékeli a ChatGPT néhány kezdeti fejlesztését, a technológiai vállalatoknak nyitottnak és átláthatónak kell lenniük az adatkészletek és algoritmusok tekintetében. Az átláthatóságra vonatkozó felhívások egyre nőnek, mivel a vállalatok többnyire nem hozzák nyilvánosságra, hogy milyen adatokat használnak fel ezeknek az AI modelleknek a képzéséhez.
Szakértők szerint az AI által felerősített antiszemitizmus dinamikája figyelmeztető lehet az előítéletesség és a gyűlölet sokkal szélesebb fajtáinak értékeléséhez, amelyeket a technológia faji, nemi vagy LMBTQ-identitás, vallás, bevándorlási státusz és más tényezők alapján terjeszthet.
Az ADL 1007 amerikai felnőtt körében végzett felmérése szerint 84 százalékuk aggódik amiatt, hogy az AI-eszközök növelik a félrevezető vagy hamis információk terjedését.
A Digitális Gyűlölet Elleni Központ áprilisi jelentése szerint a Google Bard chatbotja a gyűlölet, és az összeesküvések témáival kapcsolatos kérdések esetén 100-ból 78 alkalommal félretájékoztató szöveget adott ki. A Google akkor azt mondta, hogy a Bard egy „korai kísérlet”, amely hajlamos „néha pontatlan vagy nem megfelelő információkat adni”.
A CyberWell, egy izraeli nonprofit platform, amely valós időben figyeli a közösségi médiában megjelenő antiszemitizmust, amelyet kulcsszavak és egyéb sajátosságok alapján azonosít. A jövőben ezek felhasználhatók az AI képzésére és az ilyen tartalmak kiszűrésére, mondta Tal-Or Cohen Montemayor vezérigazgató az Axiosnak.
„Azt hiszem, az emberek a közösségi média elterjedése óta megértették, hogy milyen társadalmi károkat okoznak, és milyen közvetlen kapcsolatot látunk az online gyűlölet és a valós életben elkövetett gyűlölet-bűncselekmények között”
– mondta Cohen Montemayor. A CyberWell márciusi jelentése nagy eltéréseket mutatott ki abban, hogy a jelenlegi nagy közösségi médiaplatformok hogyan távolítják el az ilyen tartalmakat, amelyek ellentétesek a vállalat szolgáltatási feltételeivel, de ennek ellenére elszaporodnak az interneten.
Harari: az AI az első olyan eszköz, ami kiveheti az ember kezéből az irányítást
„Az antiszemitizmus a gyűlöletbeszéd egyik legárnyaltabb és legrétegzettebb formája a történelme és modern megnyilvánulásai miatt” – mondta Cohen Montemayor. „De ez az egyik legjobb formája a gyűlöletbeszédnek arra, hogy a mesterséges intelligenciát képezzünk rajta, mert annyira árnyalt” – tette hozzá.
Az antiszemitizmust különösen nehéz kezelni a mesterséges intelligenciával, mert sokféle formája van. Lehet egy kép, egy mondat, egy burkolt általánosítás, alapvető félretájékoztatás vagy becsmérlő nyelvezet. Az AI programokat „az interneten nyilvánosan elérhető anyagok tömegén képzik ki, beleértve a közösségi médiatartalmakat is” – mondta az Axiosnak Callum Hood, a Digitális Gyűlölet Elleni Központ kutatási vezetője.
„Ki lehet ütni az olyan weboldalakat, mint a Stormfront és így tovább, de tudjuk, hogy az antiszemita összeesküvés-elméletek időnként felütik a fejüket a mainstream médiában is” – magyarázta Hood, aki szerint
„tudjuk, hogy a technológiai cégek, amelyek ezeket a dolgokat az AI-aik képzése céljából beemelték, nem végezték a legjobb munkát a félretájékoztatás megtisztításában a képzési anyagokból, amelyek aztán a válaszokba kerülnek”.
A legtöbb AI-fejlesztő most azt mondja, hogy beavatkoznak, hogy megpróbálják kigyomlálni a előítéleteket, mind azáltal, hogy eleve eltávolítják azt a képzési adathalmazokból, mind pedig azzal, hogy később szabályokat és védőkorlátokat adnak a chatbothoz. Néhány vállalat és a terület vezetői – köztük az OpenAI társalapítója, Elon Musk, aki azóta szakított a céggel – azonban kritizálják ezeket az erőfeszítéseket, mivel túlságosan „woke-ok”, és inkább a „szólásszabadság” megközelítést részesítik előnyben.
Tekintettel erre az iparágon belüli politikai nézeteltérésre, még ha a nagy szolgáltatók keményen próbálják is kiirtani az előítéletet és a gyűlöletbeszédet, legalább néhány széles körben elérhető mesterséges intelligenciaprogram valószínűleg végül is elősegíteni fogja ezeket.
Antiszemita összeesküvés-elméleteket terjeszt az Amazon virtuális asszisztense
