Igazi kiberhorror áldozatává vált egy amerikai édesapa, aki csak aggódott a kisfiáért. Mark, aki a The New York Times cikkében teljes neve elhallgatását kérte, a Google mesterséges intelligenciájával folytatott elkeseredett küzdelmet 2021-ben.
2021 februárjában az Egyesült Államokban még szigorú korlátozások voltak érvényben a koronavírus-járvány megfékezése miatt. A korlátozások közé tartozott, hogy a háziorvosokat nem lehetett egyszerűen személyesen felkeresni, a nem azonnali ellátást igénylő eseteket távorvoslás útján kellett lebonyolítani. Mark kisfia megbetegedett, egészen pontosan a nemi szerve megduzzadt és fájt neki. A férfi lefényképezte a meztelen kisfiút, és androidos okostelefonjával elküldte a képeket a feleségének, hogy kikérje a véleményét, majd felkeresték telefonon a gyermekorvosukat. A távorvoslás miatt nem tudtak azonnal elmenni az orvoshoz, aki azt kérte a szülőktől, hogy fotózzák le a beteg testrészt, és küldjék el neki, hogy megállapíthassa, hogy szükség van-e személyes vizitre. Ezzel kezdődött a rémálom Mark számára.
A képek alapján az orvos azonosítani tudta a problémát, és antibiotikumot írt fel a kisfiúnak, aki gyorsan meggyógyult. A szülők ekkor még nem is gondoltak rá, hogy a technológiai óriások az okoseszközeiken keresztül minden adatukhoz hozzáférhetnek, ebből pedig komoly bonyodalom kerekedhet.
A Nagy Testvér mindent lát
Ma már megszámlálhatatlan mennyiségű adat halad keresztül minden percben a technológiai óriások készülékein és szerverein. Ez evidensen magával hozza azt kötelezettséget, hogy az olyan cégek mint a Google felügyelje rajta keresztül áramló adattengert, hogy kiszűrje a törvénysértő tartalmakat. Tekintettel az adatmennyiség nagyságára természetesen lehetetlenség, hogy emberek dolgozzanak fel minden információt, így ez a feladat a mesterséges intelligenciákra hárul. A probléma az, hogy
egy MI nem minden esetben tud különbséget tenni egy szülő ártalmatlan fotója miatt, amelyet a gyermekéről készített, és egy illegális gyermekpornográf tartalom között.
Mark gyermeke nemi szervéről készült képe, amelyet az orvosnak küldött el, felkerült a telefonjáról az automatikus biztonsági mentés miatt a Google felhőjébe, és fennakadt az MI hálóján. A mesterséges intelligencia a képeket gyermeket kizsákmányoló, pornográf tartalomként azonosította, és letiltotta Mark minden Google,fiókját, illetve a telefonszámát. Tízévnyi e-mailje, kontaktja, fényképe lett ezáltal zárolva, ráadásul minden más fiókját is elvesztette, mivel a mobilos biztonsági belépéseket nem tudta megcsinálni a letiltott telefonszáma miatt. Mindezek fejébe
a Google még fel is jelentette a nyomozó hatóságoknál gyermekpornográf tartalom terjesztése miatt.
Mégis fellép az Apple a gyermekvédelemért, de ehhez átnéznék az összes fotónkatAz online gyermekvédelem céljából a vállalat végignézné képeinket, melyeket az általa gyártott eszközeinken tárolunk. |
Nem volt kihez fordulni
Mark az történtekről kapott értesítés után azonnal levélben fordult a Google-hez, hogy tisztázza magát. Kérte a fiókjainak és a telefonszámának a feloldását, illetve a rendőrségi eljárás felfüggesztését. A levélben részletesen kifejtette gyermeke egészségügyi panaszát, illetve hogy orvosi utasításra fotózta le a meztelen kisfiát. A Google elutasította Mark kérelmét. A cég szabályzatában kitérnek arra, hogy zéró toleranciát tanúsítanak a gyermekek zaklatása és kizsákmányolásával szemben. Ennek ellenére az MI működését muszáj egy embernek is felügyelnie, hogy a hibás vagy kérdéses döntéseit felülbírálja például egy olyan esetben, amilyen Marké. Ez azonban esetében elmaradt, a Google elzárkózott attól, hogy feloldja a férfi ellen hozott intézkedéseket.
A The New York Times az üggyel kapcsolatban felkereste az Electronic Frontier Foundation, digitális polgári szabadságjogokkal foglalkozó szervezetet. A szervezet szakembere, Jon Callas elmondta, hogy rendkívül fontos a a technológiai óriások munkája és felügyelete az interneten terjedő adatok felett. Ezzel számtalan bűncselekményt és visszaélést lehet feltárni és megakadályozni, viszont ez a védelem azzal jár, hogy a cégek belátást kapnak a személyes adatokba, magánjellegű információkba és minden másba.
Abban az esetben, ha az MI gyanús tartalmat talál egy felhasználónál, akkor a protokoll szerint zárolják a fiókját és mélyvizsgálatot végeznek a fiókjaiban és a készülékeiben, hogy kiderüljön valóban történt-e bűncselekmény.
Egy ilyen esetben az MI találhat egy szülő okoskészülékén a fényképalbumban egy olyan videót, amelyen a kisgyereke fürdik, vagy meztelenül játszik a kerti medencében, és ezt akár zaklató, kizsákmányoló vagy egyenesen pornográf tartalomként értékelheti, ahogyan Mark esetében is történt.
Jon Callas hozzáteszi, hogy Mark esete csak a jéghegy csúcsa lehet. Szerinte
akár több ezer áldozata lehet ennek a jelenségnek, viszont a legtöbben nem merik nyilvánosságra hozni a dolgot, mert félnek a megbélyegzéstől.
Mark végül kapcsolatba került a rendőrséggel, amely az ellene folyó nyomozást végezte.
Nicholas Hillard nyomozó tájékoztatta, hogy az eljárást megszüntették, és az ügyről készült jelentésben kijelentették, hogy Mark nem követett el bűncselekményt. Azt a kérést, hogy a rendőrség vegye fel a kapcsolatot a Google-lel és értessék meg a céggel, hogy Mark nem követett el bűncselekményt a San Francisco-i rendőrség elhárította, és közölték, hogy ezt a férfinek magának kell intéznie. Mark egy újabb fellebbezést küldött a Google-nek, amihez csatolta a rendőrségi jelentés másolatát is és kérte, hogy oldják fel a zárlat alá vett fiókjait.
A vállalat ismét elutasította a kérését, ráadásul azt is közölték, hogy zárolt fiókjait hamarosan véglegesen törölni fogják.
Mark ekkor egy ügyvédhez fordult, akivel a Google ellen indítható perről konzultált, de végül kiderült, hogy egy ilyen eljárás 7 ezer dollárjába kerülne, amit nem tudott kifizetni.
A férfi végül sosem kapta vissza elvesztett fiókjait, azóta pedig egy hotmail-es email címet használ.
Lehetett volna rosszabb is
A The New York Times megkereste a St. John’s Egyetem jogászprofesszorát, Kate Klonickot, akinek az online tartalmak moderálása a szakterülete. Klonick szerint a technológiai óriások felügyelete az online tartalmak felett kétélű penge. Egyik oldalról fontos feladatot látnak el, hiszen a legtöbben beláthatják, hogy a gyermekek szexuális zaklatása és kizsákmányolása olyan bűncselekmények, amelyek ellen minden eszközzel harcolni kell. A másik oldalról viszont ebben a küzdelemben a cégek túlságosan mélyen beleláthatnak az emberek magánéletébe, legtöbbször olyanokéba, akik nem követtek el semmi törvénytelent. A mesterséges intelligenciáknak sokkal pontosabban kellene működniük, amikor kiszűrik a káros tartalmakat, mert egy olyan hiba, amely Mark kálváriáját is okozta, szörnyű következményekkel járhat.
Mark még olcsón megúszta.
Ez a hiba akár oda is vezethetett volna, hogy elveszíti a gyermeke feletti felügyeleti jogát
– mondta Klonick.
A Google mindent megtesz, de a hiba a rendszer velejárója
Claire Lilley, a Google gyermekbiztonsági műveletekért felelős vezetője a The New York Times megkeresésére elmondta, hogy a cég tisztában van azzal, hogy a távorvoslás miatt készülniük kell olyan képeknek, amelyeken a gyermekek meztelenek. Szerinte a vállalat sok gyermekorvossal konzultált annak érdekében, hogy az MI-t és annak az emberi felülvizsgálóit felkészítsék az ártalmatlan, orvosi célú képek és videók értelmezésére.
Ennek ellenére a hibák kockázatát nem lehet kizárni a rendszerből. Az üggyel kapcsolatban Suzanne Haney, az Amerikai Gyermekgyógyászati Akadémia Gyermekbántalmazás és Elhanyagolás Tanácsának elnöke azt tanácsolta a szülőknek, hogy még akkor se készítsenek fényképeket gyermekeik nemi szervéről, ha orvos utasítja. Hozzátette, hogy a legtöbb orvos, amikor egy ilyen képet kér a diagnózis felállításához, nincs tisztában ennek a kockázatával.
Claire Lilley elmondta, hogy az MI felülvizsgálói azért indítottak eljárást Markkal szemben, mivel az orvosnak küldött képeken nem észleltek kiütést vagy bőrpír. Ezt követően a fiókjai felülvizsgálata során találtak egy hat hónappal korábban készült felvételt, amin Mark kisgyereke együtt feküdt az ágyban a férfi félmeztelen feleségével.
A Google ezt a videót találta törvénysértőnek, mivel a felülvizsgálók szerint a gyermekek szexuális zaklatását és kizsákmányolását tiltó szabályokba ütközött.
Mark elmondta, hogy a videó egy intim és privát családi pillanatról készült, amiről sosem gondolta, hogy valaha bárki megnézi, és emiatt ítélkeznek felette.
A Google szóvivője szerint a cég kitart a döntései mellett, annak ellenére, hogy a bűnüldöző szervek felmentették a férfit.
Ez a háttérhatalom irányítja a pornóipartA felnőttfilmes ipar a világ egyik legkényesebb jogi területe, ami ráadásul tabunak is számít a közbeszédben. A nemzeteken átívelő iparág átláthatatlan és az egyes országok kormányai vagy nemzetközi szervezetek nem képesek hatékonyan keretek közé szorítani a működését. Ha pornóról van szó, akkor végül a nagy pénzügyi vállalatok szava a döntő. |
