Didelis duomenų nutekėjimas atskleidžia AI pagrįstų įdarbinimo sprendimų saugumo rizikas

Reikšmingas duomenų nutekėjimas išryškina AI įdarbinimo saugumo iššūkius

Didėjantis didelių kalbos modelių (LLM) chatbotų įtraukimas į atrankos sistemas atveria naujas automatizacijos galimybes, tačiau tuo pačiu kelia rimtų kibernetinio saugumo klausimų. Kaip įspėjimas skaitmeninės personalo atrankos eroje, „McDonald's“ naujos kartos dirbtinio intelekto įrankis „Olivia“, sukurta „Paradox.ai“, neseniai patyrė plataus masto duomenų nutekėjimą, atskleisdamas milijonų darbo ieškotojų jautrią informaciją visame pasaulyje.

Olivia – dirbtinio intelekto įdarbinimo asistentė už incidento

Veikianti kaip virtuali įdarbinimo asistentė, „Olivia“ remiasi pažangia LLM technologija, siekdama supaprastinti darbo atrankos procesą tiek darbdaviams, tiek kandidatams. Šis AI įrankis veda pretendento pokalbių simuliacijas per tekstinius pokalbius, o žmogų imituojantys avatarai pagerina naudotojo patirtį bei sukuria realaus bendravimo įspūdį. Ieškantieji darbo per šią sistemą gali naršyti laisvas darbo vietas, atlikti asmenybės testus ir atsakyti į automatiškai generuojamus pirminius klausimus – visi šie procesai vykdomi dirbtinio intelekto pagrindu.

Produkto ypatybės ir palyginimas su rinka

„Olivia“ išsiskiria tarp kitų AI įdarbinimo platformų nuolatine, greita ir savarankiška kandidatų įtraukimo galimybe bei automatizuotu pokalbių planavimu. Visgi, lyginant su rinkos gigantų sprendimais personalo valdymui, šioje sistemoje kyla saugumo spragų, pabrėžiančių būtinybę diegti griežtas kibernetinio saugumo priemones naujos kartos įdarbinimo technologijose.

Šokiruojanti saugumo spraga paviešino jautrius kandidatų duomenis

Kaip nurodo „Wired“ paskelbta tyrimo ataskaita, kibernetinio saugumo ekspertai Ianas Carrollas ir Samas Curry nustatė kritines „Paradox.ai“ platformos pažeidžiamas vietas. Pasinaudoję itin lengvai atspėjamu administratoriaus slaptažodžiu „123456“, tyrėjai gavo prieigą prie „McHire“ sistemos, įskaitant bandomąją „testinio restorano“ aplinką, kuri atkartojo tikrus „McDonald's“ atrankos procesus.

Paaiškėjo, kad net ir turint minimalių techninių žinių, piktavaliai galėtų pasiekti virš 64 milijonų pareiškėjų pokalbių žurnalus ir asmens duomenis. Tarp nutekėjusių duomenų – vardai, pavardės, el. pašto adresai, telefonai, namų adresai, darbo prieinamumas ir net pokalbių įrašai. Carrollui ir Curryl pavyko, kaitaliojant paraiškų ID, be papildomo autentifikavimo matyti bet kurio pretendento informaciją sistemoje, kas pabrėžė sistemos kontrolės trūkumus.

Pranašumas ar rizika? Greitos AI diegimo grėsmės

AI pagrįsti sprendimai, tokie kaip „Olivia“, žada efektyvumą ir mastelį, suteikdami galimybę apdoroti tūkstančius kandidatų vos su minimaliu rankiniu įsikišimu. Tačiau šis nutekėjimas rodo, kad skubus LLM įtraukimas į organizacijų HR procesus be nuoseklaus saugumo audito kelia grėsmę ne tik įmonės reputacijai, bet ir milijonų žmonių privatumui.

Rinkos pamokos ir žingsniai į priekį

Nors „Paradox.ai“ greitai pašalino pažeidžiamumą ir pakeitė silpną administratoriaus slaptažodį, incidentas – svarbus signalas organizacijoms, diegiančioms AI įdarbinimo sistemas. Dirbtinio intelekto įdarbinimo rinkos apimtys auga visame pasaulyje, įmonės siekia mažinti kaštus ir stiprinti konkurencinį pranašumą. Tačiau ši istorija pabrėžia poreikį stiprioms autentifikacijos sistemoms, nuolatiniam saugumo auditui bei skaidriems pranešimų kanalams, siekiant valdyti naujas kibernetines grėsmes.

Technologijų profesionalams ir skaitmeniniams inovatoriams šis „McDonald's“ duomenų nutekėjimas turėtų tapti aiškiu raginimu skirti prioritetą adaptabilioms kibernetinio saugumo strategijoms kiekviename AI diegimo etape, ypač, kai tvarkoma jautri naudotojų informacija.