A Mozilla új kutatása szerint a romantikus chatbotok hatalmas mennyiségű adatot gyűjtenek össze a használókról, és a mögöttük álló cégek csak homályos információkat adnak ezen adatok használatáról, gyenge jelszavas védelmet használnak és nem átláthatók.
A Mozilla Alapítvány Bálint-nap alkalmából közzétett, 11 romantikus és barátkozós chatbotra vonatkozó elemzése számos biztonsági és adatvédelmi aggályt talált a szolgáltatásokkal kapcsolatban. Az Android-eszközökre több mint 100 milliószor letöltött alkalmazások együttesen hatalmas mennyiségű adatot gyűjtenek össze az emberekről, olyan nyomkövetőket használnak, amelyek információkat küldenek a Google-nak, a Facebooknak, oroszországi és kínai vállalatoknak, nem követelik meg a használóktól erős jelszavak használatát, és emellett nem átláthatók a tulajdonjoguk és a mögöttük álló MI (mesterséges intelligencia) modellek sem.
A ChatGPT 2022. novemberi megjelenése óta a fejlesztők versenyeznek a nagy nyelvi modellek fejlesztésén és olyan chatbotok létrehozásán, amelyekkel az emberek interakcióba léphetnek, majd előfizetnek rájuk.
A Mozilla kutatása most bepillantást enged abba, hogy az aranyláz közben miként sikkadt el a magánélet védelme, továbbá a feltörekvő technológiák, az adatok gyűjtése és felhasználása közötti feszültségekbe is. A kutatás azt is megmutatja, hogy miként élhetnek vissza a hackerek a használók üzeneteivel.
A legtöbb „MI-barátnő” vagy romantikus chatbot szolgáltatás hasonló. Gyakran szerepelnek rajtuk mesterséges intelligencia által generált nők képei, amik „szexualizálhatók”, vagy provokatív üzenetek mellé helyezhetők. A Mozilla kutatói különféle chatbotokat vizsgáltak, köztük nagy és kis alkalmazásokat, amelyek közül néhány „barátnőnek” mondható. Mások barátságon vagy intimitáson keresztül támogatják az embereket, vagy engedélyezik a szerepjátékokat és más fantáziákat.
„Ezeket az alkalmazásokat rengeteg személyes adat gyűjtésére használják a mögöttük álló vállalatok” – mondja Jen Caltrider, a Mozilla Privacy Not Included csapatának projekt vezetője. „Szerepjátékra, sok szexre, sok intimitásra, sok megosztásra sarkallnak.” Például az EVA AI chatbot képernyőképein a következő szöveg szerepel: „Imádom, ha elküldi nekem a fotóit és a hangját”, emellett megkérdezi, hogy a használó „kész-e megosztani minden titkát és vágyát”.
Caltrider szerint ezekkel az alkalmazásokkal és webhelyekkel több probléma is van. Nem világos, hogy milyen adatokat osztanak meg harmadik felekkel, hol találhatók, vagy hogy ki hozza létre őket. Egyes alkalmazások gyenge jelszavakat állítanak elő, mások kevés információt adnak az általuk használt mesterséges intelligenciáról. Az elemzett alkalmazások mindegyikének eltérő gyengeségei voltak.
Vegyük példaként a Romantic AI szolgáltatást, amely lehetővé teszi, hogy „saját MI barátnőjét létrehozza” a használó. A képek egy hölgyet ábrázolnak, aki üzenetet küld: „Most vettem új fehérneműt. Látni szeretnéd?” Az alkalmazás adatvédelmi dokumentumai azt tartalmazzák, hogy a szolgáltató nem fogja eladni a felhasználók adatait. Amikor azonban a kutatók tesztelték az alkalmazást, azt találták, hogy „24 354 hirdetéskövetőt küldött ki egy percen belül a használat után”. A Romantic AI, mint a Mozilla kutatásában kiemelt vállalatok többsége, nem válaszolt a megjegyzéskérésre. Az extrém példa mellett a többi elemzett alkalmazás is nyomkövetők százait használta.
Nem világos az sem, hogy ki a tulajdonosa a chatbotok mögött álló cégek egy részének. Az egyik alkalmazás webhelye (a Mimico – Your AI Friends) például csak a „Szia” szót tartalmazza. Mások nem tüntetik fel tulajdonosaikat és származási helyüket, vagy csak általános súgó- vagy ügyfélszolgálati e-mail címeket adnak meg.
A Mozilla kiemelte: sok vállalat gyenge biztonsági gyakorlatot alkalmaz a jelszavak létrehozásakor. A kutatóknak sikerült létrehozniuk egy egykarakteres jelszót (“1”), és ezzel bejelentkezni az Anima AI alkalmazásaiba. Más alkalmazások hasonlóképpen engedélyezték a rövid jelszavakat, ami potenciálisan megkönnyíti a hackerek számára, hogy behatoljanak az emberek fiókjaiba, és hozzáférjenek a csevegési adatokhoz.
Az elemzett chatbotok közül sok fizetős előfizetést kér bizonyos funkciók eléréséhez, és a múlt két évben, az MI-boom kezdete után került forgalomba. A chatbotokat gyakran úgy tervezik, hogy utánozzák az emberi tulajdonságokat, bizalomra és intimitásra ösztönözzenek. Egy férfinak az MI-barátnője azt mondta, hogy ölje meg II. Erzsébet királynőt, egy másik öngyilkos lett, miután hat hétig üzent egy chatbotnak. A Romantic AI honlapja mindeközben azt írja, hogy az alkalmazás „az Ön mentális egészségének megőrzésére szolgál”, miközben a szerződési feltételek egyértelművé teszik, hogy nem orvosi vagy mentális egészségügyi szolgáltatásokat nyújt, és hogy a vállalat „nem vállal felelősséget, garanciát” arra vonatkozóan, hogy szakmai segítséget nyújt.
A Wirednek Vivian Ta-Johnson, a Lake Forest College pszichológiai adjunktusa azt nyilatkozta, hogy a chatbotokkal való beszélgetés egyes emberek számára kényelmesebbé teheti olyan témák megvitatását, amelyeket általában nem osztanának meg másokkal. A pszichológus ugyanakkor kiemeli, hogy amikor egy szolgáltatás megszűnik vagy megváltoztatja rendszereinek működését, ez „traumás” lehet azoknak, akik közel kerültek az adott chatbothoz.
„A szolgáltatóknak komolyan kell venniük a használók és a chatbotok között kialakított érzelmi köteléket, és meg kell érteniük, hogy a chatbotok működésében bekövetkezett bármilyen változás hatással lehet a használók jólétére.”
A G DATA az alábbi tanácsokat adja az MI-csevegőtársak használatához:
- Az MI-partnerrel folytatott beszélgetés közben ne adjunk meg magunkról érzékeny információkat.
- Ne járuljunk hozzá az állandó földrajzi helymeghatározáshoz.
- Ne engedjünk hozzáférést fotóinkhoz és a kamerához.
- Ne használjunk olyan jelszót az MI-alkalmazásban, amelyet máshol is használunk.
- Erős jelszót válasszunk.
- Ne kössük össze az MI-csevegőtársat más szolgáltatásokkal (például ne használjuk Facebook vagy Google fiókunkat a belépéshez).
- Ha befejeztük az alkalmazás használatát, az alkalmazáson belül töröljük fiókunkat, és kérjük személyes adataink törlését. Az alkalmazás eltávolítása a telefonról nem fogja megszüntetni a fiókot.
- Szorongásainkkal, problémáinkkal elsősorban emberi szolgáltatókhoz, például pszichológushoz, elsősegély-vonalakhoz és segítő csoportokhoz forduljunk.
Cikkünk a Wired cikke és a Mozilla Alapítvány kutatása alapján készült. A cikkhez tartozó képet egy MI-szolgáltatással generáltuk.