Danas se često profesionalno koriste jezički modeli koji su koncipirani na neuronskim mrežama, poput ChatGPT-a. Anketiranje koje je kompanija Kaspersky sprovela u Rusiji, otkrila je da je 11 odsto ispitanika koristilo chatbotove, dok 30 odsto veruje da imaju potencijal da zamene ljudske poslove u budućnosti. Druga istraživanja ukazuju da se kancelarijski radnici većinski opredeljuju za ChatGPT, konkretnije 50 odsto ispitanika u Belgiji i 65 odsto u Velikoj Britaniji. Česta pojava termina „ChatGPT“ u Google Trends ukazuje da se često koristi tokom radne nedelje.
Međutim, sve veća integracija chatbotova na nam postavlja važnu dilemu: Da li im se mogu poveriti osetljivi korporativni podaci? Istraživači kompanije Kaspersky identifikovali su pet ključnih rizika povezanih sa upotrebom ChatGPT-a u poslovnom okruženju.
Curenje ili hakovanje podataka od strane provajdera
Iako su chatbotovi bazirani na jezičkim modelima velikih tehnoloških kompanija, čak ni one nisu imune na hakovanje ili slučajno curenje podataka. Primer toga može da bude incident u kojem su korisnici ChatGPT-a mogli videti poruke prethodnih sagovornika.
Curenje podataka preko chatbotova
Teoretski, razgovori sa chatbotovima mogu se koristiti za obuku budućih modela. S obzirom na to da je LLM (jezički model baziran na neuronskim mrežama) podložan „neželjenom pamćenju“, gde se memorišu jedinstvene sekvence poput brojeva telefona. Ukoliko se nečiji lični podaci pojave u trening modulima, to predstavlja bezbednosni rizik, jer su nečiji privatni podaci dostupni drugim korisnicima.
Zlonamerni klijent
Ovaj rizik može prerasti u veliki problem, posebno tamo gde su zvanične ChatGPT usluge blokirane. Ako potražite nezvanične alternative poput programa, sajtova ili botova, možete naleteti na malver koji se krije kao klijent ili aplikacija.
Hakovanje naloga
Napadači mogu pristupiti korisničkim nalozima zaposlenih i njihovim podacima preko phishing napada ili korišćenjem ukradenih informacija za prijavu. Štaviše, Kaspersky Digital Footprint Intelligence redovno otkriva postove na Dark web forumima gde se prodaju pristup korisničkim nalozima chatbota.
Da sumiramo, prilikom korišćenja chatbotova, gubitak podataka je glavni rizik, kako za korisnike tako i za poslovne subjekte. Odgovorni razvojni timovi detaljno opisuju kako se podaci koriste za obuku modela u politikama privatnosti. Analiza popularnih chatbota aplikacija, uključujući ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard i Genius App od Alloy Studios, koju je sprovela kompanija Kaspersky, pokazuje da u B2B sektoru ipak postoje viši standardi bezbednosti i privatnosti, s obzirom na veće rizike. Stoga su uslovi korišćenja podataka, prikupljanje, skladištenje i obrada više usmereni na zaštitu, u poređenju sa B2C sektorom. Jednostavno, B2B rešenja u ovom istraživanju obično ne čuvaju istorije razgovora, a u nekim slučajevima nema ni slanja podataka na servere kompanije, budući da chatbot radi lokalno u mreži korisnika.
Nakon što smo ispitali potencijalne rizike vezane za korišćenje chatbotova zasnovanih na LLM-u u poslovne svrhe, otkrili smo da je rizik od curenja osetljivih podataka najveći onda kada zaposleni koriste lične naloge za poslovne potrebe. Zato treba raditi na podizanju svesti zaposlenih o neophodnosti odgovornog korišćenja ovakvih tehnologija. S jedne strane, zaposleni treba da razumeju koji su podaci poverljivi, bilo da su lični ili poslovna tajna, kao i da razumeju razloge zbog kojih ovakve podatke ne smeju poslati chatbotu. Sa druge strane, kompanija mora da navede jasna pravila za korišćenje takvih usluga, ukoliko su dozvoljene“, komentariše Ana Larkina, stručnjak za bezbednost i privatnost kompanije Kaspersky.
Ukoliko želite više da saznate o rizicima korišćenja chatbotova, posetite Securelist.com.
Kako biste sigurno koristili chatbotove, stručnjaci kompanije Kaspersky preporučuju sledeće:
- Koristite jake, jedinstvene lozinke: Kreirajte složene lozinke za svaki od svojih naloga i izbegavajte da za lozinke koristite informacije koje je lako pogoditi (rođendanski datumi ili imena).
- Čuvajte se phishing napada: Budite oprezni ako dobijete mail, poruku ili poziv u kojima se traže lični podaci. Proverite identitet pošiljaoca pre nego što dajete bilo kakve podatke.
- Obrazujte svoje zaposlene: Zaposleni treba da budu informisani o najnovijim pretnjama na mreži i najboljim načinima kako da ostanu bezbedni.
- Ažurirajte softver: Redovno ažurirajte svoj operativni sistem, aplikacije i antivirusne programe. Ova ažuriranja često sadrže neophodne bezbednosne zakrpe.
- Ograničite deljenje korporativnih podataka: Budite oprezni kada delite lične podatke na društvenim mrežama ili javnim forumima.
- Verifikujte URL adrese i web lokacije: dvaput proverite URL sajtova koje posećujete, posebno pre nego što unesete akreditive za prijavljivanje ili obavite kupovinu.
- Koristite rešenje za korporativnu bezbednost: Kako biste sprečili zaposlene da samostalno koriste nepouzdane chatbotove u poslovne svrhe, možete koristiti bezbednosno rešenje sa analitikom. Na primer, Kaspersky Endpoint Security Cloud uključuje i Cloud Discovery za upravljanje uslugama i procenu rizika.
Post Views: 67
