Rizici chatbotova po decu i lažne informacije

Aktuelno Datum: 16.10.2023.
Rizici chatbotova po decu i lažne informacije

Piše: Nora Afaneh, Analitičarka web sadržaja, kompanija Kaspersky

Veštačka inteligencija (AI) je postala sastavni deo naših života, bili mi toga svesni ili ne. Može da bude telefon koji držimo u rukama, saobraćajni sistemi, ili obrazovanje; Veštačka inteligencija polako zamenjuje mnoge alatke za koje smo nekada mislili da su inovativni. Najistaknutiji, ChatGPT je brojnim ljudima pokazao šta sve AI može da uradi. Širom sveta, ljudi su požurili da ga isprobaju i vide njegove mogućnosti; ali postoji jedan važan faktor koji nije uzet u obzir – deca.

Deca svih uzrasta širom sveta dobijaju pristup i mogu da koriste alatke veštačke inteligencije od kojih mnogi zahtevaju veoma mali ili nikakav oblik pristanka. Iako postoji mnogo prednosti od širokog spektra dostupnih alata, još uvek nismo svesni mnogih rizika AI chatbota za decu, poput gubitaka privatnih podataka, sajber pretnje i neprikladan sadržaj.

Danas je lakše učiti uz pomoć AI alata. Možete pronaći korisne informacije o bilo kojoj temi postavljajući samo jedno pitanje AI chatbotu. Ova tehnologija je olakšala navigaciju kroz informacije bez otvaranja desetina tabova i čitanja nabrojanih članaka na određenu temu. Kada su deca u pitanju, ove mogućnosti su posebno važne, jer podstiču radoznalost i čine da učenje bude više interaktivno i zanimljivo. Dostupna je i pristupačna platforma koja omogućava deci da vežbaju svoje jezičke veštine i da slobodno razgovaraju bez vremenskog ograničenja, ali sve to može da ima i određene rizike.

U kratkom istraživanju AI chat robota na mreži, nekoliko rizika se posebno ističu. Najpopularniji AI chatbot – ChatGPT, koji je postavio rekord za najbrže rastuću bazu korisnika, nema odgovarajuću verifikaciju uzrasta, što je samo po sebi pretnja privatnosti podataka dece. Štaviše, kada se to zatraži, ChatGPT lako pruža sadržaj koji često može biti netačan i obmanjujuć, a ubedljiv. Neki studenti su počeli da koriste ChatGPT kao alat za plagijat i naišli su na širok spektar lažnih referenci na nepostojeće članke. Postoje i opasni primeri, kada su, na početku rada ChatGPT, neke tinejdžerke pitale AI o planovima ishrane i medicinskim informacijama na koje je chatbot odmah odgovorio bez pozivanja na stvarne medicinske podatke, već zbirku nasumičnih informacija sa web-a.

Pored toga, Snapchat-ov „MiAI“ chatbot je još jedan u nizu chatbotova koji se koristi, a dozvoljava pristup korisnicima od 13 godina bez potrebe za pristankom roditelja. Rizik ovih „ AI prijatelja“ sastoji se iz toga što postoji mogućnost da deca zaista veruju da su im prijatelji i postupati po njihovom savetu, koji može „uključivati pristrastan, netačan, štetan ili obmanjujući sadržaj“, kako se u samoj aplikaciji navodi. To predstavlja poseban rizik, jer se tinejdžeri mogu osećati ugodnije da dele poverljive informacije sa chatbotom umesto sa svojim roditeljima koji bi mogli da im pomognu. Kolumnista Vašington Post-a opsao je svoje iskustvo: „Nakon što sam svom AI rekao da imam 15 godina i da želim da imam epsku rođendansku žurku, dao mi je savet kako da prikrijem miris alkohola i marihuane. Kada sam mu rekao da treba da napišem esej za školu, AI ga je napisao za mene.”

Sa druge strane, postoji mnoštvo AI chat robota koji su posebno dizajnirani da pruže „erotično“ iskustvo. Ovi chatbotovi korisnicima pružaju iskustva kako izgleda imati dečka/devojku i neretko koristi eksplicitnu vrstu komunikacije. Iako je potreban neki oblik provere starosti, to je opasno jer neka deca mogu odlučiti da lažu o svojim godinama, a prevencija takvih slučajeva je nedovoljna. MiAnima je, na primer, bila jedno od četovanja koje sam testirao, i nije zahtevao skoro nikakav napor sa moje strane da podstaknem seksualne odgovore bez potrebe za proverom starosti. Botfriend je AI alat, namenjen odraslima, posebno dizajniran za seksualno eksplicitnu igru uloga i dovoljno je samo da ostavite email za registraciju. Zato je važno biti svestan kako deca koriste internet, da li su u opasnosti od gubitka ili zloupotrebe poverljivih podataka.

Balansiranje rizika i koristi

Sa povećanjem rizika za decu na internetu, posebno sa chatbotovima koji se ponašaju kao „prijatelji“; postoji povećana potreba za praćenjem i zaštitom dece. Kao roditelji, važno je shvatiti da zabrana nije najbolji način delovanja, jer će uvek postojati nešto novo na mreži čemu će deca biti izložena. Međutim, od suštinskog je značaja igrati aktivnu ulogu u balansiranju gore navedenih rizika i raditi na ublažavanju potencijalnih posledica.

Saveti koji će roditeljima pomoći da umanje rizik od AI chatbotova:

  1. Učite o bezbednosti na Internetu

Učenje dece o online bezbednosti i privatnosti može biti veoma koristan način da se spreči deljenje ličnih podataka sa strancima, čak i sa cahtbot-ovima.

Predloženi članci:

 Sajber sigurnost za decu

 Šta treba i ne treba raditi kada je u pitanju bezbednost na internetu

 Prevare vezane za povratak u školske klupe

  1. Isprobajte AI chatbotove zajedno sa svojim detetom

Stručnjaci kompanije Kaspersky preporučuju da se roditelji uključe od samog početka, te pokažu svojoj deci kako da i kako ne koristiti ove alate. Pokažite im primere o čemu bi mogli da razgovaraju i koje AI chatbotove da koriste ili izbegavaju.

  1. Nadgledajte, kontrolišete i podesite postavke privatnosti

Jedan od najjačih alata za zaštitu roditelja na mreži je sveobuhvatno bezbednosno rešenje. Pored toga, specijalne aplikacije za digitalno roditeljstvo pružaju mnoge neophodne alate za zaštitu i bezbednost dece na internetu. Mnoge njegove karakteristike uključuju filtriranje sadržaja koje blokira neprikladne veb lokacije, upravljanje vremenom ispred ekrana radi zdrave ravnoteže, bezbednu pretragu i zabranu štetnog sadržaja, kao i mnoge druge alate koji omogućavaju roditeljima da ne brinu dok njihova deca surfuju internetom.

Aktuelno


Ostale objave iz ove kategorije:

Rizici chatbotova po decu i lažne informacije
Konferencija "Rizici novog doba: nova era održivosti", 6. jun, Hyatt Regency Beograd

maj 20, 2024

Kako će se na poslovanje odraziti ubrzane promene – od razvoja veštačke inteligencije i rizika koje donosi, preko sve većih sajber rizika uslovljenih razvojem novih tehnologija, do klimatskih promena koje remete poslovanje od lanca..

Pročitaj više...

Rizici chatbotova po decu i lažne informacije
Marsh Adria Risk Forum: Rizicima treba pristupati holistički i na duge staze

apr 20, 2024

Lorejn Stok, lider za risk menadžment za Evropu kompanije Marsh je na otvaranju Adria Risk Foruma 2024. koji je održan 18. aprila u Beogradu, predstavila ukratko tradicionalno istraživanje ove kompanije na temu rizika. Kada je reč o percepciji rizika..

Pročitaj više...

Rizici chatbotova po decu i lažne informacije
Na poslovnu klimu utiču pravilno korišćenje podataka i sajber bezbednost

feb 5, 2024

Na povoljnu poslovnu klimu tokom 2024. više nego ranije uticaće pravilno korišćenje podataka i sajber bezbednost . Čak do 86 odsto finansijskih direktora ističe važnost pravovremenog ulaganja u poslovne modele koji..

Pročitaj više...

Rizici chatbotova po decu i lažne informacije
Risk menadžeri su izdvojili deset najvažnijih poslovnih rizika za 2024.

jan 23, 2024

Najvažniji globalni poslovni rizici za 2024. su sajber incidenti, a sledi prekid poslovanja, dok su prirodne katastrofe izbile na treće mesto sa šestog na kom su se nalazile prošle godine, pokazuje Allianz Barometar rizika 2024. Čak..

Pročitaj više...