AI može i da halucinira

Veštačka inteligencija (AI) postala je ključna reč u gotovo svakoj industriji – od zdravstva, preko proizvodnje, pa sve do sajber bezbednosti. Ova tehnologija, koja je nekada delovala kao deo naučne fantastike, danas se koristi za optimizaciju poslovnih procesa, zaštite računarskih sistema, kao sveobuhvatno poboljšanje života. S tim u vezi, treba napomenuti da kada govorimo o AI, uglavnom mislimo na generativnu AI – poput ChatGPT-a ili sistema za kreiranje slika i zvuka.  Osim toga, treba reći i da je sam princip funkcionisanja ove tehnologije prilično jednostavan.

AI je zapravo niz matematičkih algoritama u čijoj osnovi je obrađivanje velike količine podataka. To znači da su AI programi razvijeni da koriste podatke i brojeve kako bi prepoznali obrasce i na osnovu njih donosili zaključke. Suštinski, AI funkcioniše na osnovu logičkih proračuna, učeći iz verovatnoće sledećih događaja/reči. Na primer, ako izračunamo 1+1 uvek dobijamo 2; ili kad dođem na posao, veća je verovatnoća da ću popiti kafu kao logički sled događaja, a ne zaroniti u more. AI ne pretražuje internet već koristi postojeće ili “sveže” unete podatke (kroz samu interakciju) kako bi “učio” i generisao rezultat. Samim tim, često dolazi do takozvane halucinacije, gde za neka pitanja AI daje odgovore koji su netačni jer daje onu informaciju koja je logički najadekvatnija.

AI tehnologije trenutno imaju neverovatno široku primenu - od visoko-tehničkih oblasti kao što je sajber bezbednost, pa sve do automatizacije jednostavnih, svakodnevnih zadataka. Sveprisutnost AI tehnologije se takođe vidi u korišćenju svakodnevnih aplikacija gde AI personalizuje naše onlajn iskustvo preporukama za filmove, muziku, ili preporučuje proizvode na osnovu prethodnih preferenci.

Jedno od važnijih polja gde se veštačka inteligencija pokazala kao ključna tehnologija jeste sajber bezbednost. U svetu gde se broj pretnji rapidno povećava, AI je postaje kritičan alat za zaštitu digitalnih sistema i podataka. Konkretno, AI je izuzetno koristan za identifikaciju naprednih sajber napada koji su često previše suptilni ili brzi da bi ih ljudski operateri na vreme uočili. Sistemi zasnovani na veštačkoj inteligenciji mogu analizirati ogroman broj podataka u realnom vremenu i brzo prepoznati anomalije ili sumnjive aktivnosti, omogućavajući brzu reakciju. Na primer, AI može skenirati mreže i identifikovati neobične obrasce saobraćaja koji ukazuju na pretnje, poput pokušaja probijanja mreže. Takođe, AI može da analizira sadržaj e-mailova i automatski prepozna sumnjive ili maliciozne poruke, pre nego što one dođu do zaposlenih. Konkretno, korišćenjem mašinskog učenja, AI sistemi postaju sve bolji u razlikovanju legitimnih poruka od onih koje su deo phishing kampanje. AI takođe može automatski da analizira sistemske podatke i brzo detektuje potencijalne ranjivosti ili neobične aktivnosti koje ukazuju na kompromitovane ili nezaštićene sisteme.

Iako AI nije ‘zlonameran’ po prirodi, on može biti korišćen u loše svrhe, naročito kada postane dostupan široj javnosti kroz otvoreni kod - kao što je to ChatGPT. AI omogućava čak i manje veštim hakerima da kreiraju sofisticiranije napade i kampanje bez mnogo tehničkog znanja. Na primer, AI je sveprisutan u polju političkog uticaja, širenjem dezinformacija, i finansijskih prevara gde ova tehnologija omogućava pravljenje lažnih video snimaka ili glasovnih zapisa koji izgledaju uverljivo, a sve češće i identično osobi koja je “kopirana”. Ukratko, AI je moćan alat u sajber bezbednosti – pored toga što omogućava bolje i brže zaštite, on takođe pruža kriminalcima sredstva za kreiranje složenijih i efikasnijih napada. S tim u vezi, u praksi je primećeno da AI pruža više benefita u samoj zaštiti dok su jednostavni napadi, poput phishing-a, i dalje izuzetno efektivni i sama AI tehnologija se uglavnom koristi za optimizaciju ovakvih napada, a ne nužno kao “udarna igla”.

Iako AI nije inherentno maliciozan, postoji dilema između edukacije i regulacije veštačke inteligencije. Ali treba razumeti da je AI poput interneta – originalno nije stvoren za loše svrhe, ali se danas koristi i na načine koji nisu predviđeni. Regulacija interneta se pokazala kao ogroman izazov, pa se slično može očekivati i za AI. Kao i sa internetom, čest je slučaj da kompanije definišu kako njihovi zaposleni koriste AI i postavljaju granice koje se ne smeju preći. Pored toga, mnoge velike organizacije razvijaju sopstvene AI sisteme kako bi kontrolisale kako njihovi zaposleni koriste tehnologiju i zaštitile osetljive podatke od otvorenih ili rešenja u vlasništvu trećih lica. S druge strane, edukacija zaposlenih je ključna za pravilnu upotrebu AI-a. Zaposleni moraju biti svesni kako da pravilno koriste tehnologiju, kako da prepoznaju pretnje i kako da zaštite sebe i svoje kompanije. Ovakav pristup nas vraća na osnove sajber bezbednosti koje uključuju: ljude, procese, i tehnologije. Samim tim, i mala i srednja preduzeća se mogu zaštiti i od sofisticiranih AI napada kao i od incidenata proizašlih iz nepromišljenog korišćenja AI tehnologije.

Na kraju, postavlja se pitanje da li je AI nova tehnološka paradigma ili samo trenutni trend? Postoji mnogo izazova sa AI-om, od ogromnih količina energije koje troši, do visokih troškova razvoja i problema sa pristrasnošću podataka na kojima se AI trenira. Na primer, obučavanje jednog velikog AI modela može potrošiti energiju ekvivalentnu potrošnji malog grada, što postavlja pitanja o ekološkoj održivosti ove tehnologije. Prema javno dostupnim podacima, za treniranje ChatGPT-a potrošeno je preko 100 miliona dolara, dok je za treniranje Google-ovog Gemini-a utrošeno blizu 200 miliona dolara. Interesantno je da ove brojke prikazuju samu cenu modeliranja podataka, a ne uključuju plate zaposlenih koje mogu biti dodatnih 30 i 50 posto na navedene troškove. Osim toga, AI sistemi nisu imuni na greške ili pristrasnost i baze podataka na kojima se AI trenira predstavljaju manje od 1% interneta. Ako su podaci na kojima je AI treniran pristrasni, sistem će učiti na osnovu tih podataka i donositi neobjektivne zaključke. Ovo je posebno problematično u oblastima kao što su zdravstvo i pravosudni sistemi, gde pristrasni AI može imati ozbiljne posledice. S tim u vezi, iako AI donosi ogroman potencijal za inovacije, važno je da ga koristimo odgovorno, uzimajući u obzir sve njegove prednosti, ali i nedostatke.