chatgpt-ja-lisää-mitä-äly-chatbotit-tarkoittavat-tietoturvan-tulevaisuuden-kannalta

Alkaen suhteellisen yksinkertaisista tehtävistä, kuten sähköpostien kirjoittamisesta, vaativampiin tehtäviin, kuten esseiden kirjoittamiseen tai koodin kokoamiseen, ChatGPT -- OpenAI:n AI-pohjainen luonnollisen kielen käsittelyn työkalu -- on herättänyt valtavaa kiinnostusta sen julkaisun jälkeen.

Se ei ole millään tavalla täydellinen, tietysti - se tekee virheitä ja virheellisesti tulkitsi tiedot, joista se oppii, mutta monet näkevät sen ja muut tekoälytyökalut tulevaisuutena siitä, miten käytämme internettiä.

OpenAI:n ChatGPT:n käyttöehdoissa on erityisesti kielletty haittaohjelmien, kuten lunnasohjelmien, näppäimistön tallentimien, virusten tai "muun vahingon aiheuttamiseen tarkoitetun ohjelmiston" luominen. Se kieltää myös roskapostin luomisen sekä rikolliseen toimintaan tähtäävät käyttötarkoitukset.

Mutta kuten kaikkien innovatiivisten verkkoteknologioiden kanssa, on jo ihmisiä, jotka kokeilevat miten he voisivat hyödyntää ChatGPT:ä hämärämpiin tarkoituksiin.

Julkaisun jälkeen ei mennyt kauaa ennen kuin rikolliset alkoivat jakaa viestiketjuja maanalaisilla foorumeilla siitä, miten ChatGPT:ta voitaisiin käyttää avuksi vahingollisessa verkkotoiminnassa, kuten kalasteluviestien kirjoittamisessa tai haittaohjelmien kokoamisessa.

Ja on huolta siitä, että rikolliset yrittävät käyttää ChatGPT:ä ja muita tekoälytyökaluja, kuten Google Bardia, osana toimintaansa. Vaikka nämä tekoälytyökalut eivät mullista kyberhyökkäyksiä, ne voivat silti auttaa kyberrikollisia - jopa tahattomasti - suorittamaan haitallisia kampanjoita tehokkaammin.

"En usko, ainakaan lyhyellä aikavälillä, että ChatGPT luo täysin uusia hyökkäystyyppejä. Pääpaino tulee olemaan heidän päivittäisten toimintojensa kustannustehokkuuden parantamisessa", sanoo Sergey Shykevich, uhkainformaatioryhmän johtaja Check Pointin kyberturvallisuusyrityksessä.

Lisäksi: Mikä on ChatGPT ja miksi se on tärkeää? Tässä kaikki mitä sinun tarvitsee tietää

Phishing-hyökkäykset ovat yleisin osa haitallisia hakkerointi- ja petoskampanjoita. Olipa hyökkääjänä lähettämässä sähköposteja haittaohjelmien levittämiseksi, kalastelulinkkejä tai käytetään vakuuttamaan uhri siirtämään rahaa, sähköposti on avainväline alustavassa pakoilussa.

Se luottamus sähköpostiin tarkoittaa sitä, että ryhmien on saatava jatkuvasti selkeää ja käyttökelpoista sisältöä. Monissa tapauksissa, erityisesti kalastelun yhteydessä, hyökkääjän tavoitteena on saada ihminen tekemään jotain, kuten siirtämään rahaa. Onneksi monet näistä kalasteluyrityksistä on helppo tunnistaa roskapostiksi juuri nyt. Mutta tehokas automaattinen tekstittäjä voisi tehdä näistä sähköposteista vakuuttavampia.

Kyberrikollisuus on globaali teollisuus, jossa rikolliset eri maissa lähettävät kalasteluviestejä mahdollisille kohteille ympäri maailmaa. Tämä tarkoittaa, että kieli voi olla este, erityisesti tiettyihin kohdennettuihin kalasteluhyökkäyksiin, jotka perustuvat uhrien uskomiseen, että he puhuvat luotettavan yhteyshenkilön kanssa - ja on epätodennäköistä, että joku uskoo puhuvansa kollegan kanssa, jos sähköpostit ovat täynnä epätyypillisiä kirjoitus- ja kielioppivirheitä tai outoa välimerkintää.

Mutta jos tekoälyä hyödynnetään oikein, chatbottia voitaisiin käyttää kirjoittamaan tekstiä sähköposteihin millä tahansa kielellä, jota hyökkääjä haluaa käyttää.

"Suuri este venäläisille kyberrikollisille on kieli - englanti", sanoo Shykevich. "He palkkaavat nykyään venäläisissä korkeakouluissa englannin opintoja suorittaneita valmistuneita kirjoittamaan kalasteluviestejä ja työskentelemään puhelinpalvelukeskuksissa - ja tästä heidän täytyy maksaa rahaa."

Hän jatkaa: "Jotain kuten ChatGPT voi säästää heiltä paljon rahaa erilaisten kalasteluviestien luomisessa. Se voi vain parantaa heidän elämäänsä. Luulen, että se on polku, jota he etsivät."

Teoriassa on olemassa suojausmekanismeja, jotka on suunniteltu estämään väärinkäytöstä. Esimerkiksi ChatGPT edellyttää käyttäjien rekisteröitymistä sähköpostiosoitteen avulla ja vaatii myös puhelinnumeron rekisteröinnin varmistamiseksi.

Ja vaikka ChatGPT kieltäytyy kirjoittamasta kalasteluviestejä, on mahdollista pyytää sitä tekemään sähköpostipohjia muille viesteille, joita kyberhyökkääjät yleisesti käyttävät hyväkseen. Tällainen pyyntö voisi sisältää viestejä, kuten väitteen vuosittaisesta bonuksesta, tärkeän ohjelmistopäivityksen lataamisesta ja asentamisesta tai kiireellisenä tarkastettavasta liitetiedostosta.

"Laatiminen sähköpostin vakuuttaa joku klikkaa linkkiä saada jotain kuten konferenssi kutsu - se on melko hyvä, ja jos olet ei-native Englanti puhuja tämä näyttää todella hyvältä", sanoo Adam Meyers, vanhempi varapuheenjohtaja tiedustelun Crowdstrike; lla, kyberturvallisuuden ja uhkatiedon toimittaja.

"Voit antaa sen luoda kauniisti laaditun ja kieliopillisesti oikean kutsun, jonka luominen ei välttämättä ole mahdollista, jos et ole englannin kielen äidinkielen puhuja."

Mutta näitä työkaluja ei väärinkäytetä vain sähköpostin yhteydessä; rikolliset voisivat käyttää sitä apunaan kirjoittaessaan koodia millä tahansa tekstipohjaisella verkkosovelluksella. Hyökkääjät, jotka pyörittävät huijauksia tai jopa kehittyneet kyberuhkaryhmät, jotka pyrkivät toteuttamaan vakoilukampanjoita, voisivat hyödyntää tätä hyödyllisenä työkaluna - erityisesti väärien sosiaaliprofiilien luomisessa ihmisten houkuttelemiseksi.

"Jos haluat luoda uskottavaa liike-elämän puheenaihetta LinkedIniin, jotta näytät liike-elämän henkilöltä, joka pyrkii luomaan verkostoja, ChatGPT on siihen loistava työkalu", sanoo Kelly Shortridge, kyberturvallisuuden asiantuntija ja Fastlyn pilvipalveluntarjoajan vanhempi pääasiallinen tuoteasiantuntija.

Eri hakkeriryhmät yrittävät hyödyntää LinkedIniä ja muita sosiaalisen median alustoja työkaluinaan suorittaessaan kybervakoojankampanjoita. Mutta väärien, mutta aidoilta näyttävien verkko-profiilien luominen - ja täyttäminen viesteillä ja päivityksillä - on aikaa vievä prosessi.

Shortridge uskoo, että hyökkääjät voisivat käyttää tekoälytyökaluja, kuten ChatGPT:ä, laatimaan vakuuttavaa sisältöä samalla hyötyen siitä, että työ on vähemmän työlästä kuin manuaalinen työ.

"Monet tällaiset sosiaalisen tekniikan kampanjat vaativat paljon vaivaa, koska sinun täytyy luoda nämä profiilit", hän sanoo ja väittää, että tekoälytyökalut voisivat merkittävästi alentaa pääsykynnystä.

”Olen varma, että ChatGPT pystyy kirjoittamaan erittäin vakuuttavilta kuulostavia ajatuksenjohtajuuspostauksia”, hän sanoo.

Teknologisen innovaation luonteeseen kuuluu, että aina kun uutta ilmenee, on aina niitä, jotka yrittävät hyödyntää sitä ilkeisiin tarkoituksiin. Ja vaikka kuinka kekseliäitä keinoja käytettäisiin väärinkäytön estämiseksi, nokkelien kyberrikollisten ja huijaajien luonteesta johtuen he todennäköisesti löytävät keinoja ohittaa suojaukset.

"Ei ole mitään tapaa täysin poistaa väärinkäyttöä nollaan. Se ei ole koskaan tapahtunut missään järjestelmässä", sanoo Shykevich, joka toivoo, että mahdollisten tietoturvaongelmien esille nostaminen johtaa enemmän keskusteluun siitä, miten estetään tekoäly-puhebotteja hyväksikäyttämästä väärin tarkoitettuihin tarkoituksiin.

"Se on hieno teknologia - mutta kuten aina uuden teknologian kanssa, siinä piilee riskejä ja on tärkeää keskustella niistä ja olla tietoisia niistä. Ja mielestäni mitä enemmän keskustelemme, sitä todennäköisemmin OpenAI ja vastaavat yritykset sijoittavat enemmän väärinkäytön vähentämiseen," hän ehdottaa.

On myös etuja tietoturvassa tekoälyn chatbottien, kuten ChatGPT:n, avulla. Ne ovat erityisen hyviä koodin käsittelyssä ja ymmärtämisessä, joten niitä voidaan mahdollisesti käyttää auttamaan puolustajia ymmärtämään haittaohjelmia. Koska ne myös osaavat kirjoittaa koodia, on mahdollista, että näiden työkalujen avulla kehittäjiä avustamalla voidaan luoda parempaa ja turvallisempaa koodia nopeammin, mikä on hyvä asia kaikille.

Kuten Forresterin pääanalyytikko Jeff Pollard hiljattain kirjoitti, ChatGPT voisi tuoda merkittävän vähennyksen siihen aikaan, joka kuluu turvallisuusincidenttien raporttien tuottamiseen.

"Nopeuttamalla niiden käsittelyä saadaan enemmän aikaa muihin tehtäviin - testaamiseen, arvioimiseen, tutkimiseen ja reagointiin, mikä auttaa turvatiimejä laajentamaan toimintaansa", hän huomauttaa ja lisää, että botti voisi ehdottaa seuraavia suositeltavia toimenpiteitä saatavilla olevan datan perusteella.

"Jos turvallisuuden orkestrointi, automaatio ja vastaaminen on asetettu oikein nopeuttaaksesi artefaktien noutoa, tämä voisi nopeuttaa havaitsemista ja vastaamista sekä auttaa [turvallisuusoperaatiokeskuksen] analyytikoita tekemään parempia päätöksiä", hän sanoo.

Joten chatbotit saattavat vaikeuttaa joidenkin elämää kyberturvallisuuden osalta, mutta siinä saattaa olla myös hopeareunuksensa.

ZDNET otti yhteyttä OpenAI:hin kommenttia varten, mutta ei saanut vastausta. Kuitenkin, ZDNET pyysi ChatGPT:lta, mitä sääntöjä sillä on käytössään estääkseen sen väärinkäyttöä kalasteluun - ja saimme seuraavan tekstin.

"On tärkeää huomata, että vaikka tekoälykielimalleilla kuten ChatGPT:llä voidaan tuottaa samankaltaista tekstiä kuin kalasteluviesteissä, ne eivät pysty itsenäisesti suorittamaan haitallisia toimia vaan vaativat käyttäjän aikeet ja toimet aiheuttaakseen vahinkoa. Tästä syystä käyttäjien on tärkeää olla varovaisia ja käyttää harkintaa tekoälyteknologiaa käyttäessään, sekä olla valppaita suojautuakseen kalastelulta ja muilta haitallisilta toiminnoilta."