Fem måter ChatGPT hjelper deg med å hacke

21. mars 2023 | Rådgivning, Blogg Fem måter ChatGPT hjelper deg med å hacke

ChatGPT - hjelp meg å hacke.

ChatpGPT har tatt verden med storm. Daglige nyhetsrapporter gir oss innsikt i noe nytt det kan gjøre som vil automatisere verden vår og gjøre livene våre bedre. Men det er også en ulempe med ChatGPT. Noen vil kalle det en mørk side. Som du vil se i denne artikkelen, vil CyberHoot skissere 5 forskjellige måter ChatGPT kan være skadelig for samfunnet på. Les videre for å lære mer.

Mørke ChatGPT-trekk å bekymre seg for

  1. Lær hackere hvordan de kan utnytte sårbarheter.
  2. Skriv skadevaren for deg.
  3. Skriv grammatisk korrekte spear-phishing-e-poster på alle språk.
  4. Øv på sosial manipulering i realistiske simuleringer.
  5. Skriv overbevisende ved å bruke åpenbart feilaktige argumenter.

ChatGPT hjelper hackere med å hacke

ChatGPT har en mørk side som gjør det mulig for ellers ufaglærte hackere å hacke. ChatGPT kan lage overbevisende e-poster om phishing-angrep på målets språk. Den kan skrive funksjonell skadelig programvare for å bryte seg inn i et datasystem eller nettverk. Den kan forklare verktøyene og metodene som trengs for å utnytte en sårbarhet du kan finne med en sårbarhetsskanning.

«Eksperimentet vårt viste at AI kunne gi detaljerte råd om hvordan vi kunne utnytte eventuelle sårbarheter vi støter på.» Checkpoint Security Researcher («CSR»)

Disse truslene representerer en utvidelse av universet av potensielle hackere som retter seg mot bedriften din. Det følgende er en detaljert gjennomgang av truslene AI representerer for bedriftene våre og noen av mottiltakene du trenger for å bekjempe dem.

Slik utnytter du TLS1.1 i henhold til ChatGPT

Fem måter du kan hacke med ChatGPT

La oss se på ulike måter ChatGPT åpner hacking for ufaglærte individer, noe som resulterer i reelle risikoer for vellykket utnyttelse for bedriften din.

Mørk egenskap nr. 1: Lær hvordan du utnytter sårbarheter

Som du kan se på skjermbildet ovenfor, vil ChatGPT detaljere nøyaktig hvordan man utnytter TLS 1.1-sårbarheter på et nettsted. Den tilbyr virkelige utnyttelser (BEAST og CRIME) og navngir verktøyene som trengs for å utnytte dem. Dette åpner hacking for verdens ufaglærte wannabe-hackere, og utvider dermed omfanget av hvem som kan lære ferdighetene som trengs for å bli en vellykket hacker. Dermed blir hacking mer tilgjengelig for enkeltpersoner som ellers ikke ville ha noen måte å lære ferdighetene, verktøyene og teknikkene som trengs for å angripe selskapene og nettbaserte eiendommer på. Det er som å putte en ladd pistol i salgsautomater over hele byen du bor i.

Mørk egenskap nr. 2: Skriv skadelig programvare for deg

ChatGPT kan skrive kode gitt riktig forespørsel om inndata. Denne koden kan være skadelig programvare som ransomware, passordknekking og mer. Dette setter farligere hackingverktøy i hendene på mindre erfarne hackere. 

«CSRs analyse av flere store undergrunns-hackermiljøer viser at nettkriminelle bruker OpenAI til å utvikle ondsinnede verktøy ... mindre erfarne nettkriminelle bruker det for å komme inn i spillet.»

Resultatene kan bli flere angrep med mindre oppmerksomhet rettet mot de potensielle negative bivirkningene. Denne artikkelen beskriver hvordan en hackerorganisasjon ga dekrypteringsnøkkelen til ransomware som ble brukt til å infisere et barnesykehus, fordi gruppen «ransomware for hire» som laget verktøyet, var opprørt over at hackere målrettet et barnesykehus med sin skadelige programvare. Hvis hackere kan generere ransomware, vil det da være noen adferdskodeks for angrep? La oss gå videre til de vanligste angrepene der ute – phishing, og se hva ChatGPT kan gjøre.

Mørk egenskap nr. 3: Skriv spear-phishing-e-poster på hvilket som helst språk

Noen avslørende tegn på at du har blitt utsatt for et phishing-angrep er stavefeil, tegnsettingsfeil og grammatikkfeil. Cybersikkerhetseksperter lærer andre å se etter disse kjennetegnene for å oppdage og unngå phishing-angrep. ChatGPT kan ikke bare lage grammatisk korrekte phishing-angrep, men kan også gjøre det ved hjelp av innspill fra sosiale medier. Dette forvandler et vanlig phishing-angrep til et høyoktan spear-phishing-angrep som lettere kan lure mottakeren. I tillegg kan det gjøre det på alle språk ChatGPT støtter. CyberHoot har testet oversettelsesmuligheter fra engelsk til språk som er kjent for våre ansatte, og ChatGPT gjorde en bedre jobb enn Google Translate. Språkfunksjonene er utrolige.

Mørk egenskap nr. 4: Lag en ny sosial manipulasjonsangrepsdialog for praksis

ChatGPT kan hjelpe deg med å skape ny sosial manipuleringsdialog (forespørsler og svar) for å gjennomføre mer realistiske og overbevisende, godt undersøkte og innøvde angrep. Å vite hva som forventes i en samhandling med en brukerstøtte når man ber om tilbakestilling av passord, vil hjelpe hackere med å rollespille for å forberede seg på den forventede spørsmålsrekken. Se ChatGPT-dialogen nedenfor som referanse.

ChatGPT – hvordan du ber om endring av et passord hos brukerstøtten

Øvelse gjør mester. Uerfarne hackere kan øve på å sende forespørsler til brukerstøtte og lære hvilke typer informasjon de vil bli bedt om å oppgi. Dette vil gjøre det mulig for dem å finne på motargumenter for å omgå beskyttelsestiltak. Autentiserer bedriftens brukerstøtte hver forespørsel om tilbakestilling av passord effektivt, hver gang?

Mørk egenskap nr. 5: ChatGPT skriver sikre argumenter selv når de er feil.

ChatGPTs meteoriske vekst skyldtes delvis evnen til å skrive artikler av universitetskvalitet. Den oppsummerer komplekse ideer. Den skriver overbevisende om ethvert emne du ber den om. Imidlertid har forskere i mange dokumenterte tilfeller identifisert ChatGPT som rapporterer åpenbart falsk informasjon. Det finnes til og med et begrep for AI som rapporterer dårlig informasjon. Det kalles en AI-hallusinasjon.

In kunstig intelligens (KI), en hallusinasjon or kunstig hallusinasjon er en selvsikker respons fra en AI som ikke ser ut til å være berettiget av sin treningsdata.[1]

I naturlig språkbehandling defineres en hallusinasjon ofte som «generert innhold som er meningsløst eller usant i forhold til det oppgitte kildeinnholdet».

ChatGPT er i stand til å lage fakta og argumentere for dem på en svært overbevisende måte. Dette kan føre til at feilinformasjon spres over internett under dekke av ekspertvurderinger.

Så, med alle disse risikoene for at ChatGPT forårsaker problemer, fra feilinformasjon til å skrive skadelig programvare, til å gi oppskriften på å utnytte sårbarheter i sanntid til ufaglærte og dyktige hackere, hva bør bedrifter gjøre for å forberede seg? Hvilke mottiltak vil bidra til å beskytte bedriften din mot et kompromittert inngrep fra ChatGPT?

mottiltak:

Interessant nok er mottiltakene som bekjemper ChatGPT-risikoene stort sett de samme som før ChatGPT eksisterte. Disse mottiltakene blir rett og slett stadig mer presserende å implementere i bedriften din fordi antallet hackere som er i stand til å utføre komplekse, sofistikerte og troverdige angrep øker dramatisk med ChatGPT. Angrepene i seg selv forblir imidlertid stort sett de samme som før. La oss se på hver av de fem mørke egenskapene ChatGPT forsterker og dens mottiltak.

 

mottiltak

Mottiltak nr. 1: Hvordan forhindre sårbarhetsutnyttelse i bedriften din

For å motvirke utnyttelse av sårbarheter i dine internettvendte og interne enheter, må du skanne disse enhetene kontinuerlig og oppdatere alle kritiske risikoer som identifiseres. Dette kalles sårbarhetsskanning . Du kan gjøre dette eksternt med nesten hvilken som helst sårbarhetsskanner. Internt må du distribuere en lokal skanner som du gir påloggingsinformasjon til. Dette vil tillate skanneren å avhøre ikke bare portene og protokollene som er i bruk på nettverket, men også operativsystemet til enheten som skannes. Dette vil tillate deg å identifisere manglende oppdateringer, firmwareoppgraderinger du trenger, og til og med svake konfigurasjoner. Riktig skanneverktøy vil hjelpe deg med å prioritere arbeidet ditt, og du kan bruke tiden din på å lukke de mest kritiske hullene i infrastrukturen din, forhåpentligvis før hackere utnytter dem.

Mottiltak nr. 2: Bekjempelse av angrep fra skadelig programvare

Ifølge Verizons siste årlige rapport om datainnbrudd er 82 % av alle brudd knyttet til den menneskelige faktoren. Dine ansatte er ansvarlige for 82 % av bruddene. Den uheldige sannheten her er at det ikke er deres feil. Ville du klandret en ansatt for ikke å kunne navngi presidenten i 10 utenlandske land? Likevel klandrer vi dem for å klikke på phishing-e-poster, for å gjenbruke passord og for å bli ofre for sosial manipulering når vi aldri har lært dem disse kritiske cybersikkerhetsferdighetene!

Bevisstgjøringstrening, phishing-testing og styringspolicyer bør stå øverst på alle bedrifters liste over mottiltak for å bekjempe den nåværende mengden hackerangrep. ChatGPT har nettopp åpnet dørene for enda flere hackere. Vil du og dine ansatte være klare for økningen i angrep som ChatGPT muliggjør? Disse angrepene vil ha høyere klarhet, sterkere nøyaktighet og bedre overbevisningsevne enn noe vi har sett før. Tiden for å styre, teste og lære opp brukere er nå, før et brudd.

Mottiltak nr. 3: Bekjempelse av hyppigere phishing-angrep

Mottiltakene her er de samme i dag, som de var det siste tiåret, og kanskje vil være det i tiåret som kommer. Bedrifter må utvide tradisjonelle angrepsbaserte phishing-e-poster med nye og uten tvil bedre tildelingsbaserte phishing-øvelser som er utformet for å utdanne brukere i stedet for å straffe dem. Denne nye typen phishing-testing er langt mer positiv for MSP-ene som tar den i bruk. Ledere drar også nytte av å bruke samsvarsmålinger som rapporterer om hver eneste brukers vellykkede beståtte phishing-test (aldri mulig før). Sluttbrukere som forbedrer kunnskapen sin, er basert nok til å trygt, effektivt og virkningsfullt oppdage og unngå hvert phishing-angrep de står overfor. MSP-er drar nytte av å ikke måtte sette opp tillatelseslister for phishing-testing, og de slutter også å motta de plagsomme e-postene som spør: «Er dette en phishing-angreps-e-post? Jeg er bare ikke sikker.»

Mottiltak nr. 4: Sørg for at SMB-en eller MSP-en din er forberedt på sosial manipuleringsangrep

Har MSP-en din en solid autentiseringsprosess for å bestemme identiteten til alle som ringer til brukerstøtten? Hva om administrerende direktørs sekretær ringer inn og ber om å tilbakestille administrerende direktørs konto? Hvordan validerer du denne forespørselen i tide uten unødige forsinkelser og uten å forstyrre den viktigste personen på klientstedet? Du må få disse prosessene på plass. Kanskje det er en portal for tilbakestilling av passord som kan autentisere brukeren på andre nye måter (MFA-basert, ikke sant?). Poenget her er at ChatGPT vil hjelpe hackere med å praktisere sosial manipulering til det punktet hvor de kan innøve angrep perfekt. ChatGPT vil fortelle dem nøyaktig hva de kan forvente i brukerstøttesamhandlingen og vil komme opp med troverdige måter å omgå tiltakene dine på. Ikke la det skje. Vær forberedt med god opplæring av ansatte på brukerstøtten for å oppdage, varsle og eskalere alt som ser ut til å være et forsøk på sosial manipulering. Dette er ikke et nytt mottiltak, det er sikkert. Det kan bli viktigere i nær fremtid ettersom hackere blir dyktigere i å bruke AI til å planlegge angrepene sine. 

Mottiltak nr. 5: Motvirke feilaktige argumenter basert på feilinformasjon fremsatt som fakta

Feilinformasjon har økt enormt de siste årene. Sosiale medier har skapt 1000 konspirasjonsteorier. Alle med høyere utdanning vil huske at ethvert faktum må støttes med en kildehenvisning. Ikke-siterte fakta er tåpelig i en akademisk artikkel.

Bedrifter må undersøke bloggartiklene sine gjennom kildematerialet. CyberHoot sluttet å sitere et faktum som er utbredt i nettsikkerhetskretser, som sier: «60 % av bedrifter som er kompromittert går konkurs innen 6 måneder», fordi vi ikke finner den opprinnelige kildehenvisningen til det sitatet. Det har blitt gitt videre fra bloggartikkel til bloggartikkel og er åpenbart feil informasjon. Vi vil ikke sitere det. Du må teste faktaene dine med kildehenvisninger og ikke blindt stole på svarene ChatGPT gir deg. Ha en sunn dose skepsis. Bruk sannhetskilder som følger denne tilnærmingen til rapportering. Mange nyhetsorganisasjoner har en hel gruppe mennesker kalt faktasjekkere, hvis jobb er å bekrefte faktaene i en artikkel. Dette betyr ikke at det ikke finnes «skjevheter» i rapporteringen som fortsatt holder stand. Fakta er som statistikk, de kan ofte manipuleres til å si nøyaktig hva skjevheten din ønsker. Google « implisitt skjevhet » for mer informasjon om dette emnet.

Konklusjoner om ChatGPT-hacking

Angrepene som ChatGPT muliggjør er egentlig ikke nye angrep. Snarere er de gamle angrep som kompetente hackere som har trent seg flittig kunne utføre. ChatGPT åpner bare døren for tusenvis av potensielle hackere. Tidligere ville ikke de mindre dyktige hackerne være i stand til å utføre de fem angrepene som ble gjort enklere eller muliggjort av ChatGPT. Dette betyr at vi alle må forberede oss på nok en økning i antall angrep. Ikke bare det, selskaper som kanskje ikke har tilgang til noen angrep, for eksempel et barnesykehus, kan bli angrepet av mindre ansvarlige hackere. Tiden for å forberede organisasjonen din er nå. Forbered deg med styringspolicyer, bevisstgjøringstrening, phish-testing etter oppdrag og grunnleggende opplæring. Du vil være glad for at du gjorde det.

Bygg vaner, ikke frykt, med CyberHoot, selskapet for positiv forsterkning.


Start gratis

For mer informasjon om hvordan hackere bruker ChatGPT til å hacke, se denne 3 minutter lange videoen.

OpenAI CEL snakker med ABC News om hvordan ChatGPT omformer samfunnet

kilde: 

Piper datamaskin: ChatGPT kan være en større cybersikkerhetsrisiko enn en faktisk fordel

Hackere bruker nå ChatGPT til å generere skadelig programvare

Ytterligere lesing: 

Utspekulert hack lar ChatGPT anta et ondt alter ego

Siste blogger

Hold deg skarp med det siste sikkerhetsinnsikt

Oppdag og del de nyeste trendene, tipsene og beste praksisene innen cybersikkerhet – i tillegg til nye trusler du bør se opp for.

Fartskontroller vs. rabatter for trygge sjåfører: Hvorfor belønninger bygger bedre sikkerhetsvaner

Fartskontroller vs. rabatter for trygge sjåfører: Hvorfor belønninger bygger bedre sikkerhetsvaner

Se for deg at du er på motorveien, og kjører omtrent 20 over grensen sammen med resten av trafikken. Brems lenger fremme ...

Les mer
CyberHoot-varsel: Microsoft Outlook er nede. Din gode dømmekraft er ikke det.

CyberHoot-varsel: Microsoft Outlook er nede. Din gode dømmekraft er ikke det.

Hva skjer Torsdag 12. november 2026, rundt klokken 11 østlig tid, sluttet Microsoft Outlook å virke...

Les mer
Ondsinnede nettleserutvidelser: Slik holder du nettleseren din ren

Ondsinnede nettleserutvidelser: Slik holder du nettleseren din ren

Forfatter: Katie Boquetti | Lederartikkel: Craig Taylor Lederartikkel av Craig Taylor: «Makt har en tendens til å korrumpere,...

Les mer