ChatpGPT har taget verden med storm. Daglige nyhedsrapporter giver os indsigt i noget nyt, det kan gøre, som vil automatisere vores verden og forbedre vores liv. Men der er også en ulempe ved ChatGPT. Nogle vil kalde det en mørk side. Som du vil se i denne artikel, vil CyberHoot skitsere 5 forskellige måder, hvorpå ChatGPT kan være skadeligt for samfundet. Læs videre for at lære mere.
ChatGPT har en mørk side, der gør det muligt for ellers ufaglærte hackere at hacke. ChatGPT kan oprette overbevisende phishing-angrebsmails på dit måls sprog. Det kan skrive funktionel malware for at bryde ind i et computersystem eller netværk. Det kan forklare de værktøjer og metoder, der er nødvendige for at udnytte en sårbarhed, du måtte finde med en sårbarhedsscanning.
"Vores eksperiment viste, at AI kunne give detaljerede råd om udnyttelse af eventuelle sårbarheder, vi støder på." Checkpoint Security Researcher ("CSR")
Disse trusler repræsenterer en udvidelse af universet af potentielle hackere, der har din virksomhed som mål. Det følgende er en detaljeret gennemgang af de trusler, AI udgør for vores virksomheder, og nogle af de modforanstaltninger, du har brug for for at bekæmpe dem.
Lad os se på forskellige måder, hvorpå ChatGPT åbner hacking for ufaglærte personer, hvilket resulterer i reelle, succesfulde udnyttelsesrisici for din virksomhed.
Som du kan se på skærmbilledet ovenfor, vil ChatGPT detaljeret beskrive præcis, hvordan man udnytter TLS 1.1-sårbarheder på et websted. Det leverer virkelige exploits (BEAST og CRIME) og navngiver de værktøjer, der er nødvendige for at udnytte dem. Dette åbner hacking op for verdens ufaglærte wannabe-hackere, hvilket i høj grad udvider omfanget af, hvem der kan lære de færdigheder, der er nødvendige for at blive en succesfuld hacker. Dermed bliver hacking mere tilgængeligt for personer, der ellers ikke ville have nogen mulighed for at lære de færdigheder, værktøjer og teknikker, der er nødvendige for at angribe vores virksomheder og online-ejendomme. Det er som at putte en ladt pistol i automater overalt i den by, du bor i.
ChatGPT kan skrive kode, hvis den korrekte inputforespørgsel gives. Denne kode kan være malware såsom ransomware, adgangskodeknækket software og mere. Dette sætter farligere hackerværktøjer i hænderne på mindre erfarne hackere.
"CSR's analyse af adskillige store undergrunds-hackermiljøer viser, at cyberkriminelle bruger OpenAI til at udvikle ondsindede værktøjer ... mindre erfarne cyberkriminelle bruger det til at komme ind i spillet."
Resultaterne kan være flere angreb med mindre omhu for de potentielle negative bivirkninger. Denne artikel beskriver, hvordan en hackerorganisation gav dekrypteringsnøglen til ransomware, der blev brugt til at inficere et børnehospital, fordi den "ransomware til leje"-gruppe, der skabte værktøjet, var utilfredse med, at hackere målrettede et børnehospital med deres malware. Hvis hackere kan generere ransomware, vil der så være en adfærdskodeks for angreb? Lad os gå videre til de mest almindelige angreb derude – phishing – og se, hvad ChatGPT kan gøre.
Nogle afslørende tegn på, at du har været udsat for et phishing-angreb, er stavefejl, tegnsætningsfejl og grammatikfejl. Cybersikkerhedseksperter lærer andre at være opmærksomme på disse kendetegn for at hjælpe med at spotte og undgå phishing-angreb. ChatGPT kan ikke kun oprette grammatisk korrekte phishing-angreb, men kan også gøre det ved hjælp af input fra sociale medier. Dette forvandler et almindeligt phishing-angreb til et højoktan spear-phishing-angreb, der lettere kan narre modtageren. Derudover kan det gøre det på alle sprog, som ChatGPT understøtter. CyberHoot har testet oversættelsesfunktioner fra engelsk til sprog, som vores personale kender, og ChatGPT gjorde et bedre stykke arbejde end Google Translate. Sprogfunktionerne er utrolige.
ChatGPT kan hjælpe dig med at skabe nye social engineering-dialoger (forespørgsler og svar) for at udføre mere realistiske og overbevisende, velunderbyggede og indøvede angreb. At vide, hvad der forventes i en interaktion med en helpdesk, når man beder om en nulstilling af adgangskode, vil hjælpe hackere med at rollespille og forberede sig på den forventede række af spørgsmål. Se ChatGPT-dialogen nedenfor som reference.
Øvelse gør mester. Uerfarne hackere kan øve sig i at fremsætte helpdesk-forespørgsler og lære, hvilke typer oplysninger de vil blive bedt om at give. Dette vil give dem mulighed for at udtænke modargumenter for at omgå beskyttelsesforanstaltninger. Godkender din virksomheds helpdesk effektivt alle anmodninger om nulstilling af adgangskode, hver gang?
ChatGPTs meteoragtige fremgang skyldtes delvist dets evne til at skrive opgaver af universitetskvalitet. Det opsummerer komplekse ideer. Det skriver overbevisende om ethvert emne, man beder det om. I mange dokumenterede tilfælde har forskere dog identificeret ChatGPT, der rapporterer åbenlyst falske oplysninger. Der findes endda et udtryk for, at AI rapporterer dårlig information. Det kaldes en AI-hallucination.
In kunstig intelligens (KI), en hallucination or kunstig hallucination er en selvsikker reaktion fra en AI, der ikke synes at være berettiget ved dens træningsdata.[1]
I naturlig sprogbehandling defineres en hallucination ofte som "genereret indhold, der er meningsløst eller utro mod det angivne kildeindhold".
ChatGPT er i stand til at opstille fakta og argumentere for dem meget overbevisende. Dette kan føre til, at misinformation spredes på internettet under dække af ekspertudtalelser.
Så med alle disse risici for, at ChatGPT forårsager problemer, lige fra misinformation til malware og opskriften på udnyttelse af sårbarheder i realtid til både ufaglærte og dygtige hackere, hvad skal virksomheder så gøre for at forberede sig? Hvilke modforanstaltninger kan hjælpe med at beskytte din virksomhed mod et kompromitteret ChatGPT?
Interessant nok er de modforanstaltninger, der bekæmper ChatGPT-risiciene, stort set de samme som før ChatGPT eksisterede. Disse modforanstaltninger bliver simpelthen mere presserende at implementere i din virksomhed, fordi antallet af hackere, der er i stand til at udføre komplekse, sofistikerede og troværdige angreb, stiger dramatisk med ChatGPT. Selve angrebene forbliver dog stort set de samme som før. Lad os se på hver af de fem mørke træk, som ChatGPT forstærker, og dens modforanstaltninger.
For at modvirke udnyttelse af sårbarheder i dine internetvendte og interne enheder skal du løbende scanne disse enheder og opdatere alle kritiske risici, der identificeres. Dette kaldes sårbarhedsscanning . Du kan gøre dette eksternt med næsten enhver sårbarhedsscanner. Internt skal du implementere en lokal scanner, som du giver legitimationsoplysninger til. Dette giver scanneren mulighed for at afhøre ikke kun de porte og protokoller, der bruges på netværket, men også operativsystemet på den enhed, der scannes. Dette giver dig mulighed for at identificere manglende programrettelser, firmwareopgraderinger , du har brug for, og endda svage konfigurationer. Det korrekte scanningsværktøj vil hjælpe dig med at prioritere dit arbejde, og du kan bruge din tid på at lukke de mest kritiske huller i din infrastruktur, forhåbentlig før hackere udnytter dem.
Ifølge Verizons seneste årlige rapport om databrud er 82 % af alle brud relateret til den menneskelige faktor. Dine medarbejdere er ansvarlige for 82 % af bruddene. Den uheldige sandhed er, at det ikke er deres skyld. Ville du bebrejde en medarbejder for ikke at kunne navngive præsidenten for 10 fremmede lande? Alligevel bebrejder vi dem for at klikke på phishing-e-mails, for at genbruge adgangskoder og for at blive ofre for social engineering-angreb, når vi aldrig har lært dem disse kritiske cybersikkerhedsfærdigheder!
Bevidsthedstræning, phishing-test og styringspolitikker bør stå øverst på alle virksomheders liste over modforanstaltninger for at bekæmpe den nuværende strøm af hackerangreb. ChatGPT har netop åbnet dørene for endnu flere hackere. Vil du og dine medarbejdere være klare til den stigning i angreb, som ChatGPT har muliggjort? Disse angreb vil have højere klarhed, stærkere nøjagtighed og bedre overbevisningsevne end noget, vi har set før. Tiden til at styre, teste og træne brugere er nu, før et brud.
Modforanstaltningerne her er de samme i dag, som de var i det sidste årti, og som de måske vil være i det kommende årti. Virksomheder er nødt til at supplere traditionelle angrebsbaserede phishing-e-mails med nye og muligvis bedre opgavebaserede phishing-øvelser, der er designet til at uddanne brugere i stedet for at straffe dem. Denne nye type phishing-testning er langt mere positiv for de MSP'er, der anvender den. Ledere drager også fordel af at bruge compliance-målinger, der rapporterer om hver eneste brugers succesfulde beståelse af phishing-testen (hvilket aldrig har været muligt før). Slutbrugere, der forbedrer deres viden, er tilstrækkeligt baseret på at kunne opdage og undgå hvert phishing-angreb, de står over for, med sikkerhed og effektivitet. MSP'er drager fordel af ikke at skulle oprette tilladelseslister til phishing-testning, og de stopper også med at modtage de irriterende e-mails, der spørger: "Er dette en phishing-angrebs-e-mail? Jeg er bare ikke sikker."
Har din MSP en solid godkendelsesproces til at bestemme identiteten på alle opkald til helpdesk? Hvad hvis den administrerende direktørs sekretær ringer ind og beder om at nulstille den administrerende direktørs konto? Hvordan validerer du denne anmodning rettidigt uden unødige forsinkelser og uden at forstyrre den vigtigste person på klientens lokation? Du skal have disse processer på plads. Måske er det en portal til nulstilling af adgangskode, der kan godkende brugeren på andre nye måder (MFA-baseret, ikke?). Pointen her er, at ChatGPT vil hjælpe hackere med at praktisere deres social engineering til det punkt, hvor de kan øve sig i perfekt indøvede angreb. ChatGPT vil fortælle dem præcis, hvad de kan forvente i helpdesk-interaktionen, og de vil komme med troværdige måder at omgå dine foranstaltninger på. Lad ikke det ske. Vær forberedt med god medarbejdertræning i helpdesk til at opdage, tilkalde og eskalere alt, der ser ud til at være et forsøg på social engineering. Dette er med sikkerhed ikke en ny modforanstaltning. Det kan blive vigtigere i den nærmeste fremtid, efterhånden som hackere bliver mere dygtige til at bruge AI til at planlægge deres angreb.
Misinformation er vokset enormt i de senere år. Sociale medier har skabt 1000 konspirationsteorier. Enhver med en kandidatuddannelse vil huske, at enhver kendsgerning skal bakkes op med en citat. Uciterede fakta er tåbelighed i en akademisk opgave.
Virksomheder er nødt til at undersøge deres blogartikler grundigt gennem kildematerialet. CyberHoot er holdt op med at citere en kendsgerning, der er udbredt i cybersikkerhedskredse, nemlig at "60 % af virksomheder, der er kompromitteret, går konkurs inden for 6 måneder", fordi vi ikke kan finde den originale reference til det citat. Det er blevet videregivet fra blogartikel til blogartikel og er åbenlyst falsk information. Vi vil ikke citere det. Du skal teste dine fakta med citater og ikke blindt stole på de svar, ChatGPT giver dig. Hav en sund dosis skepsis. Brug sandhedskilder, der følger denne tilgang til rapportering. Mange nyhedsorganisationer har en hel gruppe mennesker kaldet faktatjekkere, hvis job er at verificere fakta i en artikel. Dette betyder ikke, at der ikke er "bias" i rapporteringen, der stadig holder stik. Fakta er ligesom statistik; de kan ofte manipuleres til at sige præcis, hvad din bias ønsker. Google " implicit bias " for mere information om dette emne.
De angreb, som ChatGPT muliggør, er egentlig ikke nye angreb. Tværtimod er de gamle angreb, som kompetente hackere, der har trænet sig selv flittigt, kunne udføre. ChatGPT åbner blot døren for de tusindvis af andre potentielle hackere. Tidligere ville de mindre dygtige hackere ikke være i stand til at udføre de 5 angreb, der er blevet lettere eller muliggjort af ChatGPT. Det betyder, at vi alle er nødt til at forberede os på endnu en stigning i antallet af angreb. Ikke nok med det, virksomheder, der måske har været forbudt for visse angreb, såsom et børnehospital, kan blive angrebet af mindre ansvarlige hackere. Tiden til at forberede din organisation er nu. Forbered dig med ledelsespolitikker, oplysningstræning, phish-testning efter opgave og grundlæggende uddannelse. Du vil være glad for, at du gjorde det.
Kilde:
Bipende computer: ChatGPT kan være en større cybersikkerhedsrisiko end en reel fordel
Hackere bruger nu ChatGPT til at generere malware
Yderligere læsning:
Opdag og del de seneste cybersikkerhedstrends, tips og bedste praksisser – sammen med nye trusler, du skal være opmærksom på.
Forestil dig selv på motorvejen, hvor du kører cirka 20 minutter over grænsen sammen med resten af trafikken. Foran dig, brems...
Læs mere
Hvad sker der Torsdag den 12. november 2026, omkring klokken 11 Eastern Time, stoppede Microsoft Outlook med at virke...
Læs mere
Forfatter: Katie Boquetti | Leder: Craig Taylor Leder af Craig Taylor: “Magt har en tendens til at korrumpere,...
Læs mereGiv dine medarbejdere skarpere øjne med den positive tilgang, der slår traditionel phish-testning.
