Naturlig språk AI-basert chatGPT skaper muligheter og utfordringer

10. januar 2023 | Blogg

AI-drevne chatboter skaper muligheter og utfordringer for virkeligheten vår.

Når teknologi overgår de sosiale normene som trengs for å styre IT

Fremskritt innen kunstig intelligens (KI) skjer raskere og med kraftigere resultater. Kraftige KI-verktøy som ChatGPT brukes til å skrive skadelig programvare, semesteroppgaver og utviklerkode, uten de sosiale normene som er tilgjengelige for å styre vår atferd eller lovene vi trenger for å beskytte oss mot skade. Teknologi overgår ofte de sosiale normene som styrer bruken av den, spesielt når store innovasjoner skjer. Tenk kort på teksting og kjøring; det tok et tiår eller mer før lover ble skrevet som forbød teksting mens man kjører. Verden sendte 250 milliarder tekstmeldinger helt tilbake i 2002 (Kilde: WSJ ). [ Har vi overbevist folk om farene ved teksting og kjøring selv i dag?]

Denne artikkelen forklarer hva ChatGPT er, noe av hva det kan gjøre, og stiller viktige spørsmål om mulighetene og utfordringene vi står overfor.

En innføring i ChatGPT:

CyberHoots nettsikkerhetsbibliotek med tekniske termer definerer ChatGPT som en samtalebasert chatbot som utnytter AI-algoritmer for «Generative Pre-Trained Transformer» («GPT»). ChatGPT kan snakke med brukere på en grammatisk korrekt måte, til og med korrigere andres grammatikk. Den kan skrive og feilsøke programmerers kode. Den har et samtaleminne og kan referere til tidligere dialog fra den nåværende samtalen. Den innrømmer feil og utfordrer uriktige antagelser. Den kan skrive sangtekster. Gitt et komplekst emne kan den oppsummere hovedpoengene i naturlig språk på måter studentene kan bruke til semesteroppgaver. Å oppsummere et komplekst emne for bedre forståelse er noe 25 % av studentene som nylig ble spurt, innrømmet å gjøre. Selv om det kan være helt etisk, viste den samme studien at 5 % av studentene brukte AI til å skrive oppgavene sine.

Microsoft og Open AI

I 2019 investerte Microsoft tungt (1 milliard dollar) i åpen kunstig intelligens, antagelig i håp om å skape et mer konkurransedyktig landskap for søkemotorer ved å bygge ChatGPT-språkmodellen inn i BING. Tallrike kilder har hevdet at BING kan ha ChatGPT-søk utgitt så tidlig som i mars 2023. I følge denne artikkelen fra TheWeek.Co.Uk:

« Generativ AI blir hyllet som den neste æradefinerende teknologiske innovasjonen, som endrer hvordan vi lager nytt innhold på nett eller til og med opplever internett ... »

Etter hvert som generativ AI-teknologi forbedres, vil falske nyheter og partiske meninger bli vanskeligere å identifisere. [ Hva vil være vår(e) kilde(r) til sannhet ]

Hackere bruker ChatGPT til å lage skadelig programvare

CyberHoots oppmerksomhet fant artikler som hevdet at hackere bruker ChatGPT til å skrive skadelig kode som ransomware og phishing-angrep. OpenAI svarte på slik kritikk ved å vise til sine vilkår og betingelser for akseptabel bruk som forbyr bruk av ChatGPT til « enhver form for skade» , og undersøker å legge til vannmerker på utdataene fra sin AI-motor. Flere artikler fra sikkerhetsforskere hevder nå at hackere har tatt ChatGPT i bruk til å skrive skadelig kode til tross for kontrollmekanismene som er innebygd i verktøyet.

Så hvor havner vi nå? Hva betyr alt dette for den gjennomsnittlige SMB-eieren eller -ansatte?

Hva betyr generativ AI for meg personlig og profesjonelt?

Personlig eller profesjonelt virker svaret det samme for CyberHoot. Internettinnhold kommer i økende grad til å bli hentet fra genererte AI-systemer for menneskelig konsum. Etter hvert som kapasitetene forbedres med opplæring, kan forbrukerne begynne å miste tilliten til noen av våre institusjoner, som media eller myndighetene. Hvis vi begynner å miste tilliten til våre mer pålitelige utdanningsinstitusjoner eller vårt juridiske/rettslige system, vil vi stå overfor en alvorlig og skremmende utfordring.

Vi må ha en fornuftig, rasjonell og enkel måte å skille fakta fra fiksjon. I en generativ AI-fremtid vil ikke sunn fornuft være nok til å skille det ene fra det andre. Dette er ikke annerledes enn hvordan Deepfakes forbedres til det punktet hvor teknologien kan få hvem som helst til å si hva som helst.

I en tid der økologisk eller GMO-fri mat må merkes lovmessig som sådan, lurer CyberHoot på om vi trenger kommunikasjonsetiketter som er uavhengig verifisert som «generativ AI-fri» i opprinnelse? Eller bommer det på poenget med denne teknologien? Å skape meningsfullt, forbrukbart innhold, som ikke kan skilles fra menneskeskapt innhold? Vil Avatar 10 til 15 bli generert utelukkende av det nyeste generative AI-filmstudioet?

Forårsaker teknologi flere problemer enn den løser?

Yaakov J. Stein, teknologidirektør i RAD Data Communications, basert i Israel, svarer på spørsmålet:

«Problemet med AI og maskinlæring er ikke sci-fi-scenariet der AI tar over verden og ikke trenger underlegne mennesker. Problemet er at vi blir mer og mer avhengige av maskiner og dermed mer utsatt for feil og systemfeil. Dette er neppe et nytt fenomen – en gang var en stor del av skolegangen viet til for eksempel håndskrift og hoderegning, som har blitt erstattet av tekniske midler. Men med den enorme veksten i informasjonsmengden er utdanningen mer fokusert på hvordan man henter nødvendig informasjon i stedet for å huske ting, noe som ikke bare resulterer i mindre faktisk lagring, men også mindre kunnskapsdybde og mangel på evne til å koble sammen ulike informasjonsbiter, som er grunnlaget for kreativitet. Tidligere har imidlertid menneskeheten alltid utviklet en mer avansert teknologi for å overvinne begrensningene til hvilken som helst teknologi som var aktuell, og det er ingen grunn til å tro at det vil være annerledes denne gangen.»

Kilde: Pew Research: Teknologi forårsaker flere problemer enn den løser