SembangGPT Berasaskan AI Bahasa Semulajadi Mencipta Peluang dan Cabaran

10 Januari 2023 | Blog

AI Powered ChatBots mencipta peluang dan cabaran untuk realiti kami.

Apabila Teknologi Melangkaui Norma Sosial yang Diperlukan untuk Mentadbir IT

Kemajuan Kecerdasan Buatan (AI) berlaku dengan lebih pantas dan dengan hasil yang lebih hebat. Alat AI yang hebat seperti ChatGPT digunakan untuk menulis perisian hasad, kertas kerja penggal dan kod pembangun, tanpa norma sosial yang tersedia untuk mengawal tingkah laku kita atau undang-undang yang kita perlukan untuk melindungi kita daripada bahaya. Teknologi sering mengatasi norma sosial yang mengawal penggunaannya terutamanya apabila inovasi besar berlaku. Fikirkan secara ringkas tentang menghantar mesej teks dan memandu; ia mengambil masa sedekad atau lebih untuk undang-undang ditulis yang melarang menghantar mesej teks semasa memandu. Dunia menghantar 250 Bilion mesej teks pada tahun 2002 (Sumber: WSJ ). [ Adakah kita telah meyakinkan orang ramai tentang bahaya menghantar mesej teks dan memandu sehingga ke hari ini?]

Artikel ini menerangkan apa itu ChatGPT, beberapa perkara yang boleh dilakukannya dan bertanya soalan penting tentang peluang dan cabaran yang kami hadapi daripadanya.

Primer di ChatGPT:

Perpustakaan istilah teknologi keselamatan siber CyberHoot mentakrifkan ChatGPT sebagai bot sembang perbualan yang memanfaatkan algoritma AI "Transformer Pra-Terlatih Generatif" ("GPT"). ChatGPT boleh berbual dengan pengguna dengan cara yang betul dari segi tatabahasa, malah membetulkan tatabahasa orang lain. Ia boleh menulis dan menyelesaikan masalah kod pengaturcara. Ia mempunyai memori perbualan dan boleh merujuk dialog lalu daripada perbualan semasa. Ia mengakui kesilapan dan mencabar andaian yang salah. Ia boleh menulis lirik lagu. Memandangkan topik yang kompleks, ia boleh meringkaskan perkara utama dalam bahasa semula jadi dengan cara yang boleh digunakan oleh pelajar untuk kertas penggal. Meringkaskan subjek yang kompleks untuk pemahaman yang lebih baik adalah sesuatu yang 25% pelajar yang ditinjau baru-baru ini mengakui telah melakukannya. Walaupun itu mungkin beretika sepenuhnya, kajian yang sama menunjukkan 5% pelajar menggunakan AI untuk menulis kertas kerja mereka.

Microsoft dan Open AI

Pada tahun 2019, Microsoft telah melabur banyak ($1 Bilion) dalam Open AI mungkin dengan harapan dapat mewujudkan landskap yang lebih kompetitif untuk enjin carian dengan membina model bahasa ChatGPT ke dalam BING. Banyak sumber mendakwa BING boleh mengeluarkan carian ChatGPT seawal Mac 2023. Menurut artikel ini daripada TheWeek.Co.Uk:

" AI generatif dipuji sebagai inovasi teknologi penentu era seterusnya, mengubah cara kita mencipta kandungan baharu dalam talian atau bahkan mengalami internet… "

Apabila teknologi AI generatif bertambah baik, berita palsu dan pendapat berat sebelah akan menjadi lebih sukar untuk dikenal pasti. [ Apakah sumber kebenaran kita ]

Penggodam Menggunakan ChatGPT Untuk Mencipta Perisian Hasad

Perhatian CyberHoot mendapati artikel yang muncul menyatakan penggodam menggunakan ChatGPT untuk menulis kod perisian hasad seperti ransomware dan serangan pancingan data. OpenAI bertindak balas terhadap kritikan tersebut dengan memetik terma dan syarat Penggunaan Boleh Diterima mereka yang melarang penggunaan ChatGPT untuk " sebarang jenis bahaya" , dan sedang menyiasat penambahan tanda air pada output enjin AInya. Pelbagai artikel daripada penyelidik keselamatan kini mendakwa bahawa penggodam telah menggunakan ChatGPT untuk menulis kod perisian hasad walaupun terdapat semak dan imbang yang terbina dalam alat tersebut.

Jadi di manakah ini meninggalkan kita? Apakah maksud semua ini kepada purata pemilik atau pekerja SMB?

Apakah maksud Generative AI kepada saya secara peribadi dan profesional

Secara peribadi atau profesional, jawapannya kelihatan sama kepada CyberHoot. Kandungan Internet akan semakin banyak diperoleh daripada sistem AI Dijana untuk kegunaan manusia. Apabila keupayaan bertambah baik dengan latihan, pengguna mungkin mula hilang kepercayaan terhadap beberapa Institusi kami seperti media, atau kerajaan. Jika kita mula hilang kepercayaan terhadap institusi pendidikan kita yang lebih boleh dipercayai atau sistem perundangan/kehakiman kita, maka kita akan menghadapi cabaran yang serius dan menakutkan.

Kita mesti mempunyai cara yang munasabah, rasional dan mudah untuk memisahkan fakta daripada fiksyen. Dalam masa depan AI generatif, akal sehat anda tidak akan mencukupi untuk membezakan antara satu sama lain. Ini tidak berbeza dengan bagaimana Deepfake semakin baik sehingga teknologinya boleh membuat sesiapa sahaja berkata apa-apa.

Pada zaman di mana makanan organik atau bebas GMO mesti dilabel secara sah seperti itu, CyberHoot tertanya-tanya sama ada kita memerlukan label komunikasi yang disahkan secara bebas sebagai asalnya "bebas AI Generatif"? Atau adakah itu hilang maksud Teknologi ini? Untuk mencipta kandungan yang bermakna, boleh digunakan, tidak dapat dibezakan daripada kandungan ciptaan manusia? Adakah Avatar 10 hingga 15 akan dijana sepenuhnya oleh studio filem AI generatif terkini?

Adakah Teknologi Menyebabkan Lebih Banyak Masalah daripada Penyelesaian?

Yaakov J. Stein, ketua pegawai teknologi RAD Data Communications, yang berpangkalan di Israel, menjawab soalan:

"Masalah dengan AI dan pembelajaran mesin bukanlah senario sci-fi AI yang mengambil alih dunia dan tidak memerlukan manusia yang lebih rendah. Masalahnya ialah kita semakin bergantung kepada mesin dan oleh itu lebih terdedah kepada pepijat dan kegagalan sistem. Ini bukan fenomena baharu - pernah sebahagian besar persekolahan ditumpukan kepada, contohnya, kemahiran mental, kemahiran teknikal dan yang telah digunapakai. pertumbuhan yang luar biasa dalam jumlah maklumat, pendidikan lebih tertumpu kepada cara mendapatkan maklumat yang diperlukan daripada mengingati sesuatu, mengakibatkan bukan sahaja storan sebenar yang kurang tetapi kedalaman pengetahuan yang kurang dan kekurangan keupayaan untuk membuat hubungan antara cebisan maklumat yang berbeza, yang merupakan asas kreativiti Walau bagaimanapun, pada masa lalu manusia sentiasa membangunkan teknologi yang lebih maju dan tidak ada sebab untuk mengatasi teknologi yang lebih maju dan tidak ada sebab untuk mengatasinya. masa.”

Sumber: Pew Research: Teknologi Menyebabkan Lebih Banyak Masalah daripada Menyelesaikannya