자연어 AI 기반 ChatGPT 기회와 과제 창출

2023년 1월 10일 | 블로그

AI 기반 챗봇은 우리 현실에 기회와 과제를 만들어내고 있습니다.

기술이 IT를 관리하는 데 필요한 사회적 규범을 앞지르는 경우

인공지능 (AI) 기술은 더욱 빠른 속도로 발전하고 있으며, 그 결과 또한 더욱 강력해지고 있습니다. ChatGPT 와 같은 강력한 AI 도구 는 악성 소프트웨어, 논문, 개발자 코드 등을 작성하는 데 사용되고 있는데, 이러한 도구들은 우리의 행동을 규제하는 사회적 규범이나 우리를 위험으로부터 보호해 줄 법률의 부재 속에 존재합니다. 특히 중대한 혁신이 일어날 때, 기술은 종종 그 사용을 규제하는 사회적 규범을 앞지릅니다. 문자 메시지를 보내면서 운전하는 경우를 잠시 생각해 보세요. 운전 중 문자 메시지 전송을 금지하는 법이 제정되기까지 10년 이상이 걸렸습니다. 전 세계는 2002년에만 2,500억 건의 문자 메시지를 주고받았습니다(출처: WSJ ). [ 우리는 오늘날에도 문자 메시지를 보내면서 운전하는 것의 위험성을 사람들에게 제대로 알리고 있을까요?]

이 글에서는 ChatGPT가 무엇이고, 무엇을 할 수 있는지 설명하고, 이를 통해 얻을 수 있는 기회와 과제에 대한 중요한 질문을 던집니다.

ChatGPT에 대한 기본 정보:

사이버 보안 용어 라이브러리인 CyberHoot은 ChatGPT를 "생성형 사전 학습 트랜스포머(Generative Pre-Trained Transformer, GPT)" AI 알고리즘을 활용하는 대화형 챗봇으로 정의합니다. ChatGPT는 문법적으로 정확한 방식으로 사용자와 대화할 수 있으며, 다른 사람의 문법 오류를 수정해 주기도 합니다. 또한 프로그래밍 코드를 작성하고 문제를 해결할 수 있으며, 대화 내용을 기억하여 현재 대화에서 이전 대화를 참조할 수 있습니다. 실수를 인정하고 잘못된 가정에 대해 이의를 제기하기도 합니다. 나아가 노래 가사를 작사할 수도 있습니다. 복잡한 주제에 대해 학생들이 과제 작성에 활용할 수 있도록 핵심 내용을 자연어로 요약해 주는 기능도 제공합니다. 최근 조사에 따르면 학생들의 25%가 복잡한 주제를 더 잘 이해하기 위해 요약본을 활용한다고 답했습니다. 이는 윤리적으로 문제가 없을 수 있지만, 같은 연구에서 학생들의 5%가 과제 작성에 AI를 사용한다고 밝혔습니다.

마이크로소프트와 오픈 AI

2019년 마이크로소프트는 오픈 AI에 10억 달러를 투자했는데, 이는 ChatGPT 언어 모델을 빙(Bing)에 통합하여 검색 엔진 경쟁 구도를 더욱 치열하게 만들겠다는 의도였을 것으로 추정됩니다. 여러 소식통에 따르면 빙은 이르면 2023년 3월에 ChatGPT 검색 기능을 출시할 수 있다고 합니다. TheWeek.Co.Uk의 이 기사 에 따르면 다음과 같습니다.

" 생성형 인공지능은 우리가 온라인에서 새로운 콘텐츠를 만들거나 인터넷을 경험하는 방식까지 바꿀 차세대 기술 혁신으로 각광받고 있습니다… "

생성형 인공지능 기술이 발전함에 따라 가짜 뉴스와 편향된 의견을 식별하기가 더욱 어려워질 것입니다. [ 우리의 진실의 원천은 무엇일까요? ]

해커, ChatGPT를 이용해 악성코드 생성

사이버후트(CyberHoot)는 해커들이 ChatGPT를 이용해 랜섬웨어 및 피싱 공격과 같은 악성 코드를 작성하고 있다는 기사들을 발견했습니다. 오픈AI는 이러한 비판에 대해 ChatGPT를 " 어떠한 종류의 악용" 에도 사용하지 못하도록 규정하는 이용 약관을 인용하며 대응했고 , AI 엔진 출력물에 워터마크를 추가하는 방안을 검토 중이라고 밝혔습니다. 그러나 여러 보안 연구원들의 기사에서는 ChatGPT에 내장된 검증 시스템에도 불구하고 해커들이 이를 악용하여 악성 코드를 작성하고 있다고 주장하고 있습니다.

그렇다면 우리는 어떻게 될까요? 이 모든 것이 일반 중소기업 소유주나 직원들에게 어떤 의미를 가질까요?

생성 AI는 개인적으로나 직업적으로 나에게 어떤 의미가 있나요?

개인적으로든 직업적으로든 CyberHoot의 답은 똑같아 보입니다. 인터넷 콘텐츠는 점점 더 인간 소비를 위해 생성된 AI 시스템에서 공급될 것입니다. 훈련을 통해 역량이 향상됨에 따라 소비자들은 언론이나 정부와 같은 일부 기관에 대한 신뢰를 잃기 시작할 수 있습니다. 더 신뢰할 수 있는 교육 기관이나 법률/사법 시스템에 대한 신뢰를 잃기 시작한다면, 우리는 심각하고 어려운 도전에 직면하게 될 것입니다.

우리는 사실과 허구를 합리적이고 이성적이며 쉽게 구분할 수 있는 방법을 갖춰야 합니다. 인공지능이 주도하는 미래에는 상식만으로는 사실과 허구를 구별하기에 충분하지 않을 것입니다. 이는 딥페이크 기술이 발전하여 누구나 어떤 말이든 하게 만들 수 있게 된 것과 다를 바 없습니다.

유기농 또는 GMO 미포함 식품에 법적으로 표시해야 하는 시대에, CyberHoot은 "생성 AI 미포함"이라는 출처를 독립적으로 검증받은 커뮤니케이션 라벨이 필요한지 의문을 제기합니다. 아니면 이 기술의 핵심을 놓치고 있는 걸까요? 인간이 만든 콘텐츠와 구별할 수 없을 만큼 의미 있고 소비 가능한 콘텐츠를 제작하는 것이 핵심일까요? 아바타 10편부터 15편까지, 최신 생성 AI 영화 스튜디오에서 전적으로 제작될까요?

기술은 해결하는 것보다 더 많은 문제를 일으키는가?

이스라엘에 본사를 둔 RAD Data Communications의 최고기술책임자(CTO)인 야코프 J. 슈타인이 이 질문에 답했습니다.

AI와 머신러닝의 문제는 AI가 세상을 지배하고 열등한 인간이 필요 없다는 공상과학적인 시나리오가 아닙니다. 문제는 우리가 점점 더 기계에 의존하게 되어 버그와 시스템 장애에 더 취약해지고 있다는 것입니다. 이는 결코 새로운 현상이 아닙니다. 한때 학교 교육의 상당 부분이 필기와 암산에 할애되었지만, 이제는 기술적인 수단으로 대체되었습니다. 하지만 정보량이 엄청나게 증가함에 따라 교육은 기억보다는 필요한 정보를 검색하는 방법에 더 집중되어 실제 저장 공간이 줄어들 뿐만 아니라 지식의 깊이도 줄어들고, 창의성의 기반이 되는 서로 다른 정보 조각들을 연결하는 능력이 부족해집니다. 그러나 과거 인류는 기존 기술의 한계를 극복하기 위해 항상 더욱 발전된 기술을 개발해 왔으며, 이번에도 다를 것이라고 믿을 이유는 없습니다.

출처: 퓨 리서치 센터: 기술은 해결하는 문제보다 더 많은 문제를 야기한다