Чат на основе естественного языка и искусственного интеллекта: возможности и проблемы

Когда технологии опережают социальные нормы, необходимые для управления ИТ

Искусственный интеллект Прогресс в области искусственного интеллекта (ИИ) происходит быстрее и даёт более впечатляющие результаты. Мощные инструменты ИИ, такие как ChatGPT используются для написания вредоносных программ, курсовых работ и кода разработчика, без социальных норм, регулирующих наше поведение, или законов, необходимых для защиты от вреда. Технологии часто опережают социальные нормы, регулирующие их использование, особенно когда происходят крупные инновации. Вспомните хотя бы отправку SMS за рулём: потребовалось десять лет или больше, чтобы были приняты законы, запрещающие отправку SMS за рулём. Ещё в 250 году в мире было отправлено 2002 миллиардов SMS-сообщений (Источник: WSJ). [Убедили ли мы людей в опасности отправки текстовых сообщений за рулем даже сегодня?] 

В этой статье объясняется, что такое ChatGPT, на что он способен, а также задаются важные вопросы о возможностях и проблемах, с которыми мы сталкиваемся в связи с ним.

Учебное пособие по ChatGPT:

Библиотека технических терминов по кибербезопасности CyberHoot определяет ChatGPT ChatGPT — это разговорный чат-бот, использующий алгоритмы искусственного интеллекта «Generative Pre-Trained Transformer» («GPT»). ChatGPT может общаться с пользователями, соблюдая грамматику и даже исправляя ошибки других пользователей. Он может писать программный код и устранять неполадки. Он обладает памятью разговоров и может ссылаться на прошлые диалоги из текущего разговора. Он признаёт ошибки и оспаривает неверные предположения. Он может написать текст песни. Если задана сложная тема, он может кратко изложить основные моменты на естественном языке, используя язык, который студенты могут использовать в курсовых работах. Недавно 25% опрошенных студентов признались, что делают обобщение сложной темы для лучшего ее понимания.  Хотя это может быть вполне этично, то же исследование показало, что 5% студентов используют ИИ для написания своих работ. 

Microsoft и открытый ИИ

В 2019 году Microsoft вложила значительные средства (1 миллиард долларов) в Open AI, предположительно, в надежде создать более конкурентоспособную среду для поисковых систем, внедрив языковую модель ChatGPT в BING. Многочисленные источники утверждают, что BING может запустить поиск ChatGPT уже в марте 2023 года. этой статье от TheWeek.Co.Uk:

Генеративный ИИ позиционируется как технологическая инновация, определяющая новую эру, которая изменит то, как мы создаем новый контент в Интернете или даже как взаимодействуем с Интернетом…

По мере совершенствования технологий генеративного искусственного интеллекта фейковые новости и предвзятые мнения будет все труднее выявлять.Что будет нашим источником(ами) истины?]

Хакеры используют ChatGPT для создания вредоносного ПО

Внимание CyberHoot привлекли статьи, в которых утверждалось, что хакеры используют ChatGPT для написания вредоносного кода, например, программ-вымогателей и фишинговых атак. OpenAI ответила на эту критику, сославшись на свои условия приемлемого использования, которые запрещают использование ChatGPT для «…любой вид вреда»и изучает возможность добавления водяных знаков на выходные данные своего ИИ-движка. В многочисленных статьях экспертов по безопасности утверждается, что хакеры использовали ChatGPT для написания вредоносного кода, несмотря на встроенную в инструмент систему сдержек и противовесов. 

Итак, к чему же это нас приводит? Что всё это значит для среднестатистического владельца или сотрудника малого и среднего бизнеса?

Что генеративный ИИ означает для меня лично и профессионально?

CyberHoot считает, что ответ одинаков, как в личном, так и в профессиональном плане. Интернет-контент будет всё больше поступать из систем искусственного интеллекта, предназначенных для потребления людьми. По мере развития возможностей и обучения, потребители могут начать терять доверие к некоторым нашим институтам, таким как СМИ или правительство. Если мы начнём терять доверие к нашим более надёжным учреждениям, таким как образование или наша правовая/судебная система, то столкнёмся с серьёзной и пугающей проблемой.

Нам нужен разумный, рациональный и простой способ отделить факты от вымысла. В будущем, где ИИ генерирует факты, здравого смысла будет недостаточно, чтобы отличить одно от другого. Это ничем не отличается от того, как… Deepfakes совершенствуются до такой степени, что технологии могут заставить кого угодно сказать что угодно.

В эпоху, когда органические продукты или продукты без ГМО должны иметь соответствующую маркировку, CyberHoot задаётся вопросом, нужны ли нам рекламные этикетки, происхождение которых подтверждено независимыми экспертами как «не содержит генеративного ИИ»? Или это не соответствует сути этой технологии? Создавать содержательный, потребляемый контент, неотличимый от контента, созданного человеком? Будут ли фильмы «Аватар» с 10 по 15 полностью созданы новейшей киностудией с использованием генеративного ИИ?

Создают ли технологии больше проблем, чем решают?

Яаков Й. Штайн, главный технический директор компании RAD Data Communications, базирующейся в Израиле, отвечает на вопрос:

Проблема с ИИ и машинным обучением заключается не в научно-фантастическом сценарии захвата мира ИИ без помощи неполноценных людей. Проблема в том, что мы становимся всё более зависимыми от машин и, следовательно, более подверженными ошибкам и системным сбоям. Это явление не ново – когда-то большая часть школьного образования была посвящена, например, каллиграфии и устному счёту, которые были вытеснены техническими средствами. Но с колоссальным ростом объёма информации образование всё больше фокусируется на том, как извлекать необходимую информацию, а не на запоминании, что приводит не только к сокращению объёма памяти, но и к снижению глубины знаний и отсутствию способности устанавливать связи между разрозненными фрагментами информации, что является основой творчества. Однако в прошлом человечество всегда разрабатывало более продвинутые технологии для преодоления ограничений существующих технологий, и нет оснований полагать, что на этот раз всё будет иначе.

Источник: Pew Research: Технологии создают больше проблем, чем решают

Для видеообзора ChatGPT посмотрите этот 9-минутный видеообзор.

Защитите свой бизнес с CyberHoot сегодня!!!

Подписаться

источники: 

Хранитель: Microsoft встраивает ChatGPT в свою поисковую систему BING

ЗДНет: Люди пытаются заставить ChatGPT писать вредоносное ПО

Reuters: Microsoft планирует создать версию Bing с искусственным интеллектом на базе ChatGPT

Дополнительная литература: 

Pew Research 6: Технологии создают больше проблем, чем решают: подборка ответов за и против 

Опрос студентов об использовании ИИ в высшем образовании