自然语言AI聊天GPT创造机遇与挑战

10 年 2023 月 XNUMX 日 | 博客

人工智能聊天机器人正在为我们的现实创造机遇和挑战。

当技术超越管理IT所需的社会规范时

人工智能(AI) 的发展日新月异，其影响也日益深远。像ChatGPT这样强大的 AI 工具正被用于编写恶意软件、论文和开发代码，而现有的社会规范却无法约束我们的行为，法律也无法保护我们免受伤害。尤其是在出现重大创新时，技术的发展速度往往会超越约束其使用的社会规范。想想开车发短信的例子：禁止开车时发短信的法律制定用了十多年时间。早在 2002 年，全球就发送了 250 亿条短信（数据来源：华尔街日报）。[时至今日，我们是否已经让人们意识到开车发短信的危险性？]

本文解释了 ChatGPT 是什么、它可以做什么，并提出了有关我们所面临的机遇和挑战的重要问题。

ChatGPT 入门：

CyberHoot网络安全技术术语库将ChatGPT定义为一种利用“生成式预训练Transformer”（简称“GPT”）人工智能算法的对话式聊天机器人。ChatGPT能够以语法正确的方式与用户对话，甚至可以纠正他人的语法错误。它可以编写和调试程序员的代码。它拥有对话记忆功能，可以从当前对话中引用过去的对话内容。它会承认错误并质疑不正确的假设。它甚至可以为歌曲创作歌词。对于复杂的主题，它可以用自然语言概括要点，方便学生撰写学期论文。最近一项调查显示，25%的受访学生承认自己会为了更好地理解而总结复杂的主题。虽然这种做法完全合乎道德，但同一项研究也显示，有5%的学生使用人工智能来撰写论文。

微软和 Open AI

早在2019年，微软就斥资10亿美元投资OpenAI，其目的显然是希望通过将ChatGPT语言模型集成到Bing搜索引擎中，为搜索引擎创造更具竞争力的格局。众多消息来源称，Bing最早可能在2023年3月推出支持ChatGPT的搜索功能。英国TheWeek.Co.Uk网站的这篇文章也证实了这一点：

“生成式人工智能被誉为下一个划时代的科技创新，它将改变我们在线创建新内容的方式，甚至改变我们体验互联网的方式…… ”

随着生成式人工智能技术的进步，虚假新闻和偏见观点将越来越难以识别。[我们的真相来源是什么？ ]

黑客利用 ChatGPT 创建恶意软件

CyberHoot 注意到有文章指出，黑客正在利用 ChatGPT 编写恶意软件代码，例如勒索软件和网络钓鱼攻击。OpenAI 对此回应称，其《可接受使用条款和条件》禁止将 ChatGPT 用于“任何形式的危害”，并正在研究在其 AI 引擎的输出结果上添加水印。然而，多位安全研究人员的文章声称，尽管 ChatGPT 内置了制衡机制，黑客仍然利用它编写恶意软件代码。

那么，这给我们带来了什么？这对普通中小企业主或员工意味着什么？

生成式人工智能对我个人和职业意味着什么

无论从个人角度还是职业角度来看，CyberHoot 的答案似乎都是一样的。互联网内容将越来越多地来自人工智能生成系统，供人类消费。随着训练能力的提升，消费者可能会开始对我们的某些机构（例如媒体或政府）失去信心。如果我们开始对更值得信赖的教育机构或法律/司法系统失去信心，那么我们将面临严峻而艰巨的挑战。

我们必须找到一种合理、理性且简便的方法来区分事实与虚构。在人工智能生成式发展的未来，仅凭常识将不足以辨别真假。这与深度伪造技术日臻完善，以至于任何人都能随意发表任何言论的情况并无二致。

在这个有机或非转基因食品必须依法贴上标签的时代，CyberHoot 不禁思考，我们是否需要那些经过独立验证、来源“不含生成式人工智能”的宣传标签？或者，这是否忽略了这项技术的初衷？它究竟是为了创造有意义的、可消费的、与人类创作内容难以区分的内容？《阿凡达》10 到 15 部作品会完全由最新的生成式人工智能电影工作室制作吗？

技术造成的问题比它解决的问题还多吗？

以色列 RAD Data Communications 首席技术官 Yaakov J. Stein 回答了这个问题：

人工智能和机器学习的问题并非科幻小说中人工智能统治世界、不再需要低等人类的场景。问题在于我们越来越依赖机器，因此更容易受到错误和系统故障的影响。这并非新现象——学校教育曾经主要侧重于书法和心算等课程，但这些课程已被技术手段取代。但随着信息量的激增，教育更侧重于如何检索所需信息，而不是记忆知识，这不仅导致实际存储量减少，知识深度也下降，并且缺乏将不同信息片段联系起来的能力，而这正是创造力的基础。然而，过去人类总是能够开发出更先进的技术来克服现有技术的局限性，而且没有理由相信这次情况会有所不同。

资料来源：皮尤研究中心：科技带来的问题比解决的问题更多