数据与智能>业界新闻

生成式 AI 的未来:企业需要知道的那些事

作者: Greg Pavlik   责任编辑:刘沙 2024-02-06 12:40:32
来源:电脑商情在线关键字:生成式AI

作者:Greg Pavlik甲骨文公司云基础设施高级副总裁

强大的云基础设施与高级 GPU 的结合,让我们得以在 AI 技术上取得突破。在过去一年中,生成式 AI 模型展示了令人惊叹的能力。例如,生成式 AI 模型不仅能够通过律师资格认证考试,得分还位于第 90 个百分位数。不仅如此,这些模型还可以撰写从历史、哲学等期末论文,或者用于搜索信息,而曾经的我们都默认使用搜索引擎。

现在,我们看到生成式 AI 能够创建文本、生成 SQL 查询、编写代码、创作艺术品、协助产品支持……这在几年前听起来似乎是天方夜谭。生成式 AI 的亮眼成就激发了企业高管的想象力,他们相信生成式 AI 在助力企业提高生产力和收入方面有着巨大的潜力。

企业真正需要从生成式 AI 中获得什么?

企业需要的是能够改善业务成果的生成式 AI 功能和用例。生成式 AI 利用基于组织数据和知识产权进行微调或增强的模型,可以提供只有熟悉相关组织的模型才能提供的输出结果。

除了这项技术之外,企业还需要一个可满足多种需求的合作伙伴,包括从配置基础设施,到选择、定制和部署与业务应用相集成的模型。几十年来,Oracle 一直在帮助各行各业、大大小小的企业取得成功,包括支持其关键任务应用以及通过创新助力客户取得竞争优势。

Oracle 对企业如何利用生成式 AI 增强业务流程进行了深度思考,打造了涵盖整个堆栈的端到端生成式 AI 体验。我们的 AI 产品基于高性能的 AI 基础设施构建,可在整个 Oracle 堆栈中轻松集成,包括从能够向 AI 提供数据的 Oracle 数据库(Oracle Database)、Oracle 自治数据库(Oracle Autonomous Database) 和 MySQL HeatWave 等数据库产品,到内嵌生成式 AI 功能的 ERP、HCM 和 CX 等 SaaS 应用。Oracle 的 AI 产品旨在提供无缝的体验,而不是像自建项目中的零散部件或工具,需要您自己动手组装。

Oracle 不仅提供集成且无缝的 AI 体验,还可以在您需要的任何地方提供 AI 产品。您可以在 Oracle Cloud 中使用 Oracle 云基础设施远程软件服务(Oracle Cloud Infrastructure, OCI) Generative AI 利用公有云的优势,按需扩展解决方案、定制模型并为企业创建专用模型端点。借助 OCI Dedicated Region,Oracle 还可以在您的数据中心内提供生成式 AI 服务,让您可以将生成式 AI 功能与本地数据和应用相结合。

Wikibon 首席研究官 Dave Vellante 表示:“Oracle 在企业生成式 AI 方面采用了全栈方法。Oracle 的价值始于堆栈的顶端,而不是硅。通过在 Oracle Fusion SaaS 应用中提供集成的生成式 AI,Oracle 将与客户业务价值建立直接关联。这些应用由自带向量嵌入的自治数据库提供支持,并在 OCI 中的高性能基础设施上运行,或者通过 Dedicated Region 在本地运行。这些产品构成了高度差异化的企业 AI 策略,涵盖了从开箱即用的 RAG,各种微调模型,再到整个集成堆栈中的 AI 技术。据 Oracle 研究表明,2023 年是 AI 实验年。有了这些优势,我们希望 2024 年能够成为 AI 领域投资的丰收年。”

Oracle 如何提供这些功能?

今天,我们很高兴地宣布推出一系列创新成果,包括新服务和新功能,为您的生成式 AI 之旅保驾护航。

全新:OCI Generative AI 服务正式发行版

随着 AI 策略的进展,Oracle 宣布正式推出 OCI Generative AI 服务,这是一个能够将 LLM 无缝集成到各种企业用例中的托管服务。

OCI Generative AI 服务现在支持 Meta 的 Llama 2 和 Cohere 的模型,并包含了 100 多种语言的多语言嵌入功能。Oracle 还做出了一些改进,让您能够更轻松地结合使用 LLM 与 LangChain 集成、端点管理和内容审核等功能。

OCI Generative AI 也包含了经过优化的 GPU 集群管理体验,包括为主机集群提供多端点支持,支持通过扩展集群处理更多模型请求,以及提供端点分析。

OCI Generative AI 服务现在还支持企业对 Cohere 的 Command 52/6B 模型进行灵活微调,让企业可以有信心地确保他们的 AI 适应了特定业务环境。

借助 OCI Generative AI 服务,客户可以处理各种用例,包括:

· 客户运营:根据客户的产品套件、体验和语言实现自动化客户服务。

· 市场营销:基于买家档案和使用历史记录,大规模进行个性化搜索、推广和客户培养。

· 销售:构建虚拟销售代表,引导潜在客户认识产品和下单。

· 风险和法务:在多语言支持下基于现有优秀实践,加快合同编写和起草流程。

· 策略和财务:通过公共和私有信息来源,大规模监视竞争对手和客户动态。

全新:OCI Generative AI Agents(测试版)

我们推出了 OCI Generative AI Agents 服务的测试版。Agent 主要负责将用户查询转换为任务,由 Generative AI 组件(搜索工具、文档语料库、LLM、响应生成等)执行并响应。OCI Generative AI Agents 系列中首个亮相的是检索增强生成 (RAG) Agent。RAG Agent 可通过 OCI OpenSearch 查询内部数据,弥补 LLM 通用知识的不足,进而提供符合情境的答案。现在,用户可以使用自然语言透明地访问各种企业数据集,无需掌握专业知识,也无需知道数据的格式或存储位置。

举个例子,当终端用户要求 AI Agent 汇总与请病假相关的人力资源政策时,查询会向模型发出指令,以便在内部文档库中搜索相关政策。然后,该模型使用 RAG 功能提取相关段落,基于这些信息生成人类语言响应,并附上相关源文档的超链接。然后,AI Agent 将以自然语言向最终用户提供响应结果。用户可以针对相关政策继续进行提问,AI Agent 也会继续根据对话情境回答问题,提供准确且类人的体验。在该服务的未来迭代中,终端用户将能够提示 AI Agent 采取进一步操作,例如编辑原始文档或进行 HR 系统更新。

OCI Generative AI Agents 的初始测试版支持 OpenSearch 访问内部企业数据,未来即将推出的其它版本将支持更多 LLM,并支持通过 AI Vector Search 访问 Oracle Database 23c 以及通过 Vector Store 访问 MySQL HeatWave。如此一来,用户可以构建能够自动与 Oracle 和第三方应用交互的 Agent,并指导 Agent 根据查询结果采取行动。

全新:OCI Data Science AI Quick Actions 特性

OCI Data Science AI Quick Actions 是 OCI Data Science 服务的一个无代码功能,支持用户访问各种开源 LLM,包括 Meta、Mistral AI 等。在正式发行版中,这个功能以预计将提供更广泛的开源 LLM 选项以供访问。

OCI Data Science Quick Actions 让用户可以访问一系列的精选模型,并使用自己的数据进行微调、评估和部署。同时,该功能还包含了一个完整的生态系统,其中包括用户友好的工作流、集成的遥测和可视化功能以及简化的执行流程。

在正式发行版中,AI Quick Actions 将为您提供:

· 验证和环境预检查

· 精选预测试模型列表,包括 LLM

· 多个精选部署方案

· 模型搜索和筛选功能,可灵活选择符合客户需求的模型

· 只需点击几下即可执行微调任务的界面,提供指导步骤

· 可以直接从控制台执行的微调监视任务

· 用于快速测试已部署模型的练习区功能

OCI Generative AI 已集成到 Oracle 数据库和 Oracle Cloud Apps 等技术堆栈中

Oracle Fusion Cloud Applications、Oracle NetSuite 和 Oracle Health 及其他行业应用将新增生成式 AI 功能,该功能由 OCI Generative AI 中的模型提供支持。初始用例将侧重于汇总和辅助创作,例如汇总绩效复核结果、辅助编写职务说明、辅助创建目标、撰写知识文章以及生成相关的客户服务电子邮件。员工可以在日常办公的软件环境中获得这些 AI 功能,进而提高他们在核心任务和工作流方面的生产力和效率。

当然,Oracle 还将生成式 AI 功能嵌入到数据库组合中。带有 AI Vector Search 的 Oracle Database 23c 和带有 Vector Store 的 MySQL HeatWave 双双提供了 RAG 功能,让用户可以将内部数据与 LLM 相结合,从而根据提示生成更准确、更符合情境的答案。

此外,通过 Autonomous Database Select AI,客户可以在与 Oracle 自治数据库交互时使用自然语言进行 LLM 查询,再也无须编写 SQL 脚本。有鉴于此,客户能够在应用开发中更快地采用 AI。企业及其客户可以使用与 Oracle Database AI Vector Search 相结合的 Select AI 自然语言界面,更快、更直观地从自己的数据获取洞察。例如,零售商可以按需获得自定义库存洞察,受监管组织的员工则可以快速查询大量的法规来检查合规性。

Oracle AI:即将推出的增强功能

除了发展生成式 AI 之外,Oracle 也将继续改进现有的 AI 产品。Oracle 的策略是为企业提供多种选择,确保您取得成功。因此,我们将为您提供多个增强功能,其中包括:

· Oracle Digital Assistant:现在,您可以将 LLM 中的数据以及企业数据融入聊天体验中。Oracle Digital Assistant 将数据库信息、企业知识文档和生成式 AI 相结合,尽可能减轻实现自然语言对话所需的工作量。开发人员可以使用生成式 AI 功能,更快速、更高效地构建数字助手。

· OCI Language:通过自然语言处理,增加医疗信息洞察力。这个 OCI Language 服务的新功能可帮助客户更好地处理医疗领域的语言。新模型有助于识别各种记录中的医学术语、关系和实体,例如临床试验记录、患者进度记录和电子健康记录。

· Document Translation Experience:新增基于文件的文档翻译功能支持各种格式(Word、PPT、HTML、JSON 和 Excel),可翻译各种类型的文件并确保内容的一致性和完整性。

· OCI Vision:新增 Facial Detection 功能,可识别图像中的人脸和面部特征,并扩展 OCI Vision 用例的数量。此外,OCI Vision 也将支持基于文件的视频处理。

· OCI Speech:新增声纹分割聚类功能,可将说话人信息嵌入到音频转录内容中。该功能使 OCI Speech 成为一款宝藏工具,可以组织和分析人生对话,并从中提取有意义的信息。此外,OCI Speech 还将支持 Whisper 等开源模型的实时转录和使用。

· OCI Document Understanding:新增 300 多种语言支持和模型改进。

· OCI Data Science:新增 Feature Store,一个用于管理数据科学团队开发功能的中央存储库。Feature Store 提供了一个统一框架,其中的功能以简化的方式记录、共享、存储和提供。新增 Forecasting 运算符,让客户可以使用无代码运算符,通过 OCI Data Science 服务利用 Oracle 专有的深度学习模型。

Oracle Generative AI 的差异化优势

我之前提到过,Oracle 先搞清楚企业成功实施生成式 AI 真正需要的是什么,再决定在生成式 AI 业务采用全面的方法。但除此之外,我们也遵循一些核心原则,以帮助我们确保新产品能够为您带来更多价值:

高效、可自定义的模型,专为企业用例而设计

我们提供以企业为中心的高性能和成本效益模型,支持多种用例和高效的微调。我们也越来越多地根据实际企业场景调整模型,并使用 Oracle 专有的知识和洞察,对大型语言模型进行专业化训练,使其更适合企业使用 — 这些都是基于出色的 GPU 和高性能集群网络来完成的。

在技术堆栈的每一层,嵌入生成式 AI 功能和服务

Oracle 在基础设施层、平台服务和业务应用中融入了各种嵌入式和托管服务功能,可随时助您顺利完成生成式 AI 之旅。与 AI 协同工作看起来可能很有挑战性,但如果您与一家创建了从数据到应用的整个集成服务的云技术公司合作,那这件事就容易得多了。

优先着重数据管理、安全性和治理的服务 — 对企业 AI 用例至关重要

借助 Oracle,您可以将 AI 模型实时连接到相关数据,并检索情境化响应。此外,Oracle 还会继续帮助您保障客户数据的隐私和安全。我们不会与任何第三方模型提供商共享数据。为了加强数据隐私和安全保护,我们可以选择在不与其他客户共享的托管 GPU 基础设施上执行 LLM 专用部署,并为您的数据中心提供生成式 AI 服务。

Oracle AI 平台提供一整套高性能基础设施、内置 AI 和 ML 技术的数据库和分析产品以及 AI 服务,当然还少不了面向应用开发的生成式 AI 服务。而这仅仅是个开始。

意见反馈:zhanheng@cbigroup.com

稿件投诉:zhanglin@cbigroup.com

内容合作QQ:2291221

商务合作:13391790444 詹老师

京ICP备:2022009079号-3

京公网安备:11010502051900号

ICP证:京B2-20230255

关注我们