从笨拙到优雅：生成式AI迈向企业价值之路

从笨拙到优雅：生成式AI迈向企业价值之路

近期纽约一场人工智能会议上，开发者、厂商和政府官员探讨了生成式人工智能的机遇与风险，并展示了面向企业应用的解决方案。

译自 Dancing Bears to Ballet: GenAI's Path to Enterprise Value，作者 Eric ewcomer。

传统上，开发者使用为特定目的而创建的语言与计算机交互，他们必须学习这种语言。生成式AI革命让开发者可以使用自然语言与计算机交互。

然而，自然人类语言并非易于计算机理解。自然语言的歧义和不一致性使得计算机无法像处理用计算机语言编写的程序那样精确地响应。

尽管如此，最近在纽约举行的AI峰会上，人们热烈讨论了生成式AI的用途、开发者如何使用它、使用哪些工具、如何从中获利以及如何将其用于善举（纽约州州长霍楚）。

约4000名访客参加了此次会议，会议共有约400位演讲者和100家参展商，其中包括初创企业和大型公司。

生成式AI程序的错误、幻觉、偏差问题和结果质量差，使得难以到生成式AI的最佳应用——尤其是什么样的组织会付费让你用它进行开发。

这有点像跳舞的熊：你惊叹于熊竟然会跳舞，但这与纽约市芭蕾舞团《胡桃夹子》00美元的座位相差甚远。

至少在目前，开发者和分析师似乎必须参与其中来审查和批准生成式AI的输出。关于自主代理的讨论似乎大多只是空谈，至少目前是这样。

会议上重点介绍的用例侧重于开发者的潜在生产力提升，但也涵盖了开发者可以使用生成式AI的广泛应用。

开发者使用AI代码助手创建用于生命科学、政府、医疗、银行、旅游、公用事业、智慧城市等用例的生成式AI应用程序。

来自使用生成式AI的组织、生成式AI供应商和政府的代表讨论了他们的用例，并代表选民提出了解决方案和努力。

Lemony AI

一个普遍接受的用例是开发用于与复杂文档（例如人力资源政策、银行账户开户或法律裁决）交互的聊天应用程序。会议参展商Lemony AI销售为此用例设计的AI软件，并将其打包在专门设计的硬件模块中。

他们提供硬件是为了避免其生成式AI应用程序需要外部连接（例如与云的连接），这有助于满足数据法规，确保数据隐私并启用额外的训练数据使用。组织拥有自己的AI模型。

“我们销售软件服务，而您免费获得硬件，”Lemony AI的首席执行官兼联合创始人告诉The ew Stack。

客户订阅Lemony AI的其中一个计划，并根据计划获得一个或多个预装了生成式AI软件的硬件模块。订阅者会定期收到软件更新。

Buehrle解释说，单盒订阅每月499美元。“客户通常从单盒开始，两到三个月后升级到每月1299美元的四节点订阅，”他说。节点集共享资源。

“我们不需要退回盒子，”Buehrle补充道。这些盒子包括六太字节的闪存和四个他们自己设计的AI加速处理器。

用户上传他们的文档，Lemony AI的软件会对其进行转换。“我们只在盒子上存储向量数据，”Buehrle说。然后，用户使用Lemony AI软件与文档数据进行聊天。

Lemony AI软件包括一个LLM和用于文档相关工作流程的代理，例如执行合同和与允许查看合同的人共享机密信息。

另一个似乎越来越被接受的生成式AI用例是使用聊天界面与分析数据交互。

会议参展商的首席技术官兼联合创始人告诉The ew Stack，客户希望向他们的数据提问，例如“我的市场份额为什么下降了？” “突然，我们可以将AI置于‘数据管道’的中间，”Finley说，创造了“用于BI的AI”。

结果是“像ChatGPT一样自然的对话，但100%基于事实，”Finley补充道，将生成式AI与企业数据连接起来。

他解释说，使用传统的BI方法需要太长时间才能得到答案。但使用AI会带来错误回复的风险。

“模型被训练成取悦人们并保持礼貌。如果你对提示说明不足，LLM就必须编造一个答案，”Finley说。因此，AnswerRocket采用多方面的方法来解决幻觉问题。

无论生成式AI的用例是什么，开发人员和用户都对它的风险有合理的担忧。

会议参展商Prove AI的首席技术官在接受The ew Stack采访时表示，这“都是关于降低AI风险的”。他补充说，这似乎是我们都能团结起来的想法。

“每个人都希望尽可能快地开发。虽然我们预计软件堆栈会不断发展，但合规性和风险管理将需要持续关注。目前还不够，”Whalen说。

Prove AI利用Hedera区块链为组织的合规性和风险策略（与开发和运行AI模型相关）提供可认证且防篡改的审计，并在需要时向第三方展示结果。

Prove AI是一款基于SaaS的产品，具有用于集成和管理组织数据集和LLM的连接器，并提供了一套针对ISO和SOC标准（例如ISO 42001）的预配置合规模块。合规模型是可定制和可审计的。

与此同时，纽约州州长在活动的第二天发表了未经预告的主旨演讲。她强调了AI作为改善政府职能和推动市州科技公司发展的重要方式。

纽约的Empire AI联盟——由私营公司、政府和学术机构组成——最近安装了一台价值1650万美元的超级计算机，该计算机由24个vidia DGX系统提供支持，包含192个Tensor Core GPU。

霍楚州长表示，这台安装在奥尔巴尼大学的超级计算机“比以往任何在公众手中拥有的东西都强大”。她说，其目的是“为如何将AI用于公共利益树立榜样”。

霍楚提到了降低食品价格、提高农业效率、改善医疗成果以及“为我们的孩子继承一个更公平、更高效的社会”作为该项目的目标。

该联盟表示，他们已经收到了100多个关于这台超级计算机的研究提案。