会员服务 登录 注册
×
资讯活动

为什么公司故意向AI植入数据

发布时间:2024-04-17 来源:金属加工

简单地说,AI引擎有两个组件,第一个是一个广泛的内容数据库,称为大型语言模型,其中包含了这家AI公司可以找到的所有信息,这包括维基百科、《纽约时报》和其他可公开获取的内容。(关于侵犯版权的争议很严重,而且越来越多,但这是另一个话题)

AI引擎的第二个组件是使用LLM数据来编写对查询的响应的算法。如果我让AI引擎完成句子,“The Dog Run Up The…”,算法会检查LLM,看看这个片段已经存在的频率以及通常完成句子的单词。然后,它向用户提供统计上最有可能的下一个单词。在这种情况下,“Hill”是典型的回答,而“casserole”不是。

一家试图利用AI的公司可以从提问开始。例如,一家服装公司可能会问:“男鞋的最新趋势是什么?”然而,只要问这个问题,AI引擎就知道这家服装公司正在考虑推出一款新产品,这是该公司希望对竞争对手隐瞒的信息。

对AI的一种更有效的使用是让该公司上传一些数据——客户的反应或销售历史——然后要求AI引擎找到模式,并将它们与其LLM中的任何其他信息进行比较。然而,许多AI引擎会将上传的公司数据添加到他们的LLM中,这样来自另一家公司的人如果提出了完全正确的问题,就可以生成揭示这些数据的回应。尽管大多数AI公司都有政策和其他保护措施来防范这种数据泄露,但在最近的几项研究中,60%-75%的公司已经宣布使用AI为非法,因为他们担心这些保护措施不够。(还有许多其他原因让公司犹豫不决,但数据隐私始终位居榜首)

然而,并不是所有公司都担心数据隐私。在咨询公司NextAccess主持的一场讨论中,一位与会者询问如何故意将企业数据注入LLM,并提高这些数据在公开可用的AI算法中的使用。NextAccess是一家咨询公司,为客户提供建议,建议他们如何改进将产品推向市场并推动收入增长的战略。

这个人经营着一家咨询公司。如果有人向AI引擎提出问题,她的公司的数据将改善响应,她希望查询者将她的公司视为智慧的来源,希望它能推动新的客户互动。

将一家公司的智慧和品牌放在信息寻求者面前并不是一个新概念。搜索引擎优化是指使一家公司的网站更容易被谷歌等搜索引擎使用,从而使该公司的网页链接出现在更多的谷歌查询中。这种做法催生了一个由咨询和技术公司组成的整个行业,这些公司可以帮助品牌设计自己的网站,以最大限度地提高对谷歌扫描工具的可见度。公司甚至可以付钱给谷歌,让他们的网页链接出现在相关查询的页面顶部。重要的是,这些“赞助商”搜索结果都有清晰的标记,这样互联网用户就能知道哪些谷歌回复是基于有机内容,哪些是基于企业支付。

谷歌训练我们所有人知道,其搜索引擎的结果不一定会给出正确的——甚至是最好的——答案。对于网络搜索者来说,点击多个链接搜索源网站已经成为一种正常的、意料之中的例行公事。

AI引擎的用户目前有不同的期望。他们假设AI引擎正在提供可能的最佳答案。即使是已知的AI缺陷,如偏见和幻觉,在新的、更强大的AI引擎中也变得不那么频繁了。用户对AI准确性的信任正在增长。

额外收入的拉动是否会说服AI公司透露一些算法秘密,以创建一个AI引擎优化(AEO)行业,这样公司就可以以一种特别容易让AI公司连接到LLM的方式重新安排数据,并增加在对用户查询的AI响应中引用该公司的数据和品牌的可能性?AI引擎会向寻求出现在AI回复中的品牌提供付费植入(理想情况下是带有赞助内容的标注)吗?

AI用户会有什么反应?他们会喜欢更相关、更具体的回应吗?或者他们会质疑这家AI公司的客观性和中立性?这些悬而未决的问题表明,AI既不同于以前的技术工具,因此还不确定它将走的道路。

到目前为止,我几乎找不到关于一家公司如何将其内容强制放入LLM,并说服AI引擎使用该公司的数据(最好是引用来源)高于其他(同样有用的)信息来源的建议。因此,我当然会问这些AI引擎,它们会受到什么影响来做到这一点。OpenAI的ChatGPT、谷歌的Gemini和Perplexity.ai都建议公司确保他们的内容结构正确、最新并得到可靠来源的支持,以增加他们的数据被包括在AI响应中的可能性。这些AI引擎都没有定义它们如何判断消息来源的可靠性。

Pplexity确实计划很快推出一个基于广告的AI引擎版本,明确区分其“客观”回应和支付促销费的公司赞助的回应。OpenAI已经有一个由私人实体使用预先选择的数据构建的聊天机器人目录,它计划最终通过市场收费提供这些数据。这将需要用户主动搜索特定的聊天机器人。谷歌使用Gemini来提高其在谷歌搜索、谷歌地图和其他属性中现有广告的性能,因此它已经间接使用AI来突出一家公司的内容而不是其他公司的内容。

然而,这些回应都没有就如何影响公开、开放、广泛使用的AI引擎版本,以突出单个公司的数据和品牌提供实质性、可操作的指导。

敬请关注,这些AI公司打算走哪条路,最能保持用户信任,同时让公司有机会推广自己的数据。这将是一次疯狂的旅程。