AI热点 11小时前 144 阅读 0 评论

ChatGPT 商业推荐被曝引用不可靠信息来源,专家提醒用户勿盲目信任

作者头像

AI技术专栏作家 | 发布了 246 篇文章

ChatGPT 商业推荐被曝引用不可靠信息来源,专家提醒用户勿盲目信任
ChatGPT 商业推荐被曝引用不可靠信息来源,专家提醒用户勿盲目信任

IT之家 7 月 10 日消息,一项最新发现指出,人工智能工具 ChatGPT 在商业推荐中可能引用了不可靠的信息来源,包括被黑客攻击的网站和已被重新利用的过期域名。

据IT之家了解,该发现由 SEO 专家、Digitaloft 公司董事总经理詹姆斯・布罗克班克(James Brockbank)通过个人测试得出,并非基于正式研究。他在测试中发现,ChatGPT 在推荐公司或服务时,有时会引用被篡改或误导性的内容。这些内容往往来自被黑客入侵的高权重网站,或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的“权威性”,ChatGPT 在生成回答时仍将其视为可信来源。

布罗克班克指出,这种现象主要涉及两类问题:一是被黑客攻击的网站,攻击者在这些网站上植入与原本内容无关的信息;二是过期域名的再利用,一些机构或个人购买这些域名后,发布与其原主题无关的内容,以借助其原有的搜索引擎权重误导 AI 系统。

“重建一个域名,仅仅是为了让语言模型引用它?这就是操控。”布罗克班克在接受采访时表示。他强调,虽然通过合法媒体投放和精心策划的内容可以提升在 AI 推荐中的曝光度,但利用被黑或过期域名则明显越过了道德底线。

这一发现对企业和用户均具有重要影响。对于企业而言,AI 推荐已成为品牌曝光的重要渠道,但如果推荐内容来源不可靠,可能误导消费者,甚至损害品牌声誉。对于用户来说,盲目信任 AI 推荐可能带来信息误判的风险。

布罗克班克呼吁,AI 开发者应加强对操控内容的识别与过滤机制,提升系统的信息筛选能力。在此之前,他建议用户在使用 ChatGPT 等 AI 工具时,应对其推荐的信息来源进行核实,而非全盘接受。

“我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。”布罗克班克提醒道。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!