威胁行为者正利用X平台的AI助手Grok，绕过平台为打击恶意广告而设定的链接发布限制。恶意广告商通过在视频广告的“From:”元数据字段隐藏恶意链接，Grok在用户询问时会解析并回复可点击的链接，从而扩大了恶意广告的曝光量。这种“Grokking”技术能将恶意广告的展示量放大至数百万次。研究人员建议扫描所有字段、拦截隐藏链接以及为Grok添加上下文清理机制来解决此问题。X平台已收到相关报告。

💡 **Grok助手被滥用以规避X平台的广告限制**：部分威胁行为者利用X平台内置的AI助手Grok，成功绕过了平台为减少恶意广告而实施的链接发布限制。这种方法允许恶意广告绕过常规的链接扫描和拦截机制，从而触及更多用户。

🔗 **隐藏链接与Grok的解析能力**：恶意广告商通过将链接隐藏在视频广告的“From:”元数据字段中，该字段未被X平台有效扫描。当用户询问视频来源时，Grok会解析此隐藏字段，并在回复中以可点击链接的形式呈现，使用户能够直接访问恶意网站。

🚀 **Grok的“可信度”放大效应**：由于Grok在X平台上被视为受信任的系统账户，其发布的链接内容获得了更高的可信度、更广的覆盖范围、更好的搜索引擎优化（SEO）和声誉，从而极大地增加了恶意链接被广播给大量用户的可能性，甚至能将恶意广告的曝光量放大至数百万次。

🚨 **恶意重定向与潜在风险**：研究人员发现，这些通过Grok传播的链接通常会跳转到广告网络，最终指向诈骗网站，如虚假验证码测试、信息窃取恶意软件等，对用户构成严重的安全威胁。

🛠️ **建议的解决方案与平台响应**：为解决此问题，建议采取扫描所有字段、拦截隐藏链接以及为Grok添加上下文清理机制。研究人员已将此漏洞报告给X平台，并已收到非官方确认，Grok工程师已获悉此问题。

HackerNews 编译，转载请注明出处：

威胁行为者正在利用X平台的内置AI助手Grok，绕过该平台为减少恶意广告而引入的链接发布限制。

正如Guardio Labs研究员Nati Tal所发现，恶意广告商经常运行包含成人内容诱饵的可疑视频广告，并避免包含指向主站的链接以避免被X平台拦截。

相反，他们将链接隐藏在视频卡片下方不起眼的“From:”元数据字段中，该字段显然未被社交媒体平台扫描以检查恶意链接。

接下来，（很可能是）同一批行为者通过回复广告来询问Grok关于帖子的信息，例如“这个视频来自哪里？”或“这个视频的链接是什么？”。

Grok会解析隐藏的“From:”字段，并在回复中以可点击的格式提供完整的恶意链接，使用户能够点击并直接进入恶意网站。

由于Grok在X平台上自动是一个受信任的系统账户，其发布的内容提升了链接的可信度、覆盖范围、搜索引擎优化（SEO）和声誉，从而增加了该链接被广播给大量用户的可能性。

研究人员发现，许多此类链接通过 shady 广告网络进行跳转，最终导向诸如虚假验证码（CAPTCHA）测试、信息窃取恶意软件和其他恶意负载的诈骗。

这些链接不仅没有被X平台阻止，反而通过恶意广告向平台用户推广，并借助Grok进一步扩大了影响力。

Tal将利用此漏洞的技术称为“Grokking”，并指出其非常有效，在某些情况下能将恶意广告的曝光量放大至数百万次展示。

潜在的解决方案包括扫描所有字段、拦截隐藏链接以及对Grok添加上下文清理机制，这样AI助手就不会在用户询问时盲目地反馈链接，而是会根据拦截列表对其进行过滤和检查。

Tal向我们确认，他已联系X平台报告此问题，并得到了非官方确认，表示Grok工程师已收到报告。

BleepingComputer也联系了X平台，询问他们是否意识到这种滥用行为以及是否计划采取任何措施，但在本文发布前未收到回复。

 

 

 

---

消息来源： bleepingcomputer；

本文由 HackerNews.cc 翻译整理，封面来源于网络；

转载请注明“转自 HackerNews.cc”并附上原文