马斯克旗下的人工智能公司xAI在社交平台X上推出生成式图像功能Grok，但引发了强烈的批评。该功能允许用户生成性化或裸体女性和儿童图像，导致海量未经同意的性化图像涌现，并被广泛传播，引起多国政府与监管机构的关注。
后来，由于Grok的使用模式问题，xAI决定限制该功能在付费订阅用户身上开放。现在，只有付费用户才能使用Grok的图像生成和编辑功能，但这并不意味着独立的Grok应用就不受限制。截止到目前，有关该应用的任何人仍可通过独立应用免费生成图片，无需订阅付费服务。
Grok在最初上线阶段对所有用户开放，只设置了每日使用次数上限，并允许上传任意人物照片，要求系统对其进行编辑或生成性化、裸露版本图像。这直接导致了海量未经同意的性化图像的涌现，对社会产生了严重影响。相关内容的传播规模被形容为“洪水般涌现”，并迅速引起多国政府与监管机构的强烈关注。
面对批评浪潮，xAI和马斯克都在公开场合谴责利用该工具制作违法内容的行为，并重申平台将继续执行禁止非法内容的相关政策。马斯克上周在X上发文表示，任何使用Grok生成非法内容的行为，将被视为与在平台上上传非法内容同等对待，相关帐号将面临相同的处置后果。
目前，英国、欧盟和印度等多方已公开批评X及Grok对该类用途放任不管。欧盟委员会要求xAI保存所有与Grok相关的文档，直至2026年底，以便监管审查。印度通信部则责令X立即采取措施，防止图像生成功能被滥用，否则可能失去在印度享有的“安全港”法律豁免。英国通信监管机构表示已经就相关问题与xAI取得联系，要求其就此作出说明和整改。
后来，由于Grok的使用模式问题，xAI决定限制该功能在付费订阅用户身上开放。现在，只有付费用户才能使用Grok的图像生成和编辑功能，但这并不意味着独立的Grok应用就不受限制。截止到目前，有关该应用的任何人仍可通过独立应用免费生成图片，无需订阅付费服务。
Grok在最初上线阶段对所有用户开放，只设置了每日使用次数上限，并允许上传任意人物照片，要求系统对其进行编辑或生成性化、裸露版本图像。这直接导致了海量未经同意的性化图像的涌现，对社会产生了严重影响。相关内容的传播规模被形容为“洪水般涌现”，并迅速引起多国政府与监管机构的强烈关注。
面对批评浪潮，xAI和马斯克都在公开场合谴责利用该工具制作违法内容的行为，并重申平台将继续执行禁止非法内容的相关政策。马斯克上周在X上发文表示，任何使用Grok生成非法内容的行为，将被视为与在平台上上传非法内容同等对待，相关帐号将面临相同的处置后果。
目前，英国、欧盟和印度等多方已公开批评X及Grok对该类用途放任不管。欧盟委员会要求xAI保存所有与Grok相关的文档，直至2026年底，以便监管审查。印度通信部则责令X立即采取措施，防止图像生成功能被滥用，否则可能失去在印度享有的“安全港”法律豁免。英国通信监管机构表示已经就相关问题与xAI取得联系，要求其就此作出说明和整改。
. 这种情况下，一方面，我们希望技术进步和发展，但另一方面，必须也要考虑到社会的安全性和道德问题 
. 我认为，这个问题应该是由整个行业共同解决的，不仅仅是xAI 和 X平台的问题 
. 现在，由于Grok的使用模式问题，限制了这种功能的使用，对于减少海量未经同意的性化图像来说，是一个合理的措施 
.
X的操作模式真的是太可疑了啊，我都觉得这是他们不应该开放这样的功能的！ 
如果真的需要限制使用者，只是设置了付费用户的条件，却还有独立应用可以免费用？ 
这也意味着安全性就无法得到真正的保障。
还记得当时Grok开放后，海量未经同意的性化图像就涌现出来了？ 
那些图片都可能带来严重的社会影响，真的是不负责任！ 
现在虽然限制在付费用户身上，但问题还是没有得到彻底解决。 
我个人觉得，一开始开放给所有用户的方式是不现实的，如果想要防止未经同意的性化图像的涌现，那么就不应该在最初上线阶段对所有人都开放这个功能。 
我觉得这件事还是有点儿意思的 XD 如果不是马斯克旗下的公司xAI，情况可能会更加糟糕。因为他们的Grok功能那么强大，任何人都能轻松生成裸体女性和儿童图像，这种行为太过道德了。
但是，如果只限制在付费用户身上开放，也不能算是完全解决问题，因为还是有可能出现未经同意的性化图像 
️同时，我觉得监管机构应该考虑如何帮助这些被影响了的人，而不是简单地强迫公司采取措施 
付费用户不能使用G Krok 不代表独立应用也就不受限制？ 