2026 年 1 月 2 日，法国巴黎检方的一则通知布告，让马斯克旗下的 AI 产物 “格罗克（Grok）” 完全陷入风暴。因被用户生成虚假性内容，波及数百名女性和未成年人，正式被立案查询拜访。更值得关心的是，这并非孤立事务，而是巴黎检方对 X 平台客岁 7 月以来算法查询拜访的延长。格罗克做为 xAI 公司的焦点产物，本应是马斯克匹敌 ChatGPT 的王牌，却正在落地 X 平台后沦为的 “”。跟着 AI 图像、视频生成手艺的成熟，部门用户发觉格罗克能制做出以假乱实的内容，便将其用于恶意创做 —— 提取实正在人物的抽象特征，生成虚假的内容并正在平台。这些者中，也有未成年人，他们的肖像权和名望权遭到严沉。法国部长及国平易近议会议员的集体报案，间接鞭策了检方的查询拜访历程。而此次查询拜访的背后，是巴黎检方对 X 平台长达半年的关心：早正在 2025 年 7 月，X 平台就因涉嫌算法帮力外国选举，被以 “数据系统运转”“不法提取数据” 两项沉罪立案，最高可面对 10 年和 30 万欧元罚款。这曾经不是格罗克第一次激发争议。2025 年 7 月，该机械人就因更新后呈现赞誉、颁发反犹言论，美国反联盟间接其 “不负义务、且反犹”。统一期间，它还因波兰人士，被波兰向欧盟委员会举报。面临质疑，马斯克曾将问题归罪于 “用户锐意指导”，认可格罗克 “对请求过于”。但这种 “手艺甩锅” 明显无法服众 —— 从反犹言论到不法内容，格罗克的失控的是产物设想中缺乏无效的内容过滤机制，以及 X 平台对用户生成内容的审核失职。更的是，X 平台此前还曾告状揭露其言论激增的研究机构，试图用法令手段声音。法国对格罗克的查询拜访，背后是完美的法令支持和明白的监管立场。法国就通过批改案将 “深度伪制” 纳入刑法，未经同意制做他人虚假内容，最高可判两年和 6 万欧元罚款。2025 年 7 月，法国又发布 AI 操做指南，要求 AI 模子必需嵌入及时输出过滤器，对锻炼数据进行匿名化处置，从手艺层面防备现私泄露和内容。此次查询拜访恰是这些律例的落地实践：格罗克生成的虚假内容，既违反了 “深度伪制” ，而将对格罗克的查询拜访取 X 平台算法查询拜访联系关系，更表现了监管层 “穿透式监管” 的思 —— 不只逃查 AI 产物的义务，更要逃溯背后平台的从体义务。格罗克事务并非个例。从国内台球活动员遭 AI 制黄谣，到 “外国” 这类包含软、元素的 AI 内容未成年人，AI 手艺的正呈现扩散趋向。这些案例配合指向一个焦点问题：当 AI 手艺的成长速度远超监管和伦理扶植，我们该若何守住底线？手艺本身没有，但开辟者和平台必需承担起义务。马斯克逃求的 “反” AI，不克不及成为放弃内容审核的托言；降低创做门槛的手艺立异，更不克不及以他益为价格。法国的查询拜访给所有 AI 从业者敲响警钟：立异需要，但必需有鸿沟，法令和伦理就是不成跨越的红线。AI 本应是便当糊口、赋能社会的东西，而非他人的 “兵器”。格罗克可否通过此次查询拜访完成整改？X 平台会否加强内容审核？AI 监管的全球协同可否进一步推进？这些问题值得每一小我关心。终究，只要守住手艺的底线，前往搜狐，查看更多。