首页 > 热点

OpenAI落地欧盟AI合规要求,ChatGPT生成文本全面植入隐形水印

来源:网络 编辑:小彩 更新:2026-10-06

来源:环球网

【环球网科技综合报道】10月6日消息,据techcrunch报道,OpenAI宣布将开始在欧盟境内为ChatGPT和Codex生成的文本添加不可见水印,以履行欧盟《人工智能法案》的透明度义务。

在发布公告的同时,OpenAI联合宾夕法尼亚大学与耶鲁大学研究人员发布技术报告,公开了名为“textGrain”的水印方法。

报告通过示例演示了如何利用密钥对下一个词的预测进行排序以补全句子,将大量此类信号叠加后,检测器仅凭文本与密钥即可判断内容是否由AI生成。

OpenAI同时提醒,缺乏水印并不能证明文本由人类创作——文本可能因过短或经过大量编辑而丢失水印,也可能来自其他公司的AI系统。

水印可以表明OpenAI的系统生成或处理了部分段落,但不能反映其中融入了多少人类判断、编辑或创造力。

在OpenAI之前,竞争对手Anthropic已于两个月前宣布对Claude生成的文本添加水印,并在全球范围内推行。

该举措一度引发部分Claude用户强烈反对,他们认为指令、背景和决策均由用户提供,Claude仅是工具。

另据《华尔街日报》2024年报道,OpenAI此前已开发文本水印功能却迟迟未发布,部分原因在于担忧用户转而选择提供“无水印”服务的竞争对手。

目前,包括Anthropic、谷歌、Meta、微软和OpenAI在内的多家人工智能企业已承诺遵守欧盟针对AI生成内容的行为准则。

(青云)

深读|为什么特朗普爱改名?

广告 深读|为什么特朗普爱改名? 20:34 广告 广告 广告 了解详情 > 会员跳广告 首月9.9元 秒后跳过广告 1080P及以上画质仅为黄金会员专享> 开通/续费会员 抱歉,您观看的视频加载失败 请检查网络连接后重试,有话要说?请点击 我要反馈>> 正在切换清晰度... 播放 按esc可退出全屏模式 00:00 00:00 02:35 广告 只看TA 高清 倍速 剧集 字幕 字幕 下拉浏览更多 5X进行中 炫彩HDRVIP尊享HDR视觉盛宴 超清 720P 高清 540P 2.0x 1.5x 1.25x 1.0x 0.8x 50 哎呀,什么都没识别到 反馈 循环播放 跳过片头片尾 画面色彩调整 AI明星识别 视频截取 跳过片头片尾 是 | 否 色彩调整 亮度 标准 饱和度 100 对比度 100 恢复默认设置 关闭 单语言 双语言 选择显示语言 中文 English 主字幕(上方) 中文 English 副字幕(下方) 中文 English 关闭 复制全部log 美国总统特朗普热衷更改名称。

最近他不仅催促把新墨西哥州更名为“新美国州”,随后又提议,把大西洋或者太平洋更名为“美国洋”。

自特朗普重返白宫以来,已提出过很多个更名要求:墨西哥湾改成“美国湾”,安大略湖改成“美国湖”,国防部改“战争部”,人工智能改“超级智能”,他还曾想把霍尔木兹海峡改成“特朗普海峡”…… 为什么特朗普对更名如此热衷?且听新华社记者的深度解读。

(记者:柳丝;视频:王沛)

心遇的付费缘分,网易云音乐的爱情买卖

来源:北京商报 “我感觉不对劲,再投入下去是无底洞。

”等业务员阿强(化名)意识到这一点,他在心遇App上已经花了近一万元,也就是从那时起,他开始在各投诉平台维权。

心遇是网易云音乐2020年推出的陌生人社交App,它将自己定义为“一款主打真实、同城、安全的真人交友应用”,宣称已为用户完成超亿次配对,并承诺能从源头过滤照骗、马甲号。

除了即时聊天,心遇还提供直播、多人语聊、KTV等玩法。

阿强最初正是被这套说辞打动,下载注册后,一上线就有人主动找他搭讪,发暧昧消息、打视频,甚至衣着暴露搞擦边。

这种“热情”很快变成平台的充值提示,“几十块钱一两个小时就花掉了”。

为了拿到对方的联系方式,阿强按平台规则不断充值以提升“亲密度”。

在对话界面,平台明确提示“亲密等级升级到9级相知恨晚后即可发送联系方式”。

可等他砸了近万元达标后,联系方式却没有自动解锁。

“平台无法强制”,心遇给出另一个版本的解释。

为什么不提前说清楚?这是不是诱导消费?不止阿强一个人疑惑。

仅在黑猫投诉平台,包含“心遇”的超1200条投诉中,就能找到大量类似的案例。

还有人从未下载过心遇却收到营销短信;更多人充了值、聊了天,却怀疑屏幕另一头与自己暧昧互动的其实是AI(人工智能)机器人。

屏幕另一头到底是谁,用户不清楚,但每一笔充值,最终都要回到一家上市公司的报表里。

2026年上半年网易云音乐实现营收约39.59亿元,同比增长3.4%,经调整净利润从上年同期的约19.46亿元降至约8.6亿元。

一条消息2—4毛钱 “这个很上瘾的,上面的女孩子很漂亮,穿得也暴露,一登录就有很多人发暧昧的话题。

”一位用户向北京商报记者承认自己没有抵抗力。

在应用商店里,心遇对自己的介绍更加直接,“找对象很简单”“回复秒回不是梦”,但在用户的真实体验里,秒回是明码标价的。

进入心遇,用户的每一步互动都被平台标好了价格。

按照平台的规则,搭讪和聊天是否收费,取决于谁主动发起,谁先发起谁付费,另一方可以获得积分奖励。

当双方互相关注成功,可免费文字聊天和音视频聊天。

有关收费,心遇有详细的规则,甚至将其细化到具体的功能:文字聊天每条3—5金币,语音通话16金币/分钟,视频通话45—58金币/分钟。

据平台规则,金币充值分为6个档位,最低6元充值可兑换70个金币,最高档一次性充值1098元对应13720个金币。

按兑换比例计算,发一条消息需要消耗3—5个金币,约合0.24—0.43元/条。

北京商报记者充值70个金币,仅9分钟后便收到系统“金币不足”的充值提醒,共发送22条消息。

在心遇,金币与亲密度直接挂钩,1亲密度=1金币,亲密度又对应着不同的用户等级,等级提升后可解锁新的互动,如等级达到2可以解锁语音通话权限,达到3可以解锁视频通话权限。

资深产业经济观察家梁振鹏向北京商报记者表示,心遇这类平台把聊天和语音视频设置为充值金币后才能使用,本质上是在利用人的孤独感和情感需求来设计付费点,“这种模式本身不违法,但容易滑向诱导消费和情感收割”。

“刚开始聊的很真心的,说不着急,认识几个月再说。

几个月下来在平台上聊天、开视频,花了好多钱,(对方)到时候又找理由说不见面。

(我)想放弃了,但是又有新的诱惑,一年下来不知道聊多少个,每次聊都要花钱。

”一位用户向北京商报记者分享了使用心遇的拉扯感。

另有部分用户在社交媒体上分享“赚钱攻略”,北京商报记者浏览社交媒体发现,“如何在心遇上挣钱”的帖子不止一条,有评论称“挣钱很容易”“一个月挣了3000元”。

心遇强调的真实性也存疑。

有女性用户向北京商报记者反馈,自己以男性身份注册的过程十分顺畅,平台并未对性别、年龄或真人面部进行实质性核实。

注册成功后,该用户立即收到数条搭讪消息,语气充满亲昵:“帅哥,我喜欢你,可以和我恋爱吗?”“我去找哥哥玩可以吗?” 中国政法大学知识产权研究中心特约研究员赵占领指出,“情绪消费问题已成为新的投诉热点,主要集中在商家通过各类套路诱导消费以及退费难等方面。

如果运营方主动招募虚假聊手、纵容欺骗性诱导消费,则运营方及相关人员可能被认定为诈骗罪共同犯罪”。

模糊不清的等级权限 回忆起使用心遇的经历,阿强认为自己很有可能是被诱导消费的对象。

一开始,他并没想过自己会在一个社交平台花这么多钱。

抱着“看一看”的心态下载心遇后,甜美女孩们的主动搭讪让他上了头。

刚开始阿强只充了几十元,不到两个小时就花完了。

为了凑够“亲密度”,他在平台上陆续花了八九千元,也有几次成功加上对方微信的经历,但结果大同小异:对方在微信上以各种理由要求转点小钱,钱一过去,立马被拉黑。

花费上万元的用户不在少数。

在黑猫投诉平台,一位用户晒出记录,称自己多年累计在心遇充值高达32025元。

该用户指出,平台大量账号主动发消息,系统又严格限制双方交换联系方式,以此持续诱导付费,并非真实交友。

该用户认为“虚拟金币消耗概不退款”属于霸王条款,向平台提出退款要求后,遭到拒绝。

另一位用户写到:“本人先后多次充值金币,前后一共花费上千元,全程没有匹配到真实可线下沟通的用户。

平台设置硬性屏蔽规则,聊天中不能发送微信、手机号,声称刷亲密度、多充钱才能交换联系方式,充完值依旧无法获取对方私人联系方式,完全是闭环套路充值。

” 到底等级到多少可以获得对方的联系方式?为什么到了相应的级别却拿不到联系方式? 根据用户张宇(化名)提供的截图,他在对话界面发送索要联系方式的相关信息后,平台会提示该消息未发送成功,并明确写到“为保护用户隐私,亲密等级升级到9级相知恨晚后即可发送联系方式”。

除黑猫投诉外,在消费保、找法网等平台上,大量用户反映了同样的问题:达到平台宣称的门槛,联系方式依然被屏蔽。

针对亲密度规则前后不一、诱导充值争议等问题,心遇相关人士向北京商报记者回应:“为保障更好的互动体验,平台用户在亲密度达到一定要求后,可自愿发送自己的联系方式。

” 不过,对于平台为何不在用户充值前明确告知“亲密度达标仅代表获得发送权限,对方仍可拒绝”这一核心限制,该人士并未作出相关解答。

想就种种问题与平台有效沟通也不容易。

广东邦达律师事务所律师莫碧琪向北京商报记者分析,该标准是推荐性国家标准,不能直接作为处罚依据,“但企业一旦公开声明采用,就得按标准提供服务,并可在服务标准约定不明时由法院参照该标准判断服务质量是否达标”。

违规直播间被推荐 回到业务层面,除了即时聊天,心遇还提供桌球、KTV、语音、视频、唱歌直播等功能。

北京商报记者连续多天实测发现,那些占据核心位置的直播间,时常出现涉嫌违规画面。

在个别直播间,记者发现存在多种情况。

比如,镜头前一名女主播身着暴露扭动身体,并不时对着镜头做出暧昧动作。

在另一个多人连线的直播间内,有主播全程吸烟面对镜头,其间还端起并饮用罐装啤酒。

此外,一名胸口带有明显文身的主播也未做任何物理遮挡。

期间,直播间状态正常,并未有明显的系统警告。

这些现象与平台规则背道而驰。

《心遇社区行为规范》明确指出,用户不得发布“带有色情意味、暗示、挑逗和引起他人类似感受的音视频、文字、图片等信息”,也不得发布“可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等的内容”。

当用户每次进入直播间,对话框中也均提醒“平台对直播内容24小时巡查,如发现任何违法违规、色情低俗、诱导欺诈等行为请及时举报。

请勿私下转账,注意人身和财产安全”。

然而,就在相关人士回应后,北京商报记者进入多个直播间再次查看,仍旧碰到类似情况。

AI社交冲击 违规内容和阿强们的疑问之外,AI社交产品正在给传统陌生人社交应用带来新的冲击。

Sensor Tower数据显示,2026年一季度,AI Companion(AI陪伴)类App移动端内购收入约1.5亿美元,是2023年同期的12倍以上;QuestMobile春季报告显示,字节跳动旗下的多闪月活用户已突破3000万,Soul也在大力推进自研大模型。

梁振鹏判断:“心遇这类付费聊天产品的护城河其实很浅。

同城匹配和即时聊天,AI社交产品也能做,而且AI伴侣可以无限响应、不需真人付费解锁,成本更低、体验更稳定。

” “AI社交产品的快速增长确实在分流传统陌生人社交赛道。

”赵占领向北京商报记者分析,“心遇这类以付费聊天为核心的产品,其护城河在于真人社交的真实性。

将竞争重心从‘付费解锁’转向提升真人社交匹配效率和服务质量,以真实互动体验构筑差异化优势,才能在AI社交的冲击下保持竞争力。

” 面对社交这个巨头统统觊觎的赛道,网易云音乐做过诸多尝试,包括此前下架的“心颜”以及2026年7月停运的AI情感陪伴应用“妙时”。

2026年上半年,网易云音乐实现营收约39.59亿元,同比增长3.4%;经调整净利润从上年同期的约19.46亿元腰斩至约8.6亿元。

网易云音乐收入来源包括在线音乐服务、社交娱乐服务及其他两个板块。

其中,2026年上半年,在线音乐服务收入约30.67亿元,同比增长3.4%;社交娱乐服务及其他收入约8.91亿元,同比增长3.7%。

北京商报记者就心遇在网易云音乐中的收入板块归属、营收贡献等问题向网易云音乐发去采访提纲,截至发稿,对方未予回复。

相关内容