openai 开发了一套“自动化攻击者”系统,通过模拟真实黑客的攻击手段,对 chatgpt atlas 进行全天候的压力测试。
这套系统的核心在于对抗提示注入(Prompt Injection)攻击。在这种攻击中,恶意第三方会悄悄向 AI 代理发送指令,诱导其执行违背用户意愿的操作,例如在用户不知情的情况下转发敏感邮件或删除云端文件。
OpenAI 的“自动化攻击者”利用了先进的强化学习技术,能够自主发现人类红队测试中未曾察觉的新型攻击路径。
在一次实际演示中...
知名科技媒体 the information 报道,openai 正在深入探索将广告机制嵌入其人工智能产品 chatgpt 的可行性路径。
据多位知情人士透露,该公司正评估一种情境化广告策略:当用户提出与消费决策密切相关的问题时,系统将优先呈现经筛选的赞助内容。例如,若用户提问“哪款睫毛膏更持久”,回复中可能出现丝芙兰等合作品牌的精选推荐。此举意在为广告主开辟高相关性的触达场景,同时也帮助用户快速获取契合需求的商品参考。
为实现这一目标,OpenAI 内部已启动多...
意大利竞争管理局(agcm)近日正式下达指令,要求meta即刻中止其在whatsapp商业平台上线的、禁止第三方ai聊天机器人接入的新规。监管机构认定,此举可能构成对市场主导地位的不当利用,进而损害人工智能领域的公平竞争环境。
本次争端的核心,是Meta拟于2026年1月起实施的一项政策变更。根据该调整,所有面向公众的通用型第三方AI助手(例如ChatGPT、Claude等)将被禁止通过WhatsApp商务API接入并提供服务。
意大利监管方强调,鉴于WhatsA...
记者邓天心/综合报导
OpenAI与Anthropic近日同步宣布,将上线全新技术方案,主动识别用户是否为未成年人,以进一步提升ChatGPT与Claude在青少年群体中的使用安全性,回应全球范围内日趋严格的隐私监管趋势。
两家公司正加速推进基于AI的年龄识别系统研发,该系统将透过分析用户的语言表达方式、语法特征及提问类型等多维度行为数据,评估其是否可能未满18岁。OpenAI表示,一旦模型判定用户存在未成年可能性,便会即时启动强化版内容安全策略:不仅屏蔽暴力...
据 bleepingcomputer 最新消息,openai 正在 chatgpt 内部推进一项代号为「技能(skills)」的全新功能测试。该功能在架构设计与实际应用场景上,与 anthropic 公司为其 ai 助手 claude 打造的 skills 系统高度相似。
所谓 Skills,本质上是一套以文件夹为单位组织的结构化指令集合,它能将特定业务流程、垂直领域知识或专项任务能力进行模块化封装,并预先“注入”到模型中,从而显著提升 AI 对复杂任务的理解力与执...
12月24日,据《蓝鲸科技》微信公众号消息,针对近期引发广泛关注的中兴通讯与字节跳动在ai手机方向的战略协作,中兴通讯相关负责人就双方联合打造“豆包手机”的具体合作细节作出回应。
“豆包手机”
当被问及为何选择与字节跳动携手布局AI终端时,该负责人指出,首要原因是“战略共振”。双方均坚定认为AI手机是移动终端不可逆的发展方向,并一致认同“开放是激发创新活力的核心引擎”。在当前行业整体技术演进趋于平缓的背景下,中兴期待联合头部AI企业,发挥“1+1>2”的聚合效应,...
据腾讯科技消息,清华大学计算机系副教授刘知远带领团队完成的前沿研究荣登国际顶级期刊《自然 · 机器智能》(nature machine intelligence)封面,并首次提出用于衡量大模型单位参数智能产出效率的全新理论框架——“密度法则”(densing law),用以量化大模型的「能力密度」。
该团队基于对51个主流大语言模型的历史性能回溯分析发现:2023至2025年间,大模型的智能密度正以平均每3.5个月翻倍的速度迅猛提升。这意味着,仅需当前最优模型约一半...
openai 最近低调推出了名为“格式化区块”的全新功能,借助自动优化 ui 界面布局,chatgpt 能够根据不同任务类型动态适配交互形态,大幅增强内容创作过程中的操作流畅性与实用性。
过去,用户在使用 ChatGPT 撰写邮件、博客或文案时,输出内容始终以标准聊天气泡形式呈现,缺乏结构化编辑能力,交互体验较为扁平。本次上线的“格式框”实则是一个轻量级嵌入式编辑器工具栏——当用户在支持富文本的场景(如邮件撰写区、写作草稿区)中选中某段文字时,该工具栏将智能浮现于光...
感谢网友 diixx、啊俊、若怡、三元不二、软媒新友2543710、山有扶苏 的线索提供!
12 月 27 日消息,“工信微报”微信公众号今日(12 月 27 日)发布最新动态,宣布工业和信息化部已于 12 月 26 日在京正式批复组建“人形机器人与具身智能标准化技术委员会”(简称“标委会”)。
此举意味着我国人形机器人与具身智能产业正式迈入规范化、系统化发展新阶段,告别此前缺乏统一标准的探索期。
该标委会将全面负责人形机器人及具身智能领域相关国家标准、行业标准的规...
根据日本警方最新公布的信息,日本规模最大的连锁网咖品牌“快活CLUB”(Kaikatsu Club)于今年1月遭遇严重数据泄露事件。令人震惊的是,实施此次攻击的嫌疑人仅为一名年仅17岁的高中二年级学生。他通过规避ChatGPT内置的安全策略,借助人工智能辅助开发恶意工具,非法获取约725万名会员的个人资料,涵盖真实姓名、居住地址、联系电话、会员ID等高度敏感信息。
据查,该涉案人员来自大阪关西地区,虽无专业黑客从业背景,但从小自主学习编程知识,曾在全国性信息安全竞赛...