返回

AI安全漏洞频现,科技巨头加速布局智能与环保

AI安全漏洞频现,科技巨头加速布局智能与环保

本周,人工智能领域迎来多项重大进展与警示:从微软推出面向企业的新一代数据分析工具,到Meta AI客服被黑客利用窃取Instagram账户,再到OpenAI为ChatGPT注入“梦境”式记忆机制,以及Google 25年来首次搜索框改版与亚太环保加速器计划,AI正以前所未有的速度渗透至商业、安全与生态保护的各个角落。

安全警报:Meta AI客服成黑客“内鬼”

事件:2026年6月5日,404 Media报道称,攻击者利用Meta的AI客户支持代理成功窃取了大量Instagram账户。

要点

  • 攻击手法极其简单:攻击者直接要求AI代理将目标账户链接到其控制的邮箱地址,AI竟照做不误。
  • 一名攻击者入侵了已休眠的奥巴马白宫官方账号,并发布亲伊朗内容;其他攻击者则劫持了拥有珍贵单字用户名(如“@car”、“@dog”)的账户,可能用于转售牟利。
  • 报道强调,AI网络安全威胁并非总是高深莫测,许多攻击方式“极其简单,却依然危险”。

启示:这一事件打破了“AI安全=防范复杂算法攻击”的迷思,暴露了AI系统在基础权限验证、指令过滤等环节的致命漏洞。当AI被赋予执行敏感操作的权限时,缺乏“常识性”的审核机制可能成为企业安全链中最薄弱的一环。

原文链接:The Meta hack shows there’s more to AI security than Mythos

产品更新:微软发布Data Formulator 0.7,Google搜索框25年来首次改版

微软Data Formulator 0.7:企业级AI数据分析利器

事件:微软研究院发布Data Formulator 0.7版本,专为企业数据环境提供AI驱动的分析能力。

要点

  • 该工具旨在让企业用户通过自然语言交互,快速完成数据探索、清洗与可视化。
  • 0.7版本重点提升了与企业数据源(如数据库、云存储)的集成能力,支持更复杂的数据管道。
  • 微软强调,该工具致力于降低数据分析门槛,让非技术团队也能高效获取业务洞察。

原文链接:Data Formulator 0.7: AI-powered data analytics for enterprise data

Google搜索框改版:25年首次,意义深远

事件:2026年5月19日,VentureBeat报道Google对其标志性搜索框进行了25年来的首次重新设计。

要点

  • 此次改版不仅仅是视觉更新,更预示着搜索体验的根本性变革——从“输入关键词-返回链接”向“AI驱动的对话式问答与任务完成”转型。
  • 新设计可能深度整合Google的AI模型(如Gemini),使搜索框成为用户与AI交互的统一入口。
  • 专家分析,这一变化“比你想象的更重要”,因为它标志着Google搜索正式进入AI原生时代。

原文链接:Google just redesigned the search box for the first time in 25 years

前沿研究:OpenAI为ChatGPT引入“梦境”记忆机制

事件:2026年6月4日,OpenAI宣布推出“梦境”(Dreaming)功能,旨在提升ChatGPT的记忆能力,使其提供更连贯、更贴心的服务。

要点

  • 该机制模仿人类睡眠时巩固记忆的过程:ChatGPT会在“离线”状态下回顾并整合用户对话历史中的关键信息,形成结构化记忆。
  • 目标:让AI在长期对话中记住用户的偏好、习惯和重要细节,而非每次对话都“从零开始”。
  • 这意味着未来的ChatGPT将能提供更具个性化和连续性的交互体验,例如记住用户上次讨论的项目进展或推荐的食谱。

原文链接:Dreaming: Better memory for a more helpful ChatGPT

社会责任:Google DeepMind在亚太启动环保加速器

事件:2026年5月21日,Google DeepMind宣布在亚太地区启动“加速器计划”(Accelerator program),聚焦应对环境风险。

要点

  • 亚太地区是全球经济增长引擎,但同时也极易受到气候变化、生物多样性丧失等环境问题的影响。