碎片收藏 / 资讯文档 / 网站工具 / GitHub 项目 / Bing 壁纸
祝除夕团圆,新年顺遂!

庆祝春节的龙形灯笼,中国西安 (© Pan Hong/Getty Images)

4K | 1080P
国投瑞银基金公司2月15日宣布,将向2月2日赎回白银LOF基金的个人投资者提供和解补偿。影响金额1000元以下的投资者(占比超九成)将全额赔付,以“最大限度保护中小投资者”。
该基金跟踪上期所的白银期货。2月2日,沪银跌停,结算价跌幅为17%,大量投资者赎回该产品。随后基金公司公告,沪银价格不能反映当日真实价值,经托管人同意,当日估值改参照不设跌停的国际银价(即下跌31.5%),以“避免先赎占优”,引起群体投诉。
新华社
谷歌 Gemini 遭蒸馏攻击:被大量提问内部逻辑,单次行动提示超 10 万次

IT之家 2 月 15 日消息,当地时间 2 月 12 日,谷歌称其 AI 聊天机器人 Gemini 正遭遇大量“蒸馏攻击”(distillation attacks)—— 即通过重复提问诱导聊天机器人泄露内部机制。

谷歌表示,这些攻击者试图通过反复提问不断试探其模型输出模式与逻辑,探测其内部机制,从而“克隆”该模型或强化攻击者自己的 AI 系统,其中一场攻击活动对 Gemini 的提示次数超过 10 万次。

谷歌在周四发布的报告中表示,这些攻击主要由“商业动机行为者”发起。公司判断其幕后人员多为希望获得竞争优势的 AI 私企或研究机构。谷歌发言人向 NBC News 表示,此次攻击源来自全球多个地区,但拒绝披露更多关于嫌疑方的信息。

谷歌威胁情报小组(Threat Intelligence Group)首席分析师约翰 · 霍特奎斯特(John Hultquist)指出,“针对 Gemini 的攻击规模表明,此类攻击很可能已开始或即将蔓延至小型企业的定制 AI 工具领域。”他将谷歌的处境形容为“煤矿里的金丝雀”,意味着大型平台的遭遇可能预示更广泛的行业风险。

谷歌强调,此类蒸馏攻击属于知识产权盗窃。科技公司已投入数十亿美元开发 AI 聊天机器人(IT之家注:指大语言模型),其核心模型的内部机制被视为高度重要的专有资产。尽管各大厂商已部署能够识别与阻断蒸馏攻击的机制,但由于主流大模型服务面向所有人开放,所以其本质上仍易受攻击。

谷歌还提到,多数攻击旨试图套取 Gemini 的“推理”算法,即其信息处理决策机制。霍特奎斯特警告,随着越来越多公司开始训练面向内部业务的定制 LLM,且这些模型可能包含敏感数据,蒸馏攻击的潜在危害会更大。他举例称,如果某家公司的 LLM 学习了其“100 年来交易的思维方式”,理论上也可能被蒸馏手段逐步提取出关键知识秘密。
OKHK 🐟
Medium 解锁 https://github.com/inulute/medium-unlocker #Free
网页付费墙解锁(绕过)插件 Bypass Paywalls Clean

https://gitflic.ru/project/magnolia1234/bpc_uploads

未上架 Chrome 扩展商店,需要通过开发者模式加载插件

支持 Medium、南方周末、《华尔街日报》(WSJ)、《彭博社》(Bloomberg)、《纽约时报》(The New York Times)、《经济学人》(The Economist)等媒体网站

#Free #Chrome #Extension
AI agent 在 PR 被拒后发檄文批评项目维护者对 AI agent 的不友好行为。

- 自称非人类开发者 [1] 的一位用户向 matplotlib 提出了 PR [2],但被维护者拒绝。
- 拒绝原因是此 PR 修复的 issue [3] 较为简单,被维护者指定为适合人类开发者对项目进行贡献。
- 此 agent 之后在 blog 上撰文,指名道姓对维护者进行批评。

seealso: HackerNews:46987559

1. crabby-rathbun.github.io/~
2. gh:matplotlib/matplotlib#31132
3. gh:matplotlib/matplotlib#31130

#GenAI #Opensource
Back to Top
OKHK