IT之家 2 月 15 日音信，当地时刻 2 月 12 日，称其 AI 聊天机器东说念主 Gemini 正遭逢无数“蒸馏袭击”（distillation attacks）—— 即通过重迭发问带领聊天机器东说念主清楚里面机制。

谷歌暗意，这些袭击者试图通过反复发问摆布试探其模子输出形状与逻辑，探伤其里面机制，从而“”该模子或强化袭击者我方的 AI 系统，其中一场袭击手脚对 Gemini 的教唆次数跳动 10 万次。

谷歌在周四发布的阐扬中暗意，这些袭击主要由“生意动机行径者”发起。公司判断其幕后东说念主员多为但愿获取竞争上风的 AI 私企或磋商机构。谷歌发言东说念主向 NBC News 暗意，这次袭击源来自专家多个地区，但拒却露馅更多对于嫌疑方的信息。

谷歌胁迫谍报小组（Threat Intelligence Group）首席分析师约翰 · 霍特奎斯特（John Hultquist）指出，“针对 Gemini 的袭击范围标明，此类袭击很可能已运转或行将膨胀至微型企业的定制 AI 器具规模。”他将谷歌的处境描绘为“煤矿里的”，意味着大型平台的遭逢可能预示更世俗的行业风险。

谷歌强调，此类蒸馏袭击属于常识产权盗窃。科技公司已参加数十亿好意思元建筑 AI 聊天机器东说念主（IT之家注：指大讲话模子），其中枢模子的里面机制被视为高度弥留的特有钞票。尽管各大厂商已部署大要识别与阻断蒸馏袭击的机制，但由于主流大模子工作面向所有东说念主通达，是以其实验上仍易受袭击。

谷歌还提到，多数袭击旨试图套取 Gemini 的“推理”算法，即其信息措置决议机制。霍特奎斯特告诫，跟着越来越多公司运转进修面向里面业务的定制 LLM，且这些模子可能包含明锐数据，蒸馏袭击的潜在危害会更大。他例如称，若是某家公司的 LLM 学习了其“100 年往返来的想维神志”，表面上也可能被蒸馏时代逐渐索要出关节常识私密。