RSAC 2025创新沙盒 | Knostic:重塑企业AI安全的访问控制范式
原创 创新研究院 2025-04-25 10:55 北京
Knostic是一家专注AI安全的初创公司,创新提出“需知访问控制”框架,解决LLM部署中的数据泄露风险。其通过知识图谱与自适应策略,实现对敏感信息的精细化管控,兼顾安全与业务效率,已在金融、医疗等行业落地,正推动AI安全治理范式转变。
一. 简介
在生成型人工智能(GenAI)和大型语言模型(LLM)迅速渗透企业运营的今天,数据泄露和隐私风险已成为企业面临的重大挑战。Knostic,这家成立于2023年的初创公司,凭借其创新的“需要知道”访问控制技术,正在为企业提供一层智能安全防护,确保AI工具的安全部署与合规性。其基于 “按需访问” 原则的 LLM 权限管理系统,支持细粒度数据脱敏。以及“知识图谱 + 联邦学习” 架构,可将模型训练效率提升 40%。
Knostic由两位资深网络安全专家Gadi Evron和Sounil Yu联合创立。Gadi 是一位公认的网络安全专家、连续创业者,经常为行业出版物撰稿,并在从 Black Hat 到达沃斯的各种会议上发表演讲。此前,他创立了 ACoD 网络安全会议,担任 Cymmetria(已被收购)的首席执行官,领导了普华永道网络安全中心,并担任以色列国家数字管理局的首席信息安全官 (CISO)。Sounil 是网络安全防御矩阵 (Cyber Defense Matrix) 和 DIE 三元组的创造者。此前,他曾担任美国银行的首席安全科学家和 JupiterOne 的首席信息安全官 (CISO)。他是 FAIR 研究所董事会成员,也是乔治梅森大学国家安全研究所的研究员。两人在企业安全领域积累了深厚的实战经验。公司总部位于弗吉尼亚州雷斯顿和以色列特拉维夫,这种跨大西洋的双总部架构使其能够同时吸收硅谷创新生态和以色列网络安全产业的优势资源。
两位创始人凭借在金融、政府和技术领域的深厚背景,致力于解决企业在部署AI工具时面临的安全和合规挑战。随着生成型AI的应用日益广泛,传统的基于角色的访问控制(RBAC)和身份访问管理(IAM)方法已无法有效应对LLM的复杂数据泄露风险。尤其是随着AI工具的不断发展,现有的安全防护措施显得捉襟见肘,不能有效应对数据共享和敏感信息泄漏的风险。Knostic提出了创新的“需要知道”(Need-to-Know)访问控制框架,在传统的访问控制基础上,强调根据用户的实际工作需求和业务上下文,精确控制信息的访问权限,从而实现对敏感数据的有效保护。这种基于智能语境的访问控制策略,使得企业能够在AI工具的广泛应用下,最大限度地减少潜在的数据泄漏风险。
图1 Gadi Evron(左)创始人兼CEO、Sounil Yu(右)创始人兼CTO
Knostic的诞生直击企业AI应用的核心痛点——随着Microsoft 365 Copilot、Glean等AI驱动的企业搜索工具迅速普及,组织在享受生产力提升的同时,也面临着敏感数据过度暴露的全新风险。传统身份访问管理(IAM)和数据丢失防护(DLP)解决方案难以应对LLM特有的"信息推断"风险——即使员工没有直接访问权限,AI工具仍可能通过分析其有权访问的内容,"推理"出本应受限的敏感信息。Knostic敏锐地捕捉到这一安全断层,成为全球首家专门为LLM设计"需知访问控制"框架的供应商,填补了AI安全生态系统的关键空白。
Knostic处于AI安全治理与企业数据访问控制的交叉领域。根据其融资历程可见市场认可度——2024年4月完成330万美元种子前融资,2025年3月又获得1100万美元投资,总额达1400万美元。投资者包括Shield Capital、Pitango First、Bright Pixel Capital等知名风投,以及由企业CISO组成的SVCI(Silicon Valley CISO Investments)。特别值得注意的是,美国国家安全局前局长迈克·罗杰斯(退役海军上将)作为Knostic顾问委员会成员公开背书,暗示其在国防和安全敏感行业的应用潜力。
二. 核心技术
Knostic的技术创新核心在于颠覆传统的二元访问控制模型(允许/拒绝),代之以基于多维情境感知的"需知"决策框架。这一架构包含三个关键层级:
不同于传统IAM依赖的静态权限表,Knostic构建了动态的企业知识图谱,通过自然语言处理(NLP)技术解析数据资产的语义关联和敏感度级别。该图谱持续学习组织内部的数据流动模式,自动识别如并购尽职调查结果、员工薪酬结构、未发布产品路线图等高风险信息类别。这种理解能力使系统能够预判哪些信息组合可能导致敏感推断,从而实施预防性控制。
Knostic引入了"需知政策"(Need-to-Know Policy)概念,综合考虑请求者的组织角色、任务上下文、时间敏感性和数据血缘等多维因素。例如,当营销实习生查询"季度销售收入"时,系统不会简单拒绝,而是生成替代响应:"虽然具体数字是保密的,但您负责的促销活动对本季度增长有显著贡献"。这种响应重塑(Response Shaping)技术既遵守了最小权限原则,又避免了传统安全措施常见的业务摩擦。
Knostic采用机器学习分析用户查询模式和组织数据访问趋势,动态调整策略权重。当检测到异常访问尝试(如突然大量查询跨部门数据)时,系统可实时提升防护等级,并生成详细的事件分析报告供安全团队审查。这种自适应能力对于防范内部威胁和权限滥用尤为重要,解决了传统RBAC(基于角色的访问控制)模型在动态业务环境中的僵化问题。
从技术实现看,Knostic采用轻量级API架构,可无缝集成Microsoft 365 Copilot、Glean、Slack AI等主流企业AI平台。其部署模式支持云端和本地化方案,满足不同行业对数据主权和合规性的差异化需求。值得注意的是,Knostic并非简单地在LLM外围添加过滤层,而是通过深度解析AI模型的内部注意力机制,实现对信息泄露路径的精准阻断,这种深度集成方式使其区别于一般的API网关类安全产品。
三. 解决方案
Knostic构建了覆盖AI应用全生命周期的产品矩阵,从预部署评估到实时防护再到持续优化,形成完整的安全闭环。其核心产品线包括:
Copilot就绪性评估(Copilot Readiness Assessment)是Knostic的旗舰服务,帮助组织在部署Microsoft 365 Copilot等AI工具前,系统性识别潜在的数据暴露风险。该服务通过扫描企业的SharePoint、OneDrive、Exchange等数据仓库,结合自动化渗透测试,生成详细的风险热图,标注可能被AI工具意外暴露的敏感内容区域。例如,某金融机构通过评估发现,其并购分析文档中的隐藏元数据可能通过Copilot的上下文推理能力被非授权人员获取,随即调整了文件存储架构和访问策略。
Copilot就绪性评估(Copilot Readiness Assessment)服务
需知访问控制引擎(Need-to-Know Access Control Engine)是Knostic的核心运行时防护产品。该引擎实时监控所有流向LLM的查询和返回的响应,执行情境感知的响应改写策略。其独特之处在于支持多级响应调整:对于轻微敏感的内容可能仅做模糊化处理(如将具体数字替换为范围值);对高度机密信息则完全阻断,并解释拒绝原因;在适当场景下还会提供"安全替代答案",平衡业务需求与安全要求。据案例显示,某零售企业部署该引擎后,敏感数据通过Copilot的暴露事件减少了83%,而员工满意度反而提升,因为得到的答案更具业务相关性。
AI权限监控与修复系统(AI Entitlement Monitoring & Remediation)提供持续的安全保障。该系统通过分析AI工具的使用日志,检测异常模式如权限爬取(Entitlement Crawling)——用户通过精心设计的提示词试探系统权限边界。当发现高风险行为时,系统可自动触发多种响应:从发送警告邮件到临时冻结账户,同时生成详细的取证报告。此外,该系统还提供权限使用分析仪表板,帮助安全团队识别闲置或过度宽泛的访问权限,支持基于实际需求的动态权限优化。
AI权限监控与修复系统(AI Entitlement Monitoring & Remediation)功能
安全AI部署框架(Secure AI Deployment Framework) 是Knostic针对行业特性的解决方案包。针对金融、医疗、政府等高度管制行业,Knostic提供预配置的策略模板和合规映射工具,帮助企业满足GDPR、HIPAA等行业法规要求。例如,医疗机构可利用该框架确保Copilot不会泄露受保护的健康信息(PHI),同时仍能让医生高效获取诊疗指南。Knostic还提供定制培训服务,帮助客户安全团队掌握AI特有的风险模式和管理技能,填补传统安全知识体系的空白。
市场差异化与竞争战略
四. 市场战略
在快速成长的AI安全市场,Knostic通过以下差异化策略确立竞争优势:
Knostic跳出了传统安全产品的思维框架。与静态的DLP(数据丢失防护)方案相比,Knostic的情境感知能力能更精准地识别LLM特有的推断风险;相较于新兴的"提示词防火墙"(Prompt Firewall),Knostic不仅过滤恶意输入,还重构输出内容,提供积极的安全价值传递。这种技术定位使其在2024年同时斩获RSA Conference Launch Pad和Black Hat Startup Spotlight竞赛冠军,成为唯一包揽这两项顶级安全赛事奖项的初创公司。
Knostic采用价值导向定价(Value-based Pricing),将其服务与客户的AI应用收益直接挂钩。例如,其收费模型可能关联Copilot采用率的提升幅度或敏感事件减少比例,而非简单的用户数量或数据量。这种定价策略降低了企业的采纳门槛,尤其吸引那些正在评估AI投资回报的潜在客户。Knostic还提供灵活的部署选项,从完全托管服务到客户自控方案,适应不同组织的安全成熟度水平。
生态整合战略是Knostic的另一关键优势。Knostic与Microsoft建立了深度技术合作,其解决方案已通过Microsoft 365安全合规中心的认证。这种合作确保Knostic能及时适应Copilot的API变更,并在新功能推出前完成安全评估。Knostic还积极参与OAuth、SAML等标准组织的安全工作小组,推动AI安全控制框架的行业标准化。这种生态参与度使其解决方案具备更强的互操作性和未来适应性。
虽然其技术具有跨行业适用性,但Knostic优先深耕金融服务、医疗健康和政府三大领域。这些行业不仅数据敏感度高、合规要求严,而且AI预算充足。Knostic为每个垂直市场开发了专门的风险知识库,包含行业特有的敏感数据模式(如金融业的M&A代码字、医疗业的诊断缩写等),大幅提升检测准确率。这种垂直化策略也反映在Knostic的销售团队构成上,其成员多具有目标行业的CISO或合规官背景。
五. 行业影响与未来挑战
Knostic的崛起反映了AI普及过程中安全范式的深刻转变。传统安全模型基于清晰的信任边界,而AI时代的数据流动是动态、语境化的。Knostic提出的"需知访问"框架代表了从"防御性安全"向适应性安全的演进,其影响已超越技术层面,开始重塑企业的AI治理哲学。
在技术影响方面,Knostic推动了AI原生安全控制的兴起。传统安全工具多为事后添加的"外挂式"解决方案,而Knostic从设计阶段就将安全融入AI交互流程。这种理念正在被更多安全厂商效仿,可能催生新一代的**AI安全中间件**市场。Knostic的技术也启发了对LLM内部机制的更深入研究,如如何量化模型的"信息推断能力",这为AI安全学术研究提供了新方向。
在组织影响层面,Knostic帮助安全团队从"业务阻碍者"转变为业务赋能者。通过提供精细化的访问控制,安全部门不再需要一刀切地禁止AI工具使用,而是可以支持业务部门在受控环境中充分挖掘AI价值。某Knostic客户案例显示,其市场部门在部署Knostic后,Copilot使用率提升40%,而安全事件反而下降,展现了安全与效率的协同可能。
技术挑战主要来自LLM技术的快速演进。新型多模态模型(如能处理图像、音频和视频的AI系统)可能引入全新的数据暴露路径,要求Knostic持续扩展其检测能力。开源LLM(如DeepSeek)的普及也带来管控难题,这些模型可本地部署,绕过企业标准安全审查。Knostic需要发展更通用的检测技术,而非仅依赖特定商业AI平台的集成。
市场教育是另一障碍。许多企业仍低估AI特有的数据风险,或将Knostic的方案误解为传统DLP的简单替代。Knostic需要投入大量资源培养市场,证明其解决方案在AI时代的不可替代性。同时,经济下行压力可能使企业削减"非核心"安全支出,Knostic必须更清晰地量化其ROI,如通过减少数据泄露潜在损失或提升AI采用效率来证明价值。
竞争压力正在加剧。传统网络安全巨头(如Palo Alto Networks、CrowdStrike)已开始布局AI安全领域,它们拥有更完善的销售网络和客户基础。Knostic需要加速产品创新和客户获取,在巨头全面入场前建立足够的市场壁垒。其专注细分领域(如Copilot安全)的策略虽有助于快速建立立足点,但也可能限制长期增长空间。
技术扩展方面,Knostic有望将其"需知"框架从文本型LLM延伸至多模态AI系统,覆盖企业日益丰富的AI应用场景。开发面向开源模型的轻量级安全代理可能是另一方向,帮助企业管理分散化的AI部署。增强预测性安全能力,利用AI预测潜在的权限滥用模式,也将是技术演进重点。
市场扩张策略可能包括深耕现有垂直行业的同时,向制造业、教育等新领域拓展。国际化是另一重点,特别是欧洲和亚洲市场,这些地区对数据隐私的高度关注与Knostic的价值主张高度契合。建立更多类似与Microsoft的生态伙伴关系也将加速市场渗透。
产品演进可能看到Knostic从独立安全产品向AI治理平台转型,整合访问控制、合规审计、风险评估等功能于统一控制台。开发面向不同角色的定制视图(如CISO看板、合规官报告、业务管理员面板)将提升产品粘性。Knostic还可能探索基于区块链的权限审计追踪,增强不可篡改的安全日志。
总之,Knostic站在AI安全变革的前沿,其创新的"需知访问控制"框架为企业在AI时代平衡创新与安全提供了可行路径。虽然挑战不少,但凭借清晰的技术愿景和快速执行能力,Knostic有望成长为AI安全领域的关键参与者,重新定义企业如何安全地拥抱生成式AI革命。
六. 总结
Knostic的诞生标志着企业AI安全从“一刀切”的粗放管控迈入“精准治理”时代。其基于“需要知道”的动态访问控制框架,不仅解决了LLM部署中的现实风险,更重塑了AI与安全的协同范式——安全不再是创新的绊脚石,而是企业规模化应用AI的核心驱动力。在生成式AI浪潮席卷全球的当下,Knostic有望成为企业数字化转型中不可或缺的“安全基座”,推动AI技术向更可信、更可持续的方向演进。
内容编辑:卜天
责任编辑:舒展
本公众号原创文章仅代表作者观点,不代表绿盟科技立场。所有原创内容版权均属绿盟科技研究通讯。未经授权,严禁任何媒体以及微信公众号复制、转载、摘编或以其他方式使用,转载须注明来自绿盟科技研究通讯并附上本文链接。
关于我们
绿盟科技研究通讯由绿盟科技创新研究院负责运营,绿盟科技创新研究院是绿盟科技的前沿技术研究部门,包括星云实验室、天枢实验室和孵化中心。团队成员由来自清华、北大、哈工大、中科院、北邮等多所重点院校的博士和硕士组成。
绿盟科技创新研究院作为“中关村科技园区海淀园博士后工作站分站”的重要培养单位之一,与清华大学进行博士后联合培养,科研成果已涵盖各类国家课题项目、国家专利、国家标准、高水平学术论文、出版专业书籍等。
我们持续探索信息安全领域的前沿学术方向,从实践出发,结合公司资源和先进技术,实现概念级的原型系统,进而交付产品线孵化产品并创造巨大的经济价值。
长按上方二维码,即可关注我