文件名称：onnx-server-openenclave:ONNX推理服务器的Open Enclave端口具有数据加密和证明功能，可在Azure机密计算上启用机密推理
文件大小：503KB
文件格式：ZIP
更新时间：2024-06-11 18:44:58
C
机密ONNX推理服务器 保密推论测试版是微软研究院，Azure的机密计算，Azure的机器学习和微软的ONNX运行系统项目之间的合作，并正在这里原样提供的测试版，以展示一个托管可能制约了机器学习从两个访问的托管方推理请求及其相应的响应。 作为此实现的一部分，安全的受信任执行环境（TEE）会生成一个私有（ECDH）密钥，该密钥在安全区域内受到保护，并用于解密传入的推理请求。 客户端（还提供了参考代码）首先获取服务器的公共密钥和证明报告，证明该密钥是由TEE创建的。 然后，它完成密钥交换以为其请求派生加密密钥。 当前，提供的AKS部署示例仅在单个节点上工作，因为需要为所有推理区域提供相同的私钥以扩展到多个节点。 开发人员可以使用来插入其密钥分发解决方案，但是我们目前不支持任何正式的实现。 。 步骤概述 为了使本教程更容易理解，我们首先描述如何在Azure机密计算VM上本地构建和运行推理服务