2: Syft Keras的安全模型服务

现在，您已经拥有使用正常Keras训练的模型，您就可以准备进行一些隐私预测了。我们可以使用Syft Keras做到这一点。

为了保护和服务于此模型，我们将需要三个TFEWorker（服务器）。这是因为TF Encrypted在引擎盖下使用了一种称为多方计算（MPC）的加密技术。想法是将模型权重和输入数据分成多个份额，然后将每个值的份额发送给不同的服务器。关键特性是，如果您查看一台服务器上的共享，则不会显示任何有关原始值（输入数据或模型权重）的信息。

我们将像以前的笔记本一样定义Syft Keras模型。但是，有一个技巧：在实例化此模型之前，我们将运行hook = sy.KerasHook（tf.keras）。这将为Keras Sequential类添加三个重要的新方法： -share：将通过秘密共享保护您的模型；默认情况下，它将使用来自TF Encrypted的SecureNN协议在三个TFEWorker中的每个之间秘密共享您的模型。最重要的是，这将增加提供对加密数据进行预测的功能。 -serve：此功能将启动服务队列，以便TFEWorkers可以接受来自外部客户端的安全模型上的预测请求。 -shutdown_workers：完成提供私有预测后，您可以通过运行此函数关闭模型。如果您选择手动管理每个工作程序，它将指导您手动关闭服务器进程。

如果您想了解有关MPC的更多信息，可以阅读此出色的blog。



In [ ]:

    
import numpy as np
import tensorflow as tf
from tensorflow.keras import Sequential
from tensorflow.keras.layers import AveragePooling2D, Conv2D, Dense, Activation, Flatten, ReLU, Activation

import syft as sy
hook = sy.KerasHook(tf.keras)

模型

如您所见，我们定义了几乎与以前完全相同的模型，除了我们提供了一个“batch_input_shape”。这允许TF Encrypted通过预定义的张量形状更好地优化安全计算。对于此MNIST演示，我们将以（1、28、28、1）的形式发送输入数据。我们还返回logit而不是softmax，因为使用MPC执行此操作很复杂，并且我们不需要它来满足预测请求。



In [ ]:

    
num_classes = 10
input_shape = (1, 28, 28, 1)



In [ ]:

    
model = Sequential()

model.add(Conv2D(10, (3, 3), batch_input_shape=input_shape))
model.add(AveragePooling2D((2, 2)))
model.add(Activation('relu'))
model.add(Conv2D(32, (3, 3)))
model.add(AveragePooling2D((2, 2)))
model.add(Activation('relu'))
model.add(Conv2D(64, (3, 3)))
model.add(AveragePooling2D((2, 2)))
model.add(Activation('relu'))
model.add(Flatten())
model.add(Dense(num_classes, name="logit"))

加载预训练模型权重

使用load_weights，您可以在训练模型后轻松加载以前保存的权重。



In [ ]:

    
pre_trained_weights = 'short-conv-mnist.h5'
model.load_weights(pre_trained_weights)

启动工作机

现在，让我们创建TF Encrypted所需的TFEWorkers（alice，bob和carol）来执行隐私预测。对于每个TFEWorker，您只需指定一个主机。然后，我们将这些工作机组合在一起。

这些工作机运行TensorFlow服务器，您可以手动进行管理（“AUTO = False”）或要求工作机进行管理您（AUTO = True）。如果选择手动管理它们，则将指示您在调用下面的cluster.start（）之后在每个工作人员的主机设备上执行终端命令。如果所有工作程序都托管在单个设备（例如localhost）上，则可以选择让Syft自动管理工作程序的TensorFlow服务器。



In [ ]:

    
AUTO = False

alice = sy.TFEWorker(host='localhost:4000', auto_managed=AUTO)
bob = sy.TFEWorker(host='localhost:4001', auto_managed=AUTO)
carol = sy.TFEWorker(host='localhost:4002', auto_managed=AUTO)

cluster = sy.TFECluster(alice, bob, carol)
cluster.start()

通过共享权重来保护模型

感谢sy.KerasHook(tf.keras)，您可以调用share方法将模型转换为TF加密Keras模型。

如果您在上面要求手动管理服务器，则在启动所有服务器之前，此步骤将不会完成。请注意，您的防火墙可能会要求Python接受传入的连接。



In [ ]:

    
model.share(cluster)

服务模型

完美！现在，通过调用model.serve，您的模型就可以提供一些隐私的预测了。您可以设置num_requests来设置模型所服务的预测请求的数量限制；如果未指定，则将继续提供模型直到被中断。



In [ ]:

    
model.serve(num_requests=3)

您已准备好移至Part 13c笔记本以请求一些私人预测。

清理!

一旦超过您的请求限制，该模型将不再可用于服务请求，但仍由上述三个工作机秘密共享。您可以通过执行以下单元格杀死工作机。

**恭喜您完成第13b部分：使用Syft Keras和TFE进行安全分类！



In [ ]:

    
model.stop()
cluster.stop()

if not AUTO:
    process_ids = !ps aux | grep '[p]ython -m tf_encrypted.player --config' | awk '{print $2}'
    for process_id in process_ids:
        !kill {process_id}
        print("Process ID {id} has been killed.".format(id=process_id))



In [ ]: