In [1]:

    

# encoding=utf8  
import numpy as np
import tensorflow as tf

def unpickle(file):
  import _pickle as cPickle
  fo = open(file, 'rb')
  dict = cPickle.load(fo,encoding='latin1')
  fo.close()
  if 'data' in dict:
    dict['data'] = dict['data'].reshape((-1, 3, 32, 32)).swapaxes(1, 3).swapaxes(1, 2).reshape(-1, 32*32*3) / 256.

  return dict


    

In [2]:

    

def load_data_one(f):
  batch = unpickle(f)
  data = batch['data']
  labels = batch['labels']
  print ("Loading %s: %d" % (f, len(data)))
  return data, labels


    

In [3]:

    

def load_data(files, data_dir, label_count):
  data, labels = load_data_one(data_dir + '/' + files[0])
  for f in files[1:]:
    data_n, labels_n = load_data_one(data_dir + '/' + f)
    data = np.append(data, data_n, axis=0)
    labels = np.append(labels, labels_n, axis=0)
  labels = np.array([ [ float(i == label) for i in range(label_count) ] for label in labels ])
  return data, labels


    

In [4]:

    

def run_in_batch_avg(session, tensors, batch_placeholders, feed_dict={}, batch_size=200):                              
  res = [ 0 ] * len(tensors)                                                                                           
  batch_tensors = [ (placeholder, feed_dict[ placeholder ]) for placeholder in batch_placeholders ]                    
  total_size = len(batch_tensors[0][1])                                                                                
  batch_count = (total_size + batch_size - 1) / batch_size                                                             
  for batch_idx in range(batch_count):                                                                                
    current_batch_size = None                                                                                          
    for (placeholder, tensor) in batch_tensors:                                                                        
      batch_tensor = tensor[ batch_idx*batch_size : (batch_idx+1)*batch_size ]                                         
      current_batch_size = len(batch_tensor)                                                                           
      feed_dict[placeholder] = tensor[ batch_idx*batch_size : (batch_idx+1)*batch_size ]                               
    tmp = session.run(tensors, feed_dict=feed_dict)                                                                    
    res = [ r + t * current_batch_size for (r, t) in zip(res, tmp) ]                                                   
  return [ r / float(total_size) for r in res ]


    

In [5]:

    

def weight_variable(shape):
  initial = tf.truncated_normal(shape, stddev=0.01)
  return tf.Variable(initial)

def bias_variable(shape):
  initial = tf.constant(0.01, shape=shape)
  return tf.Variable(initial)

def conv2d(input, in_features, out_features, kernel_size, with_bias=False):
  W = weight_variable([ kernel_size, kernel_size, in_features, out_features ])
  conv = tf.nn.conv2d(input, W, [ 1, 1, 1, 1 ], padding='SAME')
  if with_bias:
    return conv + bias_variable([ out_features ])
  return conv

def batch_activ_conv(current, in_features, out_features, kernel_size, is_training, keep_prob):
  current = tf.contrib.layers.batch_norm(current, scale=True, is_training=is_training, updates_collections=None)
  current = tf.nn.relu(current)
  current = conv2d(current, in_features, out_features, kernel_size)
  current = tf.nn.dropout(current, keep_prob)
  return current

def block(input, layers, in_features, growth, is_training, keep_prob):
  current = input
  features = in_features
  for idx in range(layers):
    tmp = batch_activ_conv(current, features, growth, 3, is_training, keep_prob)
    current = tf.concat((current, tmp),3)
    features += growth
  return current, features

def avg_pool(input, s):
  return tf.nn.avg_pool(input, [ 1, s, s, 1 ], [1, s, s, 1 ], 'VALID')


    

In [6]:

    

data_dir = './data'
image_size = 32
image_dim = image_size * image_size * 3
# meta = unpickle(data_dir + '/batches.meta')
# label_names = meta['label_names']
# label_count = len(label_names)
label_count = 10
# train_files = [ 'data_batch_%d' % d for d in range(1, 6) ]
# train_data, train_labels = load_data(train_files, data_dir, label_count)
# pi = np.random.permutation(len(train_data))
# train_data, train_labels = train_data[pi], train_labels[pi]
# test_data, test_labels = load_data([ 'test_batch' ], data_dir, label_count)
# print ("Train:", np.shape(train_data), np.shape(train_labels))
# print ("Test:", np.shape(test_data), np.shape(test_labels))
# data = { 'train_data': train_data,
#   'train_labels': train_labels,
#   'test_data': test_data,
#   'test_labels': test_labels }
depth = 40


    

In [7]:

    

weight_decay = 1e-4
layers = int((depth - 4) / 3)
graph = tf.Graph()

xs = tf.placeholder("float", shape=[None, image_dim])
ys = tf.placeholder("float", shape=[None, label_count])
lr = tf.placeholder("float", shape=[])
keep_prob = tf.placeholder(tf.float32)
is_training = tf.placeholder("bool", shape=[])


current = tf.reshape(xs, [ -1, 32, 32, 3 ])
current = conv2d(current, 3, 16, 3)

current, features = block(current, layers, 16, 12, is_training, keep_prob)
current = batch_activ_conv(current, features, features, 1, is_training, keep_prob)
current = avg_pool(current, 2)
current, features = block(current, layers, features, 12, is_training, keep_prob)
current = batch_activ_conv(current, features, features, 1, is_training, keep_prob)
current = avg_pool(current, 2)
current, features = block(current, layers, features, 12, is_training, keep_prob)

current = tf.contrib.layers.batch_norm(current, scale=True, is_training=is_training, updates_collections=None)
current = tf.nn.relu(current)
current = avg_pool(current, 8)
final_dim = features
current = tf.reshape(current, [ -1, final_dim ])
Wfc = weight_variable([ final_dim, label_count ])
bfc = bias_variable([ label_count ])
ys_ = tf.nn.softmax( tf.matmul(current, Wfc) + bfc )

cross_entropy = -tf.reduce_mean(ys * tf.log(ys_ + 1e-12))
l2 = tf.add_n([tf.nn.l2_loss(var) for var in tf.trainable_variables()])
train_step = tf.train.MomentumOptimizer(lr, 0.9, use_nesterov=True).minimize(cross_entropy + l2 * weight_decay)
correct_prediction = tf.equal(tf.argmax(ys_, 1), tf.argmax(ys, 1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))


    

In [8]:

    

para_dict={}
for k in tf.global_variables():
    if k not in tf.contrib.framework.get_variables_by_suffix('Momentum'):
            para_dict[k.name[:-2]] = k


    

In [10]:

    

sess=tf.InteractiveSession()
saver = tf.train.Saver(para_dict)
#saver.restore(sess,'./prunemodel/stage2/inc110/prune110newar_105.ckpt')
saver.restore(sess,'./modellog/weightonlypara93.ckpt')
#saver.restore(sess,'C:/Users/lhlne/Desktop/project/densenet/inqmodel/stage2/inqcom3295100s.ckpt')


    

    




INFO:tensorflow:Restoring parameters from ./modellog/weightonlypara93.ckpt

In [15]:

    

import config
limit = 0.01


    

In [17]:

    

for i in para_dict.items():
    if 'Variable' in i[0]:
        a = para_dict[i[0]].eval()
        b = np.reshape(a,[-1])
    
       # print(i[0])
        c = b[abs(b)<limit]
        print(len(c)/len(b))


    

    




0.09027777777777778
0.4079861111111111
0.6875
0.5638888888888889
0.6463675213675214
0.5807291666666666
0.5596978557504874
0.6421506734006734
0.672962962962963
0.6954365079365079
0.7054958183990442
0.6510757080610022
0.7196571571571572
0.3149609375
0.6578703703703703
0.627422480620155
0.6520229468599034
0.6620842781557067
0.6692040598290598
0.6736111111111112
0.6746886973180076
0.6936475409836066
0.6729600694444444
0.6963101160862355
0.7005291005291006
0.7003424657534246
0.3969875346260388
0.5999939083820662
0.6156821378340366
0.5895720415537489
0.6002723311546841
0.6074284511784511
0.6594424094424094
0.707422182821119
0.7949837724322261
0.8599768518518518
0.9348031283710896
0.9313198812019566
0.9458460754332314
0.8924107142857143
0.3

In [12]:

    

total_count = 0
for k in para_dict.items():
    if k[0] in config.all_para:
        total_count += len(np.reshape(k[1].eval(),[-1]))
total_count


    

    
Out[12]:





1001616

In [16]:

    

total_para = 0
nz_para = 0
nz_dict = dict()
for k in para_dict.items():
    weight = np.reshape(k[1].eval(),[-1])
    nz_dict[k[0]] = np.nonzero(weight)
    nz_para += len(nz_dict[k[0]][0])


    

In [17]:

    

nz_para


    

    
Out[17]:





283525

In [27]:

    

all_idx = []
for k in nz_dict.items():
    front = 0
    for j in k[1][0]:
        aa = j
        j = j-front
        all_idx.append(j)
        front = aa


    

In [30]:

    

np.max(all_idx)


    

    
Out[30]:





3840

In [63]:

    

count = 0
all_bit = 0
limit = 32
for k in all_idx:   
    if k >limit : 
        count+=1
        print (int(k/limit))
        all_bit +=int(k/limit)


    

    




1
2
1
1
4
1
2
1
3
2
1
1
2
1
1
1
1
2
2
1
1
1
4
1
1
1
1
1
2
1
1
1
1
1
4
1
1
1
2
4
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
2
1
1
1
1
2
7
1
2
2
1
3
6
1
2
2
1
3
7
5
1
1
2
7
1
3
2
1
1
3
1
6
1
5
1
2
6
7
2
7
3
2
3
7
4
2
1
3
6
5
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
3
1
1
1
1
1
2
1
1
1
1
2
2
1
1
1
1
2
2
1
2
2
1
2
2
1
1
1
1
1
1
2
2
1
2
1
1
1
1
2
2
1
2
1
1
2
1
1
1
1
2
3
1
1
1
1
1
1
1
1
3
1
1
1
1
2
1
1
1
1
1
1
2
2
1
2
1
1
2
1
1
1
2
2
1
1
2
1
1
2
1
1
1
1
2
1
1
1
1
1
1
2
3
1
1
1
1
1
1
2
3
1
3
1
1
1
1
1
2
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
2
1
1
1
1
1
2
1
1
2
2
2
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
4
1
1
1
1
1
2
2
1
1
1
1
1
1
1
6
1
1
2
1
1
1
3
2
1
1
1
1
1
3
2
1
1
2
1
1
2
3
1
1
1
1
1
1
4
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
4
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
6
1
1
2
1
1
1
3
1
1
1
1
1
1
4
2
2
1
1
1
1
1
1
1
1
1
3
2
1
1
1
1
1
1
1
2
1
6
1
1
1
1
1
1
1
1
2
6
1
1
1
1
1
2
2
1
1
1
1
1
2
2
6
1
1
1
1
1
1
1
2
2
1
1
1
1
1
2
3
2
1
1
1
1
1
1
2
1
2
1
6
1
1
1
1
1
1
1
1
2
1
2
1
1
2
3
1
5
2
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
3
1
6
1
1
1
1
3
1
1
1
2
1
1
1
2
4
1
1
1
1
2
2
1
1
1
1
1
2
3
1
1
1
2
1
1
1
1
2
3
1
1
1
1
1
2
2
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
4
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
1
2
1
2
1
1
1
1
2
1
2
1
1
2
1
2
2
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
3
1
1
2
2
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
3
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
2
1
2
3
1
1
1
2
2
5
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
3
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
2
1
2
2
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
2
2
1
1
1
1
1
2
1
2
1
1
1
1
1
2
1
1
1
2
2
1
1
1
1
1
1
1
3
1
2
2
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
3
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
1
1
1
2
2
2
1
1
1
1
1
1
2
1
1
1
1
2
2
1
1
1
1
1
1
1
2
2
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
3
2
1
1
1
1
1
1
2
3
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
3
1
1
3
2
2
3
1
1
1
1
2
3
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
2
1
1
2
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
2
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
3
1
1
1
1
1
1
1
2
2
2
1
1
1
2
1
2
1
2
1
1
1
2
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
2
2
1
1
1
1
2
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
2
2
1
1
1
1
1
1
2
2
2
1
1
2
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
3
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
2
1
2
1
1
1
1
1
3
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
3
2
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
2
1
1
2
1
1
1
1
1
1
3
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
4
1
2
1
1
1
3
1
1
1
1
2
1
1
1
1
2
2
1
1
1
2
1
1
1
1
1
1
1
4
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
4
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
2
2
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
2
1
1
2
1
2
1
1
1
1
1
1
1
2
2
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
2
4
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
1
2
5
1
2
1
2
1
1
1
1
2
1
2
3
2
1
5
1
2
1
2
1
1
1
3
2
2
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
2
2
2
1
1
1
2
2
1
2
3
2
1
4
2
1
1
1
1
1
1
2
2
1
1
1
2
1
1
1
1
1
1
2
1
2
1
1
1
1
2
1
4
2
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
3
1
1
1
2
2
1
1
2
1
2
1
1
1
1
1
1
1
2
1
1
2
1
2
2
1
1
1
1
1
1
2
1
2
1
2
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
4
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
3
1
1
2
1
1
1
2
1
1
1
1
1
1
2
1
2
1
2
1
1
1
2
1
1
1
2
3
2
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
2
2
2
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
2
1
1
1
1
1
4
1
2
2
1
1
2
2
1
1
1
2
2
1
2
2
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
3
1
1
2
3
1
1
2
1
1
1
1
1
3
1
1
1
2
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
3
1
1
1
1
1
2
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
4
1
1
1
1
3
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
3
1
2
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
2
1
1
2
2
1
2
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
2
1
2
1
1
2
1
1
1
1
1
1
3
3
1
1
1
1
1
4
1
2
2
1
1
1
2
1
2
1
1
1
5
1
1
1
1
1
3
1
3
1
1
2
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
2
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
4
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
2
1
3
1
1
1
1
1
1
2
1
1
2
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
3
1
1
2
2
1
1
1
2
1
2
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
2
1
2
1
1
2
1
1
1
1
1
1
2
1
2
1
1
1
2
1
1
1
2
1
4
1
1
4
3
1
2
2
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
2
1
1
1
2
1
1
1
2
2
1
1
1
1
2
1
1
1
4
1
4
2
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
3
1
1
1
1
1
1
2
1
1
1
1
2
1
1
2
2
2
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
2
2
1
1
1
1
2
1
3
1
1
1
1
1
1
1
1
1
1
1
1
2
4
1
1
1
1
1
1
1
4
1
2
1
1
1
2
1
2
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
2
1
1
1
1
1
2
2
1
1
1
1
1
1
2
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
2
1
1
2
1
2
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
4
2
2
7
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
3
3
1
2
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
2
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
1
2
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
3
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
3
3
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
2
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
2
1
2
1
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
3
1
1
2
1
1
1
1
1
2
4
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
2
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
2
1
1
1
3
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
3
2
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
2
2
2
1
1
1
1
2
1
2
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
2
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
2
2
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
3
1
1
1
1
1
2
1
1
2
1
1
3
1
1
1
2
1
1
1
2
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
2
2
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
3
1
1
1
1
3
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
2
1
1
1
2
1
1
1
2
1
1
1
2
1
1
1
2
1
1
1
1
1
2
1
1
1
1
1
1
1
4
2
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
2
1
1
1
1
2
1
2
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
3
1
1
1
1
1
1
1
1
2
1
1
1
3
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
3
2
1
1
1
2
1
2
1
1
1
2
1
1
1
2
1
1
1
2
1
1
1
1
1
1
2
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
2
1
4
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
2
1
3
1
1
1
1
2
1
2
1
1
1
1
1
1
1
3
2
4
1
2
1
1
1
1
1
1
1
1
2
1
1
1
1
4
1
1
1
1
1
3
1
1
2
2
2
1
1
1
1
1
2
2
1
1
1
1
1
1
1
2
1
2
1
1
2
2
2
1
2
1
1
1
1
1
1
1
2
1
2
3
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
3
1
1
4
1
7
1
2
1
1
1
2
2
1
1
1
1
1
1
1
2
1
1
1
1
1
2
1
2
1
1
1
1
1
1
1
1
4
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
2
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
1
1
1
1
1
1
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
3
1
2
1
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
1
3
1
1
1
1
1
1
2
1
1
1
1
1
2
4
1
1
2
1
1
1
1
1
1
1
1
1
1
1
2
1
2
1
2
1
1
1
1
2
1
1
1
1
2
1
1
2
1
1
1
1
1
1
1
4
1
1
1
3
1
1
2
2
2
2
1
1
2
1
2
1
5
3
1
1
3
1
3
3
5
2
2
3
2
1
2
2
1
4
2
1
5
2
5
3
1
2
1
2
1
1
4
5
1
2
6
1
1
4
3
1
1
1
5
1
1
1
1
1
2
1
3
2
2
1
1
1
1
1
1
3
3
2
2
3
2
1
1
3
1
4
2
1
1
6
2
3
2
1
2
1
1
3
1
9
2
1
10
1
2
1
3
1
1
1
4
5
1
3
5
1
1
1
1
3
1
1
1
1
1
5
1
1
1
1
1
1
1
1
1
3
3
2
2
1
1
1
1
1
1
1
6
2
2
3
1
1
2
1
4
1
2
1
4
2
6
2
1
2
2
1
3
9
2
1
9
1
2
1
3
1
2
4
3
1
1
1
3
5
1
1
2
1
2
1
1
5
1
1
1
1
1
1
1
1
1
1
2
1
2
2
3
1
1
1
1
8
5
3
1
2
3
2
1
3
1
2
1
6
1
3
3
2
1
2
2
1
4
3
5
2
1
5
1
3
4
1
1
4
1
1
1
1
4
7
1
3
6
1
1
1
1
3
1
6
1
2
1
1
1
1
2
2
2
1
2
5
1
2
1
1
1
2
2
2
6
6
1
3
1
4
1
1
1
6
1
3
5
1
2
2
7
5
5
3
1
4
4
3
2
1
2
1
1
2
1
4
7
1
1
3
7
1
3
2
2
1
2
3
1
2
1
1
1
1
2
1
1
1
1
1
1
1
4
4
2
2
1
2
1
1
1
3
5
5
5
1
3
2
4
1
1
1
2
6
2
3
1
1
1
2
2
2
4
3
5
2
1
4
3
3
2
2
1
1
2
3
1
5
1
3
7
2
2
1
3
1
1
5
1
2
1
1
1
1
1
1
1
1
2
1
1
2
2
2
1
2
1
1
1
3
2
2
2
4
1
1
2
2
2
1
1
1
1
1
4
1
2
3
2
1
2
1
2
4
2
1
3
1
3
3
2
3
4
1
2
1
2
4
4
1
1
1
2
1
7
1
1
1
1
1
1
1
6
1
1
1
1
1
1
1
1
1
2
1
1
2
2
2
1
2
1
1
1
1
3
2
1
5
5
3
2
2
1
1
1
1
1
1
5
1
2
3
2
1
2
2
1
4
3
3
1
3
1
9
3
2
3
1
2
1
1
4
6
1
2
1
5
4
1
1
1
1
1
1
1
5
1
1
1
1
1
1
1
1
1
2
2
1
1
2
2
2
2
2
1
1
1
1
3
2
5
3
1
2
1
1
2
1
1
1
2
1
1
2
3
2
1
2
2
2
3
1
2
3
1
2
1
9
4
1
1
2
5
5
1
3
5
1
1
1
1
1
1
1
1
2
3
1
1
1
1
1
1
1
2
1
6
2
3
7
1
2
3
12
2
3
3
1
3
2
3
6
7
11
1
2
3
7
3
1
3
4
3
14
1
3
1
2
1
2
7
5
5
2
6
2
6
1
2
1
1
15
2
1
2
1
1
5
2
3
3
4
1
2
3
9
3
2
3
3
1
2
2
3
6
7
12
1
2
3
6
3
1
3
7
3
12
3
2
2
1
2
13
4
2
7
2
3
1
4
1
15
1
2
1
2
2
1
1
1
1
1
1
8
6
1
2
3
3
9
3
2
3
3
1
2
2
1
2
6
8
11
1
2
3
6
1
3
7
3
13
4
1
2
10
4
5
2
7
1
3
2
4
1
15
1
2
1
2
1
1
1
1
1
2
5
2
7
3
1
2
14
4
3
3
1
3
2
9
7
11
1
2
3
6
4
4
6
3
14
3
1
1
1
10
4
8
7
2
3
1
4
1
1
15
2
1
2
2
1
1
1
1
1
1
1
1
1
1
1
5
2
7
3
1
15
4
4
5
3
2
9
7
11
1
6
6
4
1
3
7
4
12
1
3
2
1
1
6
4
4
8
7
1
3
1
5
5
5
6
4
4
2
2
2
1
1
3
1
1
2
1
1
1
2
4
2
6
1
3
7
5
5
8
5
3
3
9
7
11
1
6
6
4
4
7
4
13
3
2
1
11
3
7
7
2
3
1
1
2
1
1
9
6
1
1
1
2
2
1
1
1
1
1
1
1
2
5
6
2
3
1
15
5
4
3
1
2
3
3
5
7
7
3
1
2
3
9
3
1
6
13
1
3
2
1
1
15
8
7
2
2
3
1
4
1
10
6
2
1
1
1
1
1
1
1
2
4
3
6
3
1
5
10
5
3
4
1
3
3
3
5
7
7
3
2
3
10
1
3
6
14
1
1
3
2
1
1
2
12
8
7
2
3
2
1
2
1
15
1
3
1
1
1
2
2
1
1
1
1
1
1
4
3
6
3
1
5
9
5
3
4
1
3
3
2
6
7
7
3
1
6
6
3
1
3
7
4
13
4
2
1
2
3
8
5
3
4
2
2
3
1
1
2
1
1
14
1
1
3
1
2
1
1
4
44
6
7
17
34
40
12
12
46
2
4
1
1
5
4
4
6
2
1
3
3
1
1
1
4
44
6
4
3
17
67
7
12
7
2
3
10
36
2
2
2
1
7
5
2
2
3
3
3
3
1
1
1
1
1
4
44
6
4
3
17
67
7
12
6
2
14
36
2
2
2
3
5
4
2
2
2
2
1
1
3
1
1
4
19
25
6
1
3
3
17
67
7
21
3
49
4
1
6
5
2
2
4
3
7
1
1
1
1
1
4
18
25
7
3
3
17
7
15
30
12
7
19
2
3
40
5
2
2
2
1
6
5
2
2
4
3
7
3
1
1
1
2
2
1
1
1
5
44
6
1
3
3
17
74
19
2
50
2
2
2
2
12
2
5
3
3
3
1
1
1
3
4
44
6
1
3
3
18
8
26
33
7
19
2
3
40
14
2
6
4
2
2
1
2
1
1
3
3
1
1
4
19
25
6
1
2
2
17
8
59
7
12
6
2
3
32
13
2
4
2
6
4
3
1
3
1
4
3
1
1
1
1
1
4
44
6
7
17
34
32
7
12
6
2
14
35
2
5
2
6
4
3
1
3
1
1
3
3
1
2
7
5
81
5
22
21
35
13
33
1
9
1
4
8
3
1
2
5
1
1
1
2
1
5
5
1
22
5
5
13
32
49
35
11
4
15
14
1
1
7
1
4
8
1
5
3
5
1
1
1
1
2
7
7
14
35
34
43
36
11
4
15
16
2
7
1
4
8
5
4
2
1
2
1
1
1
1
10
4
29
5
14
2
29
28
21
35
11
34
3
1
6
1
4
8
1
4
8
1
1
2
2
1
1
1
1
1
5
5
28
5
4
13
32
34
14
11
21
2
5
5
4
29
3
8
1
4
8
1
8
3
4
1
3
1
2
1
1
2
2
1
1
1
2
7
20
13
5
17
28
34
14
35
11
4
15
14
11
1
4
8
10
4
3
2
1
1
1
1
1
10
6
27
5
46
5
43
31
4
11
34
5
6
14
5
2
2
2
1
1
1
1
1
10
6
27
4
46
6
28
14
12
23
11
34
11
1
13
3
2
2
2
1
1
2
1
1
1
1
1
11
5
2
14
18
46
5
43
31
4
11
20
14
3
8
1
13
1
1
2
1
2
2
2
1
1
1
15
29
19
85
12
16
44
6
8
5
3
11
3
2
7
2
2
1
1
1
4
4
4
6
4
18
5
13
26
6
52
12
16
19
24
6
8
5
2
12
3
1
8
2
1
1
1
1
1
2
1
1
1
1
1
5
10
29
19
85
12
17
49
8
3
1
12
2
2
2
7
2
1
1
1
1
1
1
1
1
10
2
2
7
4
18
5
9
4
4
21
6
52
12
15
43
6
8
3
1
2
4
4
4
6
6
2
2
1
2
1
1
1
1
1
1
4
4
1
2
6
4
17
5
9
4
4
21
6
48
3
7
5
15
19
7
16
5
7
4
2
4
4
5
3
3
4
2
5
1
1
1
2
1
1
1
1
2
1
1
1
2
1
5
5
2
9
4
18
5
9
4
26
6
52
12
15
19
24
6
1
7
3
2
5
3
1
3
6
2
4
2
1
1
1
1
1
2
1
1
1
1
1
1
1
4
5
2
2
6
22
5
14
26
6
52
12
16
43
6
11
1
2
4
3
5
6
4
1
1
1
1
1
1
1
4
5
2
2
6
4
18
5
14
25
6
52
7
4
16
19
24
5
13
2
4
3
1
3
6
7
1
1
1
1
2
1
1
1
4
8
2
29
5
14
26
6
52
7
5
16
43
5
8
5
2
4
4
1
3
2
4
4
1
1
1
1
1
1
1
1
240
3
1
3

In [64]:

    

all_bit


    

    
Out[64]:





17655

In [85]:

    

len_dict = dict()
for k in config.all_para:
    len_dict[k] = len(np.reshape(para_dict[k].eval(),[-1]))


    

In [86]:

    

len_dict


    

    
Out[86]:





{'Variable': 432,
 'Variable_1': 1728,
 'Variable_10': 13392,
 'Variable_11': 14688,
 'Variable_12': 15984,
 'Variable_13': 25600,
 'Variable_14': 17280,
 'Variable_15': 18576,
 'Variable_16': 19872,
 'Variable_17': 21168,
 'Variable_18': 22464,
 'Variable_19': 23760,
 'Variable_2': 3024,
 'Variable_20': 25056,
 'Variable_21': 26352,
 'Variable_22': 27648,
 'Variable_23': 28944,
 'Variable_24': 30240,
 'Variable_25': 31536,
 'Variable_26': 92416,
 'Variable_27': 32832,
 'Variable_28': 34128,
 'Variable_29': 35424,
 'Variable_3': 4320,
 'Variable_30': 36720,
 'Variable_31': 38016,
 'Variable_32': 39312,
 'Variable_33': 40608,
 'Variable_34': 41904,
 'Variable_35': 43200,
 'Variable_36': 44496,
 'Variable_37': 45792,
 'Variable_38': 47088,
 'Variable_39': 4480,
 'Variable_4': 5616,
 'Variable_5': 6912,
 'Variable_6': 8208,
 'Variable_7': 9504,
 'Variable_8': 10800,
 'Variable_9': 12096}

In [18]:

    

import config


    

In [11]:

    

def apply_prune(weights, prune_dict):
    for target in config.all_para:
        wl = target

        # Get target layer's weights
        weight_obj = weights[wl]
        weight_arr = weight_obj.eval()
        weight_rest = np.reshape(weight_arr,[-1])
        dic_tem = np.reshape(prune_dict[wl],[-1])
        idx_rest = np.argsort(abs(np.reshape(weight_rest,[-1])))
  
        num_prune = int(len(np.reshape(weight_arr,[-1]))*config.prune_para[wl])
        print('start prune',sum(np.reshape(prune_dict[wl],-1)))
        print('total',np.shape(np.reshape(prune_dict[wl],-1)))
        weight_toprune = weight_rest[idx_rest[:num_prune]] 
        
        weight_toprune = np.zeros_like(weight_toprune)

        
        weight_rest[idx_rest[:num_prune]] = weight_toprune
        weight_arr =  np.reshape(weight_rest,np.shape(weight_arr))
        dic_tem [idx_rest[:num_prune]] =  np.zeros_like(dic_tem [idx_rest[:num_prune]])
        prune_dict[wl] = np.reshape(dic_tem,np.shape(prune_dict[wl]))
        # Apply pruning
        print('end prune',sum(np.reshape(prune_dict[wl],-1)))

        # Store pruned weights as tensorflow objects
        sess.run(weight_obj.assign(weight_arr))

    return prune_dict


    

In [12]:

    

prune_dict = {}
for target in config.all_para:
    wl =target
    weight_obj = para_dict[wl]
    prune_dict[wl] = np.ones_like(weight_obj.eval())


    

In [13]:

    

prune_dict = apply_prune(para_dict, prune_dict)


    

    




start prune 432.0
total (432,)
end prune 385.0
start prune 1728.0
total (1728,)
end prune 864.0
start prune 3024.0
total (3024,)
end prune 605.0
start prune 4320.0
total (4320,)
end prune 1210.0
start prune 5616.0
total (5616,)
end prune 1124.0
start prune 6912.0
total (6912,)
end prune 1728.0
start prune 8208.0
total (8208,)
end prune 2463.0
start prune 9504.0
total (9504,)
end prune 1901.0
start prune 10800.0
total (10800,)
end prune 2160.0
start prune 12096.0
total (12096,)
end prune 2420.0
start prune 13392.0
total (13392,)
end prune 2679.0
start prune 14688.0
total (14688,)
end prune 2938.0
start prune 15984.0
total (15984,)
end prune 3197.0
start prune 25600.0
total (25600,)
end prune 14080.0
start prune 17280.0
total (17280,)
end prune 3456.0
start prune 18576.0
total (18576,)
end prune 3716.0
start prune 19872.0
total (19872,)
end prune 3975.0
start prune 21168.0
total (21168,)
end prune 4234.0
start prune 22464.0
total (22464,)
end prune 4493.0
start prune 23760.0
total (23760,)
end prune 4752.0
start prune 25056.0
total (25056,)
end prune 5012.0
start prune 26352.0
total (26352,)
end prune 5271.0
start prune 27648.0
total (27648,)
end prune 5530.0
start prune 28944.0
total (28944,)
end prune 5789.0
start prune 30240.0
total (30240,)
end prune 6048.0
start prune 31536.0
total (31536,)
end prune 6308.0
start prune 92416.0
total (92416,)
end prune 36967.0
start prune 32832.0
total (32832,)
end prune 6567.0
start prune 34128.0
total (34128,)
end prune 6826.0
start prune 35424.0
total (35424,)
end prune 7085.0
start prune 36720.0
total (36720,)
end prune 7344.0
start prune 38016.0
total (38016,)
end prune 7604.0
start prune 39312.0
total (39312,)
end prune 7863.0
start prune 40608.0
total (40608,)
end prune 6092.0
start prune 41904.0
total (41904,)
end prune 4191.0
start prune 43200.0
total (43200,)
end prune 2160.0
start prune 44496.0
total (44496,)
end prune 1335.0
start prune 45792.0
total (45792,)
end prune 1374.0
start prune 47088.0
total (47088,)
end prune 1413.0
start prune 4480.0
total (4480,)
end prune 448.0

In [14]:

    

saver.save(sess,'./prunemodel/stage1/prune50110.ckpt')


    

    
Out[14]:





'./prunemodel/stage1/prune50110.ckpt'

In [15]:

    

import pickle
# create dict
# save dict
f1 = open("C:/Users/lhlne/Desktop/project/densenet/prunemodel/stage1/prune50110.txt","wb")
pickle.dump(prune_dict, f1)
f1.close()
# load dict
f2 = open("C:/Users/lhlne/Desktop/project/densenet/prunemodel/stage1/prune50110.txt","rb")
load_list = pickle.load(f2)
f2.close()
# print 
print(load_list)


    

    




{'Variable': array([[[[ 1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,
           0.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,
           0.,  1.,  1.]],

        [[ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,
           1.,  0.,  1.],
         [ 0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,
           0.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  0.,  1.]],

        [[ 1.,  1.,  1.,  0.,  1.,  1.,  0.,  1.,  1.,  1.,  0.,  1.,  1.,
           0.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           0.,  0.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,
           1.,  1.,  1.]]],


       [[[ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           0.,  1.,  1.]],

        [[ 0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,
           1.,  0.,  1.],
         [ 1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  0.,  1.],
         [ 0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  0.,  1.]],

        [[ 1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,  0.,  1.,  1.,
           1.,  0.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.]]],


       [[[ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  0.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  0.,  1.,  0.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.]],

        [[ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           0.,  1.,  1.]],

        [[ 1.,  1.,  1.,  1.,  1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,  1.,
           1.,  1.,  1.],
         [ 1.,  1.,  1.,  1.,  1.,  0.,  0.,  1.,  1.,  0.,  0.,  1.,  1.,
           0.,  1.,  1.]]]], dtype=float32), 'Variable_1': array([[[[ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 1.,  1.,  1., ...,  1.,  1.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.]]],


       [[[ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.]]],


       [[[ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  0.]],

        [[ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  0.]]]], dtype=float32), 'Variable_2': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_3': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_4': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  1.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.]]]], dtype=float32), 'Variable_5': array([[[[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_6': array([[[[ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  1.,  1.,  1.]],

        [[ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]]], dtype=float32), 'Variable_7': array([[[[ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.]],

        [[ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]]],


       [[[ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_8': array([[[[ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.]],

        [[ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]]]], dtype=float32), 'Variable_9': array([[[[ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]]]], dtype=float32), 'Variable_10': array([[[[ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.]]],


       [[[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_11': array([[[[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_12': array([[[[ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.]]],


       [[[ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_13': array([[[[ 1.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  1., ...,  1.,  1.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  1.,  1., ...,  1.,  1.,  1.]]]], dtype=float32), 'Variable_14': array([[[[ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_15': array([[[[ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]]]], dtype=float32), 'Variable_16': array([[[[ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.]],

        [[ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_17': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.]]],


       [[[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.]]]], dtype=float32), 'Variable_18': array([[[[ 0.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.]]],


       [[[ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]]]], dtype=float32), 'Variable_19': array([[[[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]],

        [[ 1.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]]],


       [[[ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_20': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_21': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_22': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.]]]], dtype=float32), 'Variable_23': array([[[[ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_24': array([[[[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 1.,  1.,  1., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  1.,  1.]]]], dtype=float32), 'Variable_25': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  1., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  1.,  1.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]]]], dtype=float32), 'Variable_26': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.]]]], dtype=float32), 'Variable_27': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]]], dtype=float32), 'Variable_28': array([[[[ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  1., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 1.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_29': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  1.]]]], dtype=float32), 'Variable_30': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 1.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  1.]]]], dtype=float32), 'Variable_31': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 1.,  0.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 1.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_32': array([[[[ 0.,  0.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]]]], dtype=float32), 'Variable_33': array([[[[ 1.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]]],


       [[[ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  1.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 1.,  1.,  1., ...,  1.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  1., ...,  0.,  1.,  0.]]]], dtype=float32), 'Variable_34': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  1.,  1.,  1.],
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  1.,  0.,  1.],
         [ 1.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  1.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  0., ...,  0.,  0.,  1.],
         [ 1.,  0.,  0., ...,  1.,  1.,  1.],
         [ 1.,  0.,  0., ...,  1.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  1.,  1.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  1.,  1.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  1.]]]], dtype=float32), 'Variable_35': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  1.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  1.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  1., ...,  1.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  0.,  1., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  1.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  0.,  0.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  1.,  1.,  0.]]]], dtype=float32), 'Variable_36': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  1., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  1.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  1.,  0.,  0.],
         [ 1.,  1.,  1., ...,  1.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  0.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 1.,  1.,  0., ...,  1.,  1.,  1.],
         [ 0.,  1.,  1., ...,  0.,  0.,  0.],
         [ 1.,  0.,  0., ...,  1.,  0.,  1.]]]], dtype=float32), 'Variable_37': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  1.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  1., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  1.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]]], dtype=float32), 'Variable_38': array([[[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.]]],


       [[[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.]],

        [[ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         ..., 
         [ 0.,  0.,  0., ...,  0.,  0.,  0.],
         [ 0.,  0.,  0., ...,  0.,  0.,  1.],
         [ 0.,  1.,  0., ...,  0.,  0.,  1.]]]], dtype=float32), 'Variable_39': array([[ 0.,  0.,  0., ...,  0.,  0.,  0.],
       [ 0.,  0.,  0., ...,  0.,  0.,  0.],
       [ 0.,  0.,  0., ...,  0.,  0.,  0.],
       ..., 
       [ 1.,  1.,  1., ...,  1.,  1.,  1.],
       [ 1.,  1.,  1., ...,  1.,  1.,  1.],
       [ 1.,  1.,  1., ...,  1.,  1.,  1.]], dtype=float32)}

In [23]:

    

type(load_list)


    

    
Out[23]:





dict

In [27]:

    

import math
a=math.sqrt(0.45)


    

In [24]:

    

a.astype(np.float32)


    

    
Out[24]:





0.67082042

In [28]:

    

type(a)


    

    
Out[28]:





float

In [16]:

    

para_dict['Variable'].eval()


    

    
Out[16]:





array([[[[  3.44222993e-01,   2.52807736e-02,  -8.36442709e-02,
            1.01950161e-01,  -5.06648906e-02,  -1.10229645e-02,
           -5.23623824e-02,   1.35116205e-01,   1.07809864e-02,
            1.26128737e-02,   7.42659047e-02,   1.90676320e-02,
           -1.29201561e-01,   3.43044251e-02,  -4.21130285e-02,
           -5.40455990e-02],
         [ -4.90448661e-02,  -8.65770802e-02,   5.39431907e-02,
            9.91697311e-02,  -3.84375751e-02,   3.37356590e-02,
           -1.65567137e-02,   1.49802566e-01,   2.14102212e-02,
           -4.88093309e-03,  -3.71937118e-02,  -2.71624122e-02,
            5.00762910e-02,   1.10645629e-02,  -5.94245009e-02,
            8.37203488e-02],
         [ -2.85197020e-01,   6.44724742e-02,   6.32062480e-02,
            1.36350557e-01,  -1.73997656e-02,  -2.94546895e-02,
           -8.86704177e-02,   1.59330800e-01,   2.16072742e-02,
           -5.08017913e-02,  -4.15278710e-02,   1.50537193e-02,
            1.38265908e-01,   4.34495835e-03,  -7.35491663e-02,
           -4.10184860e-02]],

        [[  1.76801056e-01,   1.56824023e-01,  -1.17365316e-01,
           -4.73912843e-02,  -1.43369377e-01,   7.57061243e-02,
            2.02926874e-01,   2.26318926e-01,  -4.93352227e-02,
            7.99456686e-02,   1.16984770e-02,   8.14156681e-02,
           -2.84201115e-01,   3.11383978e-02,  -1.52642997e-02,
           -1.15326934e-01],
         [ -1.65967289e-02,  -2.19932541e-01,   3.91862057e-02,
           -8.99318606e-02,  -1.41200662e-01,   2.69876677e-03,
            2.21232265e-01,   2.43976668e-01,  -5.21010533e-02,
            1.63873322e-02,  -9.91088450e-02,   5.38330583e-04,
           -2.67656464e-02,   1.05606979e-02,  -8.34313966e-03,
            1.72501013e-01],
         [ -1.63605958e-01,   6.11505769e-02,   7.48815462e-02,
           -6.92616403e-02,  -1.22908361e-01,   6.56928420e-02,
            2.31414258e-01,   2.20279738e-01,  -4.67565246e-02,
           -1.16840735e-01,  -9.46238190e-02,   4.13014032e-02,
            2.66826540e-01,   1.30075170e-02,  -1.34697286e-02,
           -7.51809776e-02]],

        [[ -4.99473140e-02,   8.90586302e-02,  -5.64032793e-02,
           -6.80408627e-03,  -5.96444719e-02,  -5.74614033e-02,
           -1.81848519e-02,   1.32614359e-01,   5.91349229e-02,
            7.62813389e-02,   7.45036406e-03,   4.67506237e-02,
           -3.41496468e-01,   4.06127609e-03,  -3.09143048e-02,
           -6.51796833e-02],
         [  3.66909802e-02,  -9.21366736e-02,   8.19214582e-02,
           -6.84761479e-02,  -4.70310114e-02,  -5.57491649e-03,
            3.55410315e-02,   1.36848286e-01,   8.72398838e-02,
           -4.69235480e-02,  -8.59777629e-02,  -2.80095674e-02,
            8.47884417e-02,  -4.34608012e-03,   3.40602244e-04,
            2.32676771e-02],
         [  5.88934422e-02,  -3.47954780e-02,   1.18367851e-01,
           -6.48326725e-02,  -3.11262123e-02,  -9.58358645e-02,
           -3.68439630e-02,   1.07496500e-01,   2.20972225e-02,
           -1.83221981e-01,  -9.11856368e-02,   9.58997291e-03,
            2.11437389e-01,   8.77605658e-03,   1.85150038e-02,
            3.69331315e-02]]],


       [[[  2.60911167e-01,   9.45455879e-02,  -9.56093296e-02,
            2.52261907e-01,  -7.92023391e-02,   7.91553780e-02,
            1.06551602e-01,  -6.05809167e-02,  -1.29288465e-01,
           -9.19360220e-02,   5.52667938e-02,   1.71189271e-02,
            1.49771273e-01,   6.99866638e-02,  -8.97119194e-02,
           -9.89508107e-02],
         [ -7.37181529e-02,  -2.17784524e-01,   4.45453338e-02,
            2.93491453e-01,  -7.22670108e-02,   6.54656738e-02,
            5.05995899e-02,  -8.68728161e-02,  -1.55631334e-01,
            4.99831103e-02,  -2.74862722e-02,  -2.19412521e-02,
           -1.10103779e-01,   3.33676748e-02,  -1.12579904e-01,
            2.56447166e-01],
         [ -2.46672958e-01,   1.85004398e-01,   8.33294019e-02,
            3.02642196e-01,  -5.94482757e-02,   1.36042595e-01,
            5.29553033e-02,  -4.93941233e-02,  -1.08436413e-01,
            6.43028989e-02,  -5.01159839e-02,   5.35571314e-02,
           -1.14505909e-01,   2.23196170e-04,  -1.36742204e-01,
           -1.65727630e-01]],

        [[  1.45050371e-03,   1.82862729e-01,  -1.48870677e-01,
           -1.35232612e-01,  -1.01806268e-01,  -3.41463000e-01,
           -3.52985948e-01,  -8.53633881e-02,  -1.15579665e-01,
            4.49340977e-02,   8.03226838e-04,  -1.20824605e-01,
            1.37527794e-01,   8.60582888e-02,  -1.56256687e-02,
           -1.82033181e-01],
         [ -1.11853005e-03,  -4.04796988e-01,   1.52322203e-02,
           -1.36053964e-01,  -9.71406698e-02,  -4.27582204e-01,
           -4.77162898e-01,  -1.04016185e-01,  -1.31400824e-01,
            1.61461502e-01,  -6.76227063e-02,  -1.77558407e-01,
           -1.05565734e-01,   5.71787506e-02,  -6.58841431e-03,
            3.24059784e-01],
         [  1.19435927e-02,   1.48403868e-01,   8.50617066e-02,
           -1.13753468e-01,  -9.08252373e-02,  -2.16788888e-01,
           -1.95707485e-01,  -7.36770332e-02,  -1.04510114e-01,
            9.78703499e-02,  -8.98201540e-02,  -8.06789026e-02,
            3.95908803e-02,   2.30064895e-02,  -2.24470720e-02,
           -2.31940255e-01]],

        [[ -3.01087826e-01,   1.39013126e-01,  -1.01559103e-01,
           -1.52091235e-01,  -8.34687650e-02,   2.30927050e-01,
            1.28039997e-03,  -3.78571674e-02,   2.59290397e-01,
            2.47012675e-02,  -1.76330318e-03,  -1.72974803e-02,
           -1.29401043e-01,   3.72050256e-02,   3.22665717e-03,
           -1.02536112e-01],
         [  1.35568585e-02,  -1.96138725e-01,   4.41576764e-02,
           -1.61624596e-01,  -7.79349878e-02,   3.26041758e-01,
           -2.88632996e-02,  -4.88049649e-02,   2.63990730e-01,
            2.07327623e-02,  -5.34951203e-02,  -7.41911232e-02,
            5.63503765e-02,   2.94397399e-02,   3.29850502e-02,
            1.38494149e-01],
         [  2.12303415e-01,   5.08344956e-02,   1.17001645e-01,
           -1.60444766e-01,  -5.43253347e-02,   2.02188924e-01,
           -5.08520715e-02,  -4.48279157e-02,   1.92501977e-01,
           -5.97037561e-02,  -7.82199278e-02,  -1.39122866e-02,
            1.14154495e-01,   5.39479358e-03,   4.28488851e-02,
           -8.17868039e-02]]],


       [[[  9.71694589e-02,  -8.59760586e-03,  -7.58092105e-02,
            1.17913514e-01,   1.43243641e-01,   4.51265536e-02,
           -3.99747118e-02,  -5.83131947e-02,  -3.96916419e-02,
           -1.74948126e-01,   6.60564080e-02,   8.28303397e-03,
            3.09195369e-01,   6.15947880e-02,   1.53498827e-02,
           -3.97075117e-02],
         [ -2.74148793e-03,  -1.25949979e-01,   4.04179506e-02,
            1.54785618e-01,   1.19888768e-01,   4.37755920e-02,
           -2.72584334e-03,  -1.05932072e-01,  -6.87982365e-02,
            4.60170646e-04,   2.27848999e-02,   4.73643001e-03,
           -9.95824784e-02,   2.55228393e-02,  -1.84232239e-02,
            2.20003322e-01],
         [ -3.47860567e-02,   1.50800690e-01,   6.47674650e-02,
            1.38295621e-01,   1.12534270e-01,   8.97915475e-03,
           -2.19999310e-02,  -8.20459574e-02,  -4.88221236e-02,
            4.69609424e-02,  -1.40580675e-02,   8.73337239e-02,
           -2.57995933e-01,  -1.84570570e-02,  -4.29763570e-02,
           -1.19423740e-01]],

        [[ -1.88796535e-01,   6.95485100e-02,  -1.42479375e-01,
           -9.91637260e-02,   2.30923176e-01,   5.32332286e-02,
            1.46750018e-01,  -1.58735216e-01,  -1.27695054e-01,
           -1.15180634e-01,   6.14866577e-02,  -1.29254505e-01,
            3.99709076e-01,   7.99978822e-02,   7.65493885e-02,
           -1.05956793e-01],
         [  5.23341866e-03,  -2.16474891e-01,  -8.44834745e-03,
           -9.66716409e-02,   2.11583689e-01,  -1.96659588e-03,
            1.54554769e-01,  -1.87190220e-01,  -1.26992732e-01,
            7.51956031e-02,   3.81228589e-02,  -1.42680690e-01,
           -1.23572893e-01,   4.63647209e-02,   7.11486116e-02,
            2.67963856e-01],
         [  1.67396888e-01,   1.69321463e-01,   4.41327021e-02,
           -1.21660069e-01,   1.92074984e-01,  -2.85880603e-02,
            1.15638211e-01,  -1.52926520e-01,  -9.33400169e-02,
            1.06328949e-01,  -5.99827245e-03,  -4.19754535e-02,
           -2.31897205e-01,  -1.93089189e-03,   5.27774878e-02,
           -1.56355649e-01]],

        [[ -3.38866264e-01,   3.39278169e-02,  -1.05271719e-01,
           -1.23793054e-02,   1.14417128e-01,  -6.44011945e-02,
            4.59653698e-03,  -5.55830747e-02,   1.63140774e-01,
           -1.11425214e-01,   4.42801230e-02,  -2.77746916e-02,
            6.38314635e-02,   3.13897803e-02,   8.74131098e-02,
           -2.80034468e-02],
         [  5.63355274e-02,  -5.20838499e-02,   8.14606249e-03,
           -1.48552982e-02,   1.05102897e-01,  -5.37295640e-02,
            4.64912504e-02,  -7.15913996e-02,   1.60588905e-01,
           -1.73426736e-02,   3.46501879e-02,  -3.97390351e-02,
            1.93140302e-02,   2.16129310e-02,   1.12049244e-01,
            1.01020947e-01],
         [  3.36240590e-01,   6.50598705e-02,   6.62540868e-02,
           -5.45265451e-02,   1.22683503e-01,  -8.12234823e-03,
            1.47364782e-02,  -5.88986315e-02,   1.24920882e-01,
           -5.46165938e-06,  -3.51939653e-03,   3.48145403e-02,
           -1.14093222e-01,  -1.74651202e-02,   1.16560899e-01,
           -1.21782348e-02]]]], dtype=float32)

In [ ]:

    

from scipy.stats import gaussian_kde
data = [1.5]*7 + [2.5]*2 + [3.5]*8 + [4.5]*3 + [5.5]*1 + [6.5]*8
density = gaussian_kde(data)
xs = np.linspace(0,8,200)
density.covariance_factor = lambda : .25
density._compute_covariance()
plt.plot(xs,density(xs))
plt.show()


    

In [19]:

    

import pandas as pd


    

In [29]:

    

%matplotlib inline
a = para_dict['Variable_34'].eval()
b = np.reshape(a,[-1])
data = b
df = pd.DataFrame(data)
c=df.plot(kind='density',xlim=(-0.05,0.05))


    

In [10]:

    

%matplotlib inline
import pandas as pd
from matplotlib import pyplot as plt
import pandas as pd
from scipy.stats import gaussian_kde
import seaborn as sns
for i in para_dict.items():
    if 'Variable' in i[0]:
        a = para_dict[i[0]].eval()
        b = np.reshape(a,[-1])
        c = sum(b ==0)
        d = np.shape(b)
   #     e = np.percentile(b, 75)
       # print(c)
        print(d)
 #       print(e)
   #     print(int(np.log10(abs(e))))
        #print('percentage',c/d)
#         print(sum(b ==0))
#         plt.hist(b, range=[-0.4, 0.4]) 
#         plt.title(i[0]) 
#         plt.show()
        print(i[0])
        data = b
#         density = gaussian_kde(data)
#         xs = np.linspace(-0.4,0.4)
#         density.covariance_factor = lambda : .25
#         density._compute_covariance()
#         plt.plot(xs,density(xs))
#         plt.show()
  
        
#         sns.set_style('whitegrid')
#         sns.kdeplot(np.array(data), bw=0.5)


        data = b
        df = pd.DataFrame(data)
        df.plot(kind='density',xlim=(-0.05,0.05),title=i[0])


    

    




(432,)
Variable
(1728,)
Variable_1
(3024,)
Variable_2
(4320,)
Variable_3
(5616,)
Variable_4
(6912,)
Variable_5
(8208,)
Variable_6
(9504,)
Variable_7
(10800,)
Variable_8
(12096,)
Variable_9
(13392,)
Variable_10
(14688,)
Variable_11
(15984,)
Variable_12
(25600,)
Variable_13
(17280,)
Variable_14
(18576,)
Variable_15
(19872,)
Variable_16
(21168,)
Variable_17
(22464,)
Variable_18
(23760,)
Variable_19
(25056,)
Variable_20






    




D:\Anaconda3\lib\site-packages\matplotlib\pyplot.py:524: RuntimeWarning: More than 20 figures have been opened. Figures created through the pyplot interface (`matplotlib.pyplot.figure`) are retained until explicitly closed and may consume too much memory. (To control this warning, see the rcParam `figure.max_open_warning`).
  max_open_warning, RuntimeWarning)






    




(26352,)
Variable_21
(27648,)
Variable_22
(28944,)
Variable_23
(30240,)
Variable_24
(31536,)
Variable_25
(92416,)
Variable_26
(32832,)
Variable_27
(34128,)
Variable_28
(35424,)
Variable_29
(36720,)
Variable_30
(38016,)
Variable_31
(39312,)
Variable_32
(40608,)
Variable_33
(41904,)
Variable_34
(43200,)
Variable_35
(44496,)
Variable_36
(45792,)
Variable_37
(47088,)
Variable_38
(4480,)
Variable_39
(10,)
Variable_40






    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    

In [24]:

    

for i in para_dict.items():
    if 'Variable' in i[0]:
        a = para_dict[i[0]].eval()
        print(i[0])
        zeroele = len(a[abs(a)<0.04])
        total = len(np.reshape(a,[-1]))
        print(total - zeroele,total)
        print(zeroele/total)


    

    




Variable
338 432
0.2175925925925926
Variable_1
409 1728
0.7633101851851852
Variable_2
291 3024
0.9037698412698413
Variable_3
562 4320
0.8699074074074075
Variable_4
609 5616
0.8915598290598291
Variable_5
639 6912
0.9075520833333334
Variable_6
870 8208
0.8940058479532164
Variable_7
630 9504
0.9337121212121212
Variable_8
569 10800
0.9473148148148148
Variable_9
541 12096
0.9552744708994709
Variable_10
605 13392
0.9548237753882916
Variable_11
743 14688
0.9494144880174292
Variable_12
502 15984
0.9685935935935935
Variable_13
7276 25600
0.71578125
Variable_14
923 17280
0.9465856481481482
Variable_15
991 18576
0.946651593453919
Variable_16
855 19872
0.9569746376811594
Variable_17
914 21168
0.9568216175359032
Variable_18
918 22464
0.9591346153846154
Variable_19
982 23760
0.9586700336700337
Variable_20
864 25056
0.9655172413793104
Variable_21
924 26352
0.964936247723133
Variable_22
864 27648
0.96875
Variable_23
730 28944
0.974778883360973
Variable_24
777 30240
0.9743055555555555
Variable_25
753 31536
0.9761225266362252
Variable_26
13622 92416
0.8526012811634349
Variable_27
1497 32832
0.9544042397660819
Variable_28
1443 34128
0.9577180028129395
Variable_29
1745 35424
0.9507396115627823
Variable_30
1689 36720
0.9540032679738563
Variable_31
1465 38016
0.9614635942760943
Variable_32
1401 39312
0.9643620268620269
Variable_33
1261 40608
0.9689470055161544
Variable_34
948 41904
0.9773768613974799
Variable_35
797 43200
0.981550925925926
Variable_36
414 44496
0.9906957928802589
Variable_37
382 45792
0.9916579315164221
Variable_38
317 47088
0.99326792388719
Variable_39
397 4480
0.9113839285714286
Variable_40
0 10
1.0

In [16]:

    

%matplotlib inline
import pandas as pd
from matplotlib import pyplot as plt
import pandas as pd
from scipy.stats import gaussian_kde
import seaborn as sns
for i in para_dict.items():
    #if 'Variable' in i[0]:
        a = para_dict[i[0]].eval()
        b = np.reshape(a,[-1])
        c = sum(b ==0)
        d = np.shape(b)
   #     e = np.percentile(b, 75)
       # print(c)
        print(d)
 #       print(e)
   #     print(int(np.log10(abs(e))))
        #print('percentage',c/d)
#         print(sum(b ==0))
#         plt.hist(b, range=[-0.4, 0.4]) 
#         plt.title(i[0]) 
#         plt.show()
        print(i[0])
        data = b
#         density = gaussian_kde(data)
#         xs = np.linspace(-0.4,0.4)
#         density.covariance_factor = lambda : .25
#         density._compute_covariance()
#         plt.plot(xs,density(xs))
#         plt.show()
  
        
#         sns.set_style('whitegrid')
#         sns.kdeplot(np.array(data), bw=0.5)


        data = b
        df = pd.DataFrame(data)
        df.plot(kind='density',xlim=(-0.05,0.05),title=i[0])


    

    




(432,)
Variable
(16,)
BatchNorm/beta
(16,)
BatchNorm/gamma
(16,)
BatchNorm/moving_mean
(16,)
BatchNorm/moving_variance
(1728,)
Variable_1
(28,)
BatchNorm_1/beta
(28,)
BatchNorm_1/gamma
(28,)
BatchNorm_1/moving_mean
(28,)
BatchNorm_1/moving_variance
(3024,)
Variable_2
(40,)
BatchNorm_2/beta
(40,)
BatchNorm_2/gamma
(40,)
BatchNorm_2/moving_mean
(40,)
BatchNorm_2/moving_variance
(4320,)
Variable_3
(52,)
BatchNorm_3/beta
(52,)
BatchNorm_3/gamma
(52,)
BatchNorm_3/moving_mean
(52,)
BatchNorm_3/moving_variance
(5616,)
Variable_4






    




D:\Anaconda3\lib\site-packages\matplotlib\pyplot.py:524: RuntimeWarning: More than 20 figures have been opened. Figures created through the pyplot interface (`matplotlib.pyplot.figure`) are retained until explicitly closed and may consume too much memory. (To control this warning, see the rcParam `figure.max_open_warning`).
  max_open_warning, RuntimeWarning)






    




(64,)
BatchNorm_4/beta
(64,)
BatchNorm_4/gamma
(64,)
BatchNorm_4/moving_mean
(64,)
BatchNorm_4/moving_variance
(6912,)
Variable_5
(76,)
BatchNorm_5/beta
(76,)
BatchNorm_5/gamma
(76,)
BatchNorm_5/moving_mean
(76,)
BatchNorm_5/moving_variance
(8208,)
Variable_6
(88,)
BatchNorm_6/beta
(88,)
BatchNorm_6/gamma
(88,)
BatchNorm_6/moving_mean
(88,)
BatchNorm_6/moving_variance
(9504,)
Variable_7
(100,)
BatchNorm_7/beta
(100,)
BatchNorm_7/gamma
(100,)
BatchNorm_7/moving_mean
(100,)
BatchNorm_7/moving_variance
(10800,)
Variable_8
(112,)
BatchNorm_8/beta
(112,)
BatchNorm_8/gamma
(112,)
BatchNorm_8/moving_mean
(112,)
BatchNorm_8/moving_variance
(12096,)
Variable_9
(124,)
BatchNorm_9/beta
(124,)
BatchNorm_9/gamma
(124,)
BatchNorm_9/moving_mean
(124,)
BatchNorm_9/moving_variance
(13392,)
Variable_10
(136,)
BatchNorm_10/beta
(136,)
BatchNorm_10/gamma
(136,)
BatchNorm_10/moving_mean
(136,)
BatchNorm_10/moving_variance
(14688,)
Variable_11
(148,)
BatchNorm_11/beta
(148,)
BatchNorm_11/gamma
(148,)
BatchNorm_11/moving_mean
(148,)
BatchNorm_11/moving_variance
(15984,)
Variable_12
(160,)
BatchNorm_12/beta
(160,)
BatchNorm_12/gamma
(160,)
BatchNorm_12/moving_mean
(160,)
BatchNorm_12/moving_variance
(25600,)
Variable_13
(160,)
BatchNorm_13/beta
(160,)
BatchNorm_13/gamma
(160,)
BatchNorm_13/moving_mean
(160,)
BatchNorm_13/moving_variance
(17280,)
Variable_14
(172,)
BatchNorm_14/beta
(172,)
BatchNorm_14/gamma
(172,)
BatchNorm_14/moving_mean
(172,)
BatchNorm_14/moving_variance
(18576,)
Variable_15
(184,)
BatchNorm_15/beta
(184,)
BatchNorm_15/gamma
(184,)
BatchNorm_15/moving_mean
(184,)
BatchNorm_15/moving_variance
(19872,)
Variable_16
(196,)
BatchNorm_16/beta
(196,)
BatchNorm_16/gamma
(196,)
BatchNorm_16/moving_mean
(196,)
BatchNorm_16/moving_variance
(21168,)
Variable_17
(208,)
BatchNorm_17/beta
(208,)
BatchNorm_17/gamma
(208,)
BatchNorm_17/moving_mean
(208,)
BatchNorm_17/moving_variance
(22464,)
Variable_18
(220,)
BatchNorm_18/beta
(220,)
BatchNorm_18/gamma
(220,)
BatchNorm_18/moving_mean
(220,)
BatchNorm_18/moving_variance
(23760,)
Variable_19
(232,)
BatchNorm_19/beta
(232,)
BatchNorm_19/gamma
(232,)
BatchNorm_19/moving_mean
(232,)
BatchNorm_19/moving_variance
(25056,)
Variable_20
(244,)
BatchNorm_20/beta
(244,)
BatchNorm_20/gamma
(244,)
BatchNorm_20/moving_mean
(244,)
BatchNorm_20/moving_variance
(26352,)
Variable_21
(256,)
BatchNorm_21/beta
(256,)
BatchNorm_21/gamma
(256,)
BatchNorm_21/moving_mean
(256,)
BatchNorm_21/moving_variance
(27648,)
Variable_22
(268,)
BatchNorm_22/beta
(268,)
BatchNorm_22/gamma
(268,)
BatchNorm_22/moving_mean
(268,)
BatchNorm_22/moving_variance
(28944,)
Variable_23
(280,)
BatchNorm_23/beta
(280,)
BatchNorm_23/gamma
(280,)
BatchNorm_23/moving_mean
(280,)
BatchNorm_23/moving_variance
(30240,)
Variable_24
(292,)
BatchNorm_24/beta
(292,)
BatchNorm_24/gamma
(292,)
BatchNorm_24/moving_mean
(292,)
BatchNorm_24/moving_variance
(31536,)
Variable_25
(304,)
BatchNorm_25/beta
(304,)
BatchNorm_25/gamma
(304,)
BatchNorm_25/moving_mean
(304,)
BatchNorm_25/moving_variance
(92416,)
Variable_26
(304,)
BatchNorm_26/beta
(304,)
BatchNorm_26/gamma
(304,)
BatchNorm_26/moving_mean
(304,)
BatchNorm_26/moving_variance
(32832,)
Variable_27
(316,)
BatchNorm_27/beta
(316,)
BatchNorm_27/gamma
(316,)
BatchNorm_27/moving_mean
(316,)
BatchNorm_27/moving_variance
(34128,)
Variable_28
(328,)
BatchNorm_28/beta
(328,)
BatchNorm_28/gamma
(328,)
BatchNorm_28/moving_mean
(328,)
BatchNorm_28/moving_variance
(35424,)
Variable_29
(340,)
BatchNorm_29/beta
(340,)
BatchNorm_29/gamma
(340,)
BatchNorm_29/moving_mean
(340,)
BatchNorm_29/moving_variance
(36720,)
Variable_30
(352,)
BatchNorm_30/beta
(352,)
BatchNorm_30/gamma
(352,)
BatchNorm_30/moving_mean
(352,)
BatchNorm_30/moving_variance
(38016,)
Variable_31
(364,)
BatchNorm_31/beta
(364,)
BatchNorm_31/gamma
(364,)
BatchNorm_31/moving_mean
(364,)
BatchNorm_31/moving_variance
(39312,)
Variable_32
(376,)
BatchNorm_32/beta
(376,)
BatchNorm_32/gamma
(376,)
BatchNorm_32/moving_mean
(376,)
BatchNorm_32/moving_variance
(40608,)
Variable_33
(388,)
BatchNorm_33/beta
(388,)
BatchNorm_33/gamma
(388,)
BatchNorm_33/moving_mean
(388,)
BatchNorm_33/moving_variance
(41904,)
Variable_34
(400,)
BatchNorm_34/beta
(400,)
BatchNorm_34/gamma
(400,)
BatchNorm_34/moving_mean
(400,)
BatchNorm_34/moving_variance
(43200,)
Variable_35
(412,)
BatchNorm_35/beta
(412,)
BatchNorm_35/gamma
(412,)
BatchNorm_35/moving_mean
(412,)
BatchNorm_35/moving_variance
(44496,)
Variable_36
(424,)
BatchNorm_36/beta
(424,)
BatchNorm_36/gamma
(424,)
BatchNorm_36/moving_mean
(424,)
BatchNorm_36/moving_variance
(45792,)
Variable_37
(436,)
BatchNorm_37/beta
(436,)
BatchNorm_37/gamma
(436,)
BatchNorm_37/moving_mean
(436,)
BatchNorm_37/moving_variance
(47088,)
Variable_38
(448,)
BatchNorm_38/beta
(448,)
BatchNorm_38/gamma
(448,)
BatchNorm_38/moving_mean
(448,)
BatchNorm_38/moving_variance
(4480,)
Variable_39
(10,)
Variable_40






    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    













    

In [ ]:

    




    

In [45]:

    

a = parm_dict['Variable_39'].eval()
b = np.reshape(a,[-1])
print(sum(b <=0.00001))
print(np.shape(b))
print('percentage',a/b)


    

    
Out[45]:





(4480,)

In [27]:

    

parm_dict={}
for k in tf.trainable_variables():
    parm_dict[k.name] = k
with tf.Session(graph=graph) as session:
    saver= tf.train.Saver(parm_dict) 
    saver.restore(session,"weights_densenet")


    

    




Variable:0
BatchNorm/beta:0
BatchNorm/gamma:0
Variable_1:0
BatchNorm_1/beta:0
BatchNorm_1/gamma:0
Variable_2:0
BatchNorm_2/beta:0
BatchNorm_2/gamma:0
Variable_3:0
BatchNorm_3/beta:0
BatchNorm_3/gamma:0
Variable_4:0
BatchNorm_4/beta:0
BatchNorm_4/gamma:0
Variable_5:0
BatchNorm_5/beta:0
BatchNorm_5/gamma:0
Variable_6:0
BatchNorm_6/beta:0
BatchNorm_6/gamma:0
Variable_7:0
BatchNorm_7/beta:0
BatchNorm_7/gamma:0
Variable_8:0
BatchNorm_8/beta:0
BatchNorm_8/gamma:0
Variable_9:0
BatchNorm_9/beta:0
BatchNorm_9/gamma:0
Variable_10:0
BatchNorm_10/beta:0
BatchNorm_10/gamma:0
Variable_11:0
BatchNorm_11/beta:0
BatchNorm_11/gamma:0
Variable_12:0
BatchNorm_12/beta:0
BatchNorm_12/gamma:0
Variable_13:0
BatchNorm_13/beta:0
BatchNorm_13/gamma:0
Variable_14:0
BatchNorm_14/beta:0
BatchNorm_14/gamma:0
Variable_15:0
BatchNorm_15/beta:0
BatchNorm_15/gamma:0
Variable_16:0
BatchNorm_16/beta:0
BatchNorm_16/gamma:0
Variable_17:0
BatchNorm_17/beta:0
BatchNorm_17/gamma:0
Variable_18:0
BatchNorm_18/beta:0
BatchNorm_18/gamma:0
Variable_19:0
BatchNorm_19/beta:0
BatchNorm_19/gamma:0
Variable_20:0
BatchNorm_20/beta:0
BatchNorm_20/gamma:0
Variable_21:0
BatchNorm_21/beta:0
BatchNorm_21/gamma:0
Variable_22:0
BatchNorm_22/beta:0
BatchNorm_22/gamma:0
Variable_23:0
BatchNorm_23/beta:0
BatchNorm_23/gamma:0
Variable_24:0
BatchNorm_24/beta:0
BatchNorm_24/gamma:0
Variable_25:0
BatchNorm_25/beta:0
BatchNorm_25/gamma:0
Variable_26:0
BatchNorm_26/beta:0
BatchNorm_26/gamma:0
Variable_27:0
BatchNorm_27/beta:0
BatchNorm_27/gamma:0
Variable_28:0
BatchNorm_28/beta:0
BatchNorm_28/gamma:0
Variable_29:0
BatchNorm_29/beta:0
BatchNorm_29/gamma:0
Variable_30:0
BatchNorm_30/beta:0
BatchNorm_30/gamma:0
Variable_31:0
BatchNorm_31/beta:0
BatchNorm_31/gamma:0
Variable_32:0
BatchNorm_32/beta:0
BatchNorm_32/gamma:0
Variable_33:0
BatchNorm_33/beta:0
BatchNorm_33/gamma:0
Variable_34:0
BatchNorm_34/beta:0
BatchNorm_34/gamma:0
Variable_35:0
BatchNorm_35/beta:0
BatchNorm_35/gamma:0
Variable_36:0
BatchNorm_36/beta:0
BatchNorm_36/gamma:0
Variable_37:0
BatchNorm_37/beta:0
BatchNorm_37/gamma:0
Variable_38:0
BatchNorm_38/beta:0
BatchNorm_38/gamma:0
Variable_39:0
Variable_40:0