In [4]:
import matplotlib
matplotlib.use('agg')
import cPickle as pickle
import os; import sys; sys.path.append('..')
import gp
import gp.nets as nets
import time

PATCH_PATH = ('ipmlb') # image, prob, binary, largeborder

In [10]:
import numpy as np
%pylab inline


Populating the interactive namespace from numpy and matplotlib

In [5]:
t0=time.time()
X_train, y_train, X_test, y_test = gp.Patch.load_rgba(PATCH_PATH)

print 'Training patches', y_train.shape[0]
print 'Test patches', y_test.shape[0]

# X_train, y_train, X_test, y_test = gp.Patch.load_rgb(PATCH_PATH)
# X_train = X_train[:,:-1,:,:]
# X_test = X_test[:,:-1,:,:]

print time.time()-t0


Loaded /home/d/patches//ipmlb/ in 0.0708060264587 seconds.
Training patches 225520
Test patches 17560
183.70971489

In [7]:
t0 =time.time()
X_train = np.delete(X_train, [0,2] , axis=1) # delete image + binary
print time.time() - t0


3.19832801819

In [8]:
X_train.shape


Out[8]:
(225520, 2, 75, 75)

In [14]:
imshow(X_train[0][0], cmap='gray')


Out[14]:
<matplotlib.image.AxesImage at 0x7f75e78c4850>

In [13]:
imshow(X_train[0][1], cmap='gray')


Out[13]:
<matplotlib.image.AxesImage at 0x7f75e7982410>

In [15]:
t0 =time.time()
X_test = np.delete(X_test, [0,2] , axis=1) # delete image + binary
print time.time() - t0


0.256724834442

In [16]:
cnn = nets.RGNetPlus()

cnn = cnn.fit(X_train, y_train)

test_accuracy = cnn.score(X_test, y_test)

print test_accuracy

# store CNN
sys.setrecursionlimit(1000000000)
with open(os.path.expanduser('~/Projects/gp/nets/PLB_FULL.p'), 'wb') as f:
  pickle.dump(cnn, f, -1)


CNN configuration: 
    Our CNN with image, prob, merged_array as RGB.

    This includes dropout. This also includes more layers.
    
# Neural Network with 170322 learnable parameters

## Layer information

  #  name      size
---  --------  --------
  0  input     2x75x75
  1  conv1     64x73x73
  2  pool1     64x36x36
  3  dropout1  64x36x36
  4  conv2     48x34x34
  5  pool2     48x17x17
  6  dropout2  48x17x17
  7  conv3     48x15x15
  8  pool3     48x7x7
  9  dropout3  48x7x7
 10  conv4     48x5x5
 11  pool4     48x2x2
 12  dropout4  48x2x2
 13  hidden5   512
 14  dropout5  512
 15  output    2

  epoch    trn loss    val loss    trn/val    valid acc  dur
-------  ----------  ----------  ---------  -----------  -------
      1     0.30147     0.29493    1.02218      0.88327  187.23s
      2     0.24007     0.24056    0.99795      0.90736  187.13s
      3     0.23588     0.24238    0.97319      0.90651  186.79s
      4     0.23405     0.23975    0.97624      0.90793  186.77s
      5     0.23141     0.24539    0.94302      0.90631  186.79s
      6     0.22937     0.23283    0.98512      0.91105  186.82s
      7     0.22737     0.23148    0.98226      0.91204  186.80s
      8     0.22667     0.23471    0.96575      0.91116  186.79s
      9     0.22463     0.23085    0.97306      0.91215  186.81s
     10     0.22410     0.22526    0.99485      0.91513  186.75s
     11     0.22176     0.22448    0.98786      0.91481  186.76s
     12     0.22142     0.22360    0.99024      0.91513  186.75s
     13     0.22095     0.22140    0.99797      0.91632  186.75s
     14     0.21847     0.22501    0.97091      0.91470  186.78s
     15     0.21805     0.21976    0.99225      0.91731  186.78s
     16     0.21687     0.21697    0.99951      0.91823  186.80s
     17     0.21486     0.21633    0.99321      0.91866  186.78s
     18     0.21493     0.21434    1.00279      0.91935  186.79s
     19     0.21437     0.21337    1.00469      0.91956  186.79s
     20     0.21265     0.21493    0.98940      0.91940  186.84s
     21     0.21229     0.21566    0.98436      0.91823  186.84s
     22     0.21096     0.21300    0.99043      0.91969  186.83s
     23     0.21142     0.20946    1.00936      0.92132  186.81s
     24     0.20987     0.20603    1.01867      0.92214  186.79s
     25     0.20842     0.20688    1.00744      0.92162  186.75s
     26     0.20849     0.20889    0.99811      0.92162  186.75s
     27     0.20762     0.20684    1.00377      0.92256  186.76s
     28     0.20643     0.20640    1.00014      0.92226  186.77s
     29     0.20585     0.20363    1.01094      0.92355  186.82s
     30     0.20524     0.20794    0.98704      0.92185  186.84s
     31     0.20439     0.20251    1.00925      0.92485  186.82s
     32     0.20427     0.20126    1.01494      0.92496  186.81s
     33     0.20380     0.20104    1.01369      0.92462  186.83s
     34     0.20148     0.20164    0.99922      0.92396  186.83s
     35     0.20134     0.20035    1.00494      0.92517  186.85s
     36     0.20163     0.19474    1.03540      0.92751  186.83s
     37     0.19953     0.19750    1.01026      0.92588  186.83s
     38     0.20010     0.19816    1.00981      0.92538  186.77s
     39     0.19870     0.19352    1.02672      0.92763  186.78s
     40     0.19877     0.19086    1.04144      0.92884  186.79s
     41     0.19776     0.19438    1.01738      0.92735  186.79s
     42     0.19642     0.19216    1.02215      0.92840  186.80s
     43     0.19677     0.19549    1.00652      0.92689  186.84s
     44     0.19568     0.18846    1.03827      0.93013  186.84s
     45     0.19510     0.18921    1.03115      0.92923  186.82s
     46     0.19473     0.18896    1.03053      0.92914  186.86s
     47     0.19411     0.19350    1.00311      0.92795  186.86s
     48     0.19238     0.19017    1.01160      0.92976  186.86s
     49     0.19253     0.18686    1.03032      0.93017  186.85s
     50     0.19237     0.18326    1.04973      0.93189  186.85s
     51     0.19272     0.18845    1.02266      0.93005  186.85s
     52     0.19171     0.18289    1.04824      0.93173  186.80s
     53     0.19110     0.18457    1.03535      0.93173  186.81s
     54     0.19004     0.18198    1.04431      0.93244  186.83s
     55     0.18915     0.18109    1.04455      0.93294  186.81s
     56     0.18902     0.18337    1.03078      0.93207  186.85s
     57     0.18774     0.18295    1.02623      0.93194  186.88s
     58     0.18762     0.17986    1.04316      0.93350  186.83s
     59     0.18635     0.18309    1.01783      0.93118  186.80s
     60     0.18644     0.17943    1.03904      0.93288  186.83s
     61     0.18617     0.17877    1.04139      0.93324  186.87s
     62     0.18499     0.17777    1.04060      0.93297  186.82s
     63     0.18547     0.17844    1.03937      0.93407  186.83s
     64     0.18435     0.17746    1.03883      0.93446  186.85s
     65     0.18404     0.17994    1.02282      0.93336  186.87s
     66     0.18398     0.17457    1.05391      0.93446  186.81s
     67     0.18268     0.17706    1.03172      0.93381  186.79s
     68     0.18182     0.17491    1.03948      0.93460  186.79s
     69     0.18239     0.18075    1.00905      0.93228  186.80s
     70     0.18152     0.17211    1.05469      0.93524  186.81s
     71     0.18046     0.17293    1.04357      0.93533  186.85s
     72     0.18001     0.17104    1.05240      0.93540  186.83s
     73     0.17988     0.17133    1.04991      0.93567  186.81s
     74     0.17950     0.17247    1.04079      0.93585  186.83s
     75     0.17968     0.17064    1.05301      0.93657  186.80s
     76     0.17872     0.17215    1.03819      0.93638  186.85s
     77     0.17793     0.17024    1.04520      0.93695  186.85s
     78     0.17914     0.16896    1.06025      0.93737  186.81s
     79     0.17639     0.17055    1.03423      0.93689  186.82s
     80     0.17718     0.16592    1.06786      0.93838  186.77s
     81     0.17474     0.16762    1.04246      0.93792  186.75s
     82     0.17621     0.16919    1.04148      0.93737  186.68s
     83     0.17638     0.16484    1.06998      0.93874  186.67s
     84     0.17427     0.16575    1.05136      0.93861  186.71s
     85     0.17469     0.16770    1.04168      0.93776  186.73s
     86     0.17345     0.16460    1.05377      0.93877  186.73s
     87     0.17368     0.16393    1.05943      0.93899  186.77s
     88     0.17415     0.16335    1.06614      0.93943  186.78s
     89     0.17226     0.16272    1.05860      0.93961  186.75s
     90     0.17132     0.16371    1.04646      0.93968  186.70s
     91     0.17213     0.16452    1.04626      0.93930  186.77s
     92     0.17066     0.16300    1.04697      0.93977  186.78s
     93     0.17093     0.16054    1.06471      0.93993  186.73s
     94     0.17003     0.15988    1.06347      0.94097  186.68s
     95     0.17072     0.16041    1.06426      0.94014  186.70s
     96     0.17034     0.15949    1.06800      0.94074  186.73s
     97     0.16984     0.16025    1.05982      0.94040  186.71s
     98     0.16801     0.16156    1.03990      0.94039  186.74s
     99     0.16804     0.15621    1.07575      0.94191  186.69s
    100     0.16860     0.16529    1.02003      0.93923  186.73s
    101     0.16793     0.16027    1.04776      0.94067  186.72s
    102     0.16707     0.15617    1.06978      0.94255  186.76s
    103     0.16760     0.16041    1.04488      0.94056  186.74s
    104     0.16629     0.15908    1.04533      0.94145  186.78s
    105     0.16730     0.16116    1.03807      0.94003  186.90s
    106     0.16641     0.15808    1.05268      0.94220  186.76s
    107     0.16649     0.15865    1.04943      0.94186  186.77s
    108     0.16540     0.15535    1.06465      0.94296  186.74s
    109     0.16667     0.15434    1.07993      0.94372  186.69s
    110     0.16521     0.15331    1.07766      0.94358  186.70s
    111     0.16490     0.15503    1.06372      0.94326  186.72s
    112     0.16375     0.15818    1.03522      0.94126  186.72s
    113     0.16446     0.15662    1.05006      0.94170  186.75s
    114     0.16341     0.15827    1.03247      0.94129  186.72s
    115     0.16304     0.15686    1.03940      0.94177  186.72s
    116     0.16265     0.15141    1.07423      0.94408  186.73s
    117     0.16241     0.15403    1.05444      0.94269  186.74s
    118     0.16193     0.15343    1.05539      0.94305  186.75s
    119     0.16256     0.15284    1.06360      0.94278  186.73s
    120     0.16165     0.15170    1.06558      0.94431  186.75s
    121     0.16141     0.15162    1.06462      0.94372  186.71s
    122     0.16074     0.15296    1.05085      0.94259  186.70s
    123     0.16025     0.15082    1.06257      0.94425  186.71s
    124     0.16007     0.15202    1.05297      0.94418  186.70s
    125     0.16057     0.15249    1.05295      0.94399  186.71s
    126     0.15978     0.15097    1.05833      0.94438  186.73s
    127     0.15878     0.15132    1.04929      0.94464  186.77s
    128     0.15936     0.15140    1.05257      0.94463  186.75s
    129     0.15980     0.15302    1.04436      0.94429  186.73s
    130     0.15904     0.14833    1.07225      0.94597  186.76s
    131     0.15961     0.14639    1.09036      0.94681  186.75s
    132     0.15755     0.15026    1.04854      0.94463  186.77s
    133     0.15835     0.15349    1.03166      0.94347  186.75s
    134     0.15756     0.14502    1.08646      0.94725  186.76s
    135     0.15743     0.14887    1.05745      0.94487  186.74s
    136     0.15842     0.15173    1.04413      0.94452  186.70s
    137     0.15674     0.14647    1.07014      0.94645  186.68s
    138     0.15712     0.15033    1.04519      0.94484  186.69s
    139     0.15745     0.14802    1.06371      0.94546  186.70s
    140     0.15606     0.14611    1.06808      0.94714  186.72s
    141     0.15682     0.15080    1.03997      0.94509  186.73s
    142     0.15484     0.14772    1.04821      0.94599  186.75s
    143     0.15550     0.14687    1.05873      0.94645  186.73s
    144     0.15614     0.14806    1.05452      0.94596  186.75s
    145     0.15562     0.14775    1.05331      0.94645  186.72s
    146     0.15506     0.14340    1.08134      0.94762  186.76s
    147     0.15504     0.14499    1.06928      0.94677  186.73s
    148     0.15418     0.14364    1.07341      0.94697  186.75s
    149     0.15384     0.14202    1.08328      0.94798  186.72s
    150     0.15463     0.14357    1.07705      0.94720  186.72s
    151     0.15376     0.14266    1.07787      0.94849  186.72s
    152     0.15302     0.14343    1.06693      0.94817  186.72s
    153     0.15382     0.14612    1.05264      0.94636  186.72s
    154     0.15376     0.14466    1.06286      0.94706  186.74s
    155     0.15315     0.14427    1.06155      0.94796  186.77s
    156     0.15269     0.14021    1.08903      0.94966  186.75s
    157     0.15245     0.14278    1.06770      0.94856  186.71s
    158     0.15183     0.14022    1.08281      0.94970  186.75s
    159     0.15179     0.14100    1.07656      0.94949  186.72s
    160     0.15151     0.14225    1.06506      0.94906  186.74s
    161     0.15209     0.13838    1.09901      0.95050  186.73s
    162     0.15309     0.13925    1.09933      0.94934  186.69s
    163     0.15191     0.14113    1.07640      0.94931  186.71s
    164     0.15006     0.14139    1.06132      0.94934  186.70s
    165     0.15092     0.13866    1.08839      0.95073  186.70s
    166     0.15021     0.14340    1.04749      0.94759  186.70s
    167     0.15095     0.14334    1.05311      0.94780  186.69s
    168     0.15065     0.13990    1.07681      0.94910  186.71s
    169     0.15061     0.13815    1.09020      0.95023  186.71s
    170     0.15038     0.13801    1.08962      0.95011  186.69s
    171     0.14866     0.13883    1.07084      0.95043  186.76s
    172     0.15050     0.13916    1.08150      0.95011  186.72s
    173     0.14978     0.13614    1.10017      0.95121  186.76s
    174     0.14876     0.13426    1.10805      0.95277  186.72s
    175     0.14963     0.13570    1.10261      0.95184  186.75s
    176     0.14848     0.13748    1.08001      0.95051  186.76s
    177     0.14839     0.13612    1.09014      0.95110  186.76s
    178     0.14814     0.13357    1.10907      0.95266  186.72s
    179     0.14810     0.13579    1.09066      0.95223  186.64s
    180     0.14818     0.13650    1.08553      0.95200  186.66s
    181     0.14876     0.13882    1.07161      0.94972  186.67s
    182     0.14766     0.14097    1.04745      0.94927  186.66s
    183     0.14800     0.13821    1.07081      0.94995  186.66s
    184     0.14815     0.13933    1.06326      0.94972  186.71s
    185     0.14756     0.13588    1.08598      0.95138  186.69s
    186     0.14615     0.13451    1.08655      0.95202  186.70s
    187     0.14715     0.13447    1.09429      0.95202  186.68s
    188     0.14696     0.13749    1.06886      0.95028  186.65s
    189     0.14733     0.13354    1.10332      0.95190  186.68s
    190     0.14660     0.13556    1.08143      0.95131  186.74s
    191     0.14688     0.13617    1.07870      0.95110  186.74s
    192     0.14518     0.13764    1.05476      0.95043  186.71s
    193     0.14518     0.13426    1.08131      0.95170  186.70s
    194     0.14518     0.13291    1.09229      0.95229  186.72s
    195     0.14523     0.13490    1.07657      0.95192  186.67s
    196     0.14520     0.13128    1.10606      0.95266  186.66s
    197     0.14635     0.14014    1.04429      0.94881  186.73s
    198     0.14638     0.13283    1.10197      0.95245  186.75s
    199     0.14530     0.13666    1.06319      0.95078  186.72s
    200     0.14444     0.13041    1.10754      0.95309  186.75s
    201     0.14539     0.13416    1.08366      0.95129  186.66s
    202     0.14499     0.13532    1.07141      0.95082  186.71s
    203     0.14435     0.13260    1.08855      0.95261  186.68s
    204     0.14390     0.13691    1.05103      0.95078  186.68s
    205     0.14523     0.13454    1.07944      0.95168  186.67s
    206     0.14359     0.13203    1.08750      0.95231  186.63s
    207     0.14477     0.13439    1.07718      0.95204  186.64s
    208     0.14300     0.13478    1.06103      0.95209  186.65s
    209     0.14307     0.13390    1.06848      0.95174  186.65s
    210     0.14364     0.13159    1.09158      0.95371  186.63s
    211     0.14322     0.13094    1.09372      0.95321  186.67s
    212     0.14373     0.13049    1.10152      0.95406  186.69s
    213     0.14277     0.12992    1.09894      0.95394  186.70s
    214     0.14306     0.12771    1.12016      0.95546  186.71s
    215     0.14204     0.13090    1.08516      0.95302  186.67s
    216     0.14272     0.12840    1.11154      0.95472  186.69s
    217     0.14196     0.13100    1.08361      0.95275  186.70s
    218     0.14199     0.13287    1.06870      0.95160  186.71s
    219     0.14223     0.12813    1.11003      0.95481  186.70s
    220     0.14201     0.12922    1.09899      0.95367  186.66s
    221     0.14306     0.13056    1.09572      0.95335  186.66s
    222     0.14218     0.12866    1.10508      0.95431  186.67s
    223     0.14180     0.12997    1.09102      0.95348  186.69s
    224     0.14174     0.12940    1.09544      0.95390  186.70s
    225     0.14145     0.12743    1.11001      0.95468  186.70s
    226     0.14133     0.13234    1.06792      0.95275  186.74s
    227     0.14112     0.12560    1.12357      0.95518  186.75s
    228     0.14057     0.12947    1.08576      0.95399  186.71s
    229     0.14100     0.13003    1.08440      0.95396  186.68s
    230     0.13965     0.12634    1.10534      0.95568  186.72s
    231     0.14036     0.12647    1.10979      0.95546  186.72s
    232     0.14056     0.12781    1.09975      0.95454  186.72s
    233     0.14044     0.12665    1.10889      0.95505  186.67s
    234     0.14037     0.12573    1.11644      0.95555  186.66s
    235     0.14004     0.12536    1.11705      0.95598  186.66s
    236     0.13892     0.12708    1.09319      0.95491  186.63s
    237     0.14040     0.12478    1.12520      0.95670  186.63s
    238     0.14050     0.12630    1.11244      0.95537  186.65s
    239     0.13860     0.12373    1.12015      0.95644  186.67s
    240     0.13896     0.12875    1.07927      0.95396  186.72s
    241     0.13943     0.12257    1.13759      0.95667  186.69s
    242     0.13851     0.12119    1.14292      0.95740  186.65s
    243     0.13896     0.12637    1.09957      0.95511  186.64s
    244     0.13906     0.12738    1.09167      0.95415  186.64s
    245     0.13824     0.12574    1.09946      0.95518  186.63s
    246     0.13769     0.12529    1.09898      0.95546  186.65s
    247     0.13879     0.12515    1.10905      0.95571  186.67s
    248     0.13784     0.12230    1.12705      0.95692  186.62s
    249     0.13776     0.12503    1.10182      0.95484  186.64s
    250     0.13748     0.12250    1.12225      0.95669  186.64s
    251     0.13860     0.12804    1.08248      0.95372  186.63s
    252     0.13804     0.12245    1.12738      0.95662  186.64s
    253     0.13740     0.12253    1.12139      0.95683  186.67s
    254     0.13918     0.12474    1.11578      0.95571  186.67s
    255     0.13734     0.12846    1.06910      0.95413  186.67s
    256     0.13867     0.12746    1.08794      0.95431  186.64s
    257     0.13794     0.12364    1.11569      0.95592  186.65s
    258     0.13745     0.12985    1.05855      0.95396  186.64s
    259     0.13686     0.12184    1.12322      0.95727  186.65s
    260     0.13695     0.12269    1.11628      0.95688  186.64s
    261     0.13695     0.12453    1.09973      0.95560  186.65s
    262     0.13652     0.12354    1.10507      0.95615  186.63s
    263     0.13702     0.12175    1.12546      0.95782  186.63s
    264     0.13638     0.12211    1.11689      0.95628  186.63s
    265     0.13762     0.12120    1.13546      0.95706  186.62s
    266     0.13586     0.12145    1.11865      0.95651  186.64s
    267     0.13701     0.12181    1.12475      0.95662  186.64s
    268     0.13699     0.12111    1.13104      0.95717  186.64s
    269     0.13711     0.11948    1.14751      0.95832  186.69s
    270     0.13563     0.11961    1.13387      0.95850  186.65s
    271     0.13574     0.12259    1.10722      0.95639  186.66s
    272     0.13608     0.12027    1.13147      0.95803  186.66s
    273     0.13547     0.12230    1.10761      0.95685  186.66s
    274     0.13426     0.12108    1.10884      0.95713  186.66s
    275     0.13570     0.12144    1.11743      0.95766  186.66s
    276     0.13577     0.11759    1.15458      0.95890  186.63s
    277     0.13462     0.12524    1.07492      0.95571  186.70s
    278     0.13661     0.12171    1.12236      0.95697  186.69s
    279     0.13525     0.12169    1.11149      0.95766  186.70s
    280     0.13365     0.12329    1.08406      0.95619  186.70s
    281     0.13507     0.12231    1.10435      0.95692  186.72s
    282     0.13572     0.11865    1.14390      0.95779  186.74s
    283     0.13474     0.12220    1.10256      0.95651  186.73s
    284     0.13499     0.12363    1.09190      0.95600  186.73s
    285     0.13278     0.12250    1.08394      0.95640  186.74s
    286     0.13464     0.12655    1.06394      0.95404  186.74s
    287     0.13412     0.12260    1.09404      0.95600  186.74s
    288     0.13433     0.12142    1.10633      0.95694  186.75s
    289     0.13351     0.12402    1.07648      0.95582  186.74s
    290     0.13321     0.11914    1.11806      0.95812  186.70s
    291     0.13279     0.11720    1.13307      0.95915  186.69s
    292     0.13339     0.12232    1.09057      0.95701  186.65s
    293     0.13337     0.12044    1.10732      0.95793  186.65s
    294     0.13351     0.12184    1.09578      0.95699  186.66s
    295     0.13314     0.12115    1.09896      0.95717  186.68s
    296     0.13330     0.11808    1.12891      0.95839  186.71s
    297     0.13273     0.11864    1.11878      0.95899  186.69s
    298     0.13232     0.12090    1.09443      0.95740  186.70s
    299     0.13303     0.11737    1.13343      0.95871  186.70s
    300     0.13420     0.11962    1.12190      0.95731  186.70s
    301     0.13216     0.11604    1.13890      0.95917  186.72s
    302     0.13309     0.11968    1.11211      0.95775  186.66s
    303     0.13298     0.12045    1.10401      0.95725  186.64s
    304     0.13250     0.11827    1.12033      0.95811  186.62s
    305     0.13240     0.11643    1.13718      0.95901  186.60s
    306     0.13168     0.11647    1.13062      0.95981  186.61s
    307     0.13330     0.11625    1.14661      0.95942  186.65s
    308     0.13255     0.11937    1.11041      0.95789  186.63s
    309     0.13194     0.11775    1.12055      0.95938  186.63s
    310     0.13246     0.11511    1.15079      0.96031  186.66s
    311     0.13339     0.12049    1.10708      0.95812  186.69s
    312     0.13096     0.11767    1.11291      0.95922  186.69s
    313     0.13140     0.11386    1.15408      0.96027  186.70s
    314     0.13036     0.12093    1.07799      0.95667  186.77s
    315     0.13060     0.11463    1.13925      0.96007  186.77s
    316     0.13238     0.11521    1.14898      0.95990  186.73s
    317     0.13153     0.12096    1.08731      0.95662  186.75s
    318     0.13132     0.12101    1.08523      0.95748  186.70s
    319     0.13127     0.11763    1.11600      0.95917  186.71s
    320     0.13107     0.11317    1.15822      0.96130  186.71s
    321     0.13050     0.11382    1.14653      0.96093  186.61s
    322     0.13095     0.11361    1.15258      0.96094  186.68s
    323     0.13188     0.11933    1.10523      0.95757  186.71s
    324     0.13154     0.11699    1.12435      0.95933  186.72s
    325     0.13052     0.11628    1.12249      0.95961  186.72s
    326     0.13050     0.11830    1.10308      0.95846  186.71s
    327     0.13034     0.11559    1.12761      0.95937  186.70s
    328     0.13161     0.11485    1.14597      0.96052  186.72s
    329     0.13171     0.11925    1.10444      0.95773  186.70s
    330     0.13072     0.11451    1.14159      0.96039  186.68s
    331     0.13131     0.11630    1.12906      0.95869  186.70s
    332     0.13018     0.11191    1.16330      0.96128  186.69s
    333     0.13054     0.11788    1.10737      0.95850  186.71s
    334     0.12867     0.11289    1.13973      0.96061  186.70s
    335     0.12873     0.11415    1.12768      0.96098  186.69s
    336     0.13128     0.11587    1.13300      0.95974  186.71s
    337     0.13080     0.11690    1.11892      0.95857  186.67s
    338     0.12946     0.11392    1.13641      0.95991  186.72s
    339     0.12944     0.11595    1.11637      0.95963  186.71s
    340     0.13010     0.11545    1.12690      0.95999  186.74s
    341     0.12888     0.11459    1.12471      0.96002  186.73s
    342     0.12982     0.11668    1.11268      0.95945  186.72s
    343     0.12883     0.11476    1.12257      0.96002  186.73s
    344     0.12903     0.11312    1.14062      0.96091  186.74s
    345     0.12916     0.11428    1.13012      0.96153  186.74s
    346     0.12920     0.11165    1.15726      0.96135  186.70s
    347     0.12959     0.11411    1.13562      0.96016  186.67s
    348     0.12873     0.11319    1.13727      0.96080  186.69s
    349     0.12845     0.11420    1.12478      0.96007  186.71s
    350     0.12808     0.11564    1.10757      0.95878  186.69s
    351     0.12877     0.11206    1.14915      0.96085  186.72s
    352     0.12803     0.11047    1.15896      0.96194  186.73s
    353     0.12797     0.11646    1.09888      0.95830  186.72s
    354     0.12768     0.11018    1.15880      0.96219  186.72s
    355     0.12787     0.11255    1.13606      0.96073  186.73s
    356     0.12808     0.11587    1.10543      0.95984  186.76s
    357     0.12731     0.11377    1.11898      0.96032  186.75s
    358     0.12811     0.11409    1.12290      0.96039  186.74s
    359     0.12702     0.11529    1.10181      0.95981  186.75s
    360     0.12807     0.11182    1.14532      0.96110  186.72s
    361     0.12718     0.11233    1.13223      0.96084  186.72s
    362     0.12813     0.11768    1.08881      0.95805  186.73s
    363     0.12823     0.11593    1.10609      0.95883  186.74s
    364     0.12806     0.11296    1.13366      0.96094  186.74s
    365     0.12884     0.11217    1.14858      0.96020  186.73s
    366     0.12772     0.11255    1.13481      0.96059  186.76s
    367     0.12726     0.10977    1.15937      0.96219  186.76s
    368     0.12614     0.11132    1.13315      0.96059  186.73s
    369     0.12815     0.10917    1.17380      0.96291  186.71s
    370     0.12767     0.10933    1.16775      0.96263  186.73s
    371     0.12807     0.11395    1.12392      0.96002  186.73s
    372     0.12737     0.10827    1.17639      0.96327  186.73s
    373     0.12680     0.11137    1.13853      0.96174  186.71s
    374     0.12618     0.11015    1.14555      0.96183  186.69s
    375     0.12666     0.11633    1.08886      0.95866  186.69s
    376     0.12644     0.11258    1.12318      0.96034  186.67s
    377     0.12693     0.11100    1.14351      0.96188  186.71s
    378     0.12781     0.10879    1.17482      0.96268  186.73s
    379     0.12626     0.11531    1.09499      0.95965  186.72s
    380     0.12709     0.11032    1.15204      0.96187  186.72s
    381     0.12634     0.10959    1.15290      0.96210  186.71s
    382     0.12651     0.11196    1.13002      0.96100  186.75s
    383     0.12415     0.10910    1.13793      0.96176  186.73s
    384     0.12631     0.11318    1.11603      0.95991  186.75s
    385     0.12668     0.11158    1.13533      0.96038  186.75s
    386     0.12560     0.11270    1.11450      0.96009  186.76s
    387     0.12599     0.11567    1.08918      0.95862  186.73s
    388     0.12576     0.10898    1.15393      0.96203  186.71s
    389     0.12564     0.11090    1.13292      0.96125  186.69s
    390     0.12568     0.11116    1.13060      0.96187  186.75s
    391     0.12560     0.10816    1.16125      0.96282  186.72s
    392     0.12498     0.10855    1.15137      0.96211  186.71s
    393     0.12609     0.11037    1.14243      0.96133  186.72s
    394     0.12522     0.11104    1.12772      0.96114  186.75s
    395     0.12532     0.11381    1.10109      0.96007  186.74s
    396     0.12486     0.10713    1.16549      0.96297  186.75s
    397     0.12414     0.10553    1.17629      0.96389  186.70s
    398     0.12564     0.10851    1.15785      0.96226  186.74s
    399     0.12537     0.10833    1.15728      0.96234  186.74s
    400     0.12564     0.11104    1.13150      0.96185  186.71s
    401     0.12612     0.11000    1.14654      0.96151  186.67s
    402     0.12394     0.10599    1.16934      0.96352  186.74s
    403     0.12512     0.10886    1.14936      0.96252  186.75s
    404     0.12601     0.10568    1.19231      0.96403  186.75s
    405     0.12420     0.10879    1.14166      0.96210  186.75s
    406     0.12537     0.11012    1.13845      0.96146  186.75s
    407     0.12439     0.10699    1.16264      0.96364  186.78s
    408     0.12475     0.10881    1.14650      0.96181  186.77s
    409     0.12394     0.10884    1.13875      0.96240  186.76s
    410     0.12448     0.11051    1.12636      0.96089  186.78s
    411     0.12414     0.10696    1.16061      0.96327  186.79s
    412     0.12321     0.10720    1.14938      0.96318  186.78s
    413     0.12472     0.10857    1.14876      0.96247  186.80s
    414     0.12343     0.10859    1.13666      0.96231  186.75s
    415     0.12470     0.10670    1.16873      0.96328  186.75s
    416     0.12327     0.11076    1.11303      0.95988  186.71s
    417     0.12416     0.10578    1.17376      0.96430  186.72s
    418     0.12336     0.11257    1.09584      0.95976  186.75s
    419     0.12279     0.10650    1.15296      0.96263  186.75s
    420     0.12438     0.11159    1.11461      0.96009  186.74s
    421     0.12374     0.11216    1.10326      0.96046  186.76s
    422     0.12337     0.10706    1.15233      0.96291  186.79s
    423     0.12359     0.10473    1.18008      0.96435  186.79s
    424     0.12453     0.10789    1.15427      0.96215  186.78s
    425     0.12364     0.10841    1.14045      0.96208  186.79s
    426     0.12313     0.10334    1.19150      0.96476  186.78s
    427     0.12397     0.10926    1.13458      0.96162  186.76s
    428     0.12272     0.10781    1.13837      0.96164  186.77s
    429     0.12232     0.10617    1.15206      0.96346  186.77s
    430     0.12305     0.10997    1.11890      0.96096  186.73s
    431     0.12337     0.10792    1.14315      0.96289  186.71s
    432     0.12330     0.10670    1.15560      0.96240  186.72s
    433     0.12338     0.10512    1.17372      0.96360  186.76s
    434     0.12233     0.10853    1.12722      0.96215  186.75s
    435     0.12238     0.11033    1.10923      0.96105  186.80s
    436     0.12339     0.10741    1.14877      0.96270  186.79s
    437     0.12171     0.10333    1.17788      0.96424  186.76s
    438     0.12268     0.10633    1.15376      0.96274  186.77s
    439     0.12219     0.10480    1.16596      0.96357  186.76s
    440     0.12312     0.10522    1.17005      0.96412  186.73s
    441     0.12315     0.10876    1.13229      0.96204  186.77s
    442     0.12236     0.10495    1.16587      0.96389  186.74s
    443     0.12325     0.10818    1.13936      0.96158  186.76s
    444     0.12410     0.10415    1.19159      0.96421  186.70s
    445     0.12103     0.10100    1.19832      0.96603  186.74s
    446     0.12231     0.11270    1.08524      0.95926  186.74s
    447     0.12183     0.10758    1.13248      0.96282  186.74s
    448     0.12232     0.10376    1.17889      0.96472  186.75s
    449     0.12116     0.10584    1.14471      0.96336  186.77s
    450     0.12210     0.10437    1.16991      0.96426  186.76s
    451     0.12212     0.10862    1.12431      0.96165  186.77s
    452     0.12231     0.11052    1.10676      0.96075  186.76s
    453     0.12246     0.10318    1.18685      0.96449  186.78s
    454     0.12107     0.10559    1.14663      0.96375  186.75s
    455     0.12181     0.10843    1.12333      0.96224  186.72s
    456     0.12321     0.10571    1.16561      0.96407  186.77s
    457     0.12089     0.10121    1.19443      0.96584  186.76s
    458     0.12124     0.10709    1.13217      0.96203  186.73s
    459     0.12176     0.10576    1.15120      0.96357  186.75s
    460     0.12239     0.10281    1.19042      0.96529  186.74s
    461     0.12111     0.10704    1.13143      0.96254  186.75s
    462     0.12143     0.10450    1.16203      0.96373  186.75s
    463     0.12050     0.10504    1.14714      0.96343  186.77s
    464     0.12162     0.10536    1.15434      0.96323  186.77s
    465     0.12134     0.10628    1.14169      0.96286  186.78s
    466     0.12042     0.10382    1.15991      0.96417  186.77s
    467     0.12183     0.10500    1.16033      0.96325  186.79s
    468     0.12045     0.10642    1.13186      0.96208  186.76s
    469     0.12085     0.10413    1.16061      0.96389  186.78s
    470     0.12060     0.10220    1.18009      0.96573  186.76s
    471     0.12091     0.10768    1.12296      0.96258  186.77s
    472     0.11993     0.10372    1.15627      0.96485  186.75s
    473     0.12004     0.10523    1.14070      0.96360  186.74s
    474     0.12095     0.10372    1.16616      0.96437  186.74s
    475     0.11982     0.10401    1.15202      0.96399  186.73s
    476     0.12040     0.10402    1.15744      0.96391  186.75s
    477     0.12114     0.10528    1.15061      0.96369  186.74s
    478     0.12066     0.10241    1.17824      0.96501  186.76s
    479     0.12076     0.10369    1.16468      0.96339  186.75s
    480     0.11979     0.10015    1.19605      0.96623  186.73s
    481     0.11974     0.10704    1.11861      0.96201  186.79s
    482     0.12002     0.10315    1.16357      0.96399  186.77s
    483     0.12007     0.10340    1.16117      0.96378  186.79s
    484     0.11989     0.10479    1.14414      0.96311  186.77s
    485     0.12097     0.10259    1.17923      0.96506  186.76s
    486     0.11977     0.10276    1.16555      0.96488  186.74s
    487     0.12081     0.10348    1.16751      0.96375  186.76s
    488     0.12117     0.10546    1.14899      0.96325  186.74s
    489     0.11974     0.10132    1.18186      0.96540  186.76s
    490     0.12076     0.10864    1.11157      0.96109  186.76s
    491     0.11998     0.10304    1.16442      0.96424  186.73s
    492     0.12071     0.10546    1.14458      0.96330  186.77s
    493     0.11978     0.10312    1.16151      0.96376  186.79s
    494     0.12156     0.10568    1.15019      0.96249  186.79s
    495     0.11873     0.09978    1.18998      0.96550  186.77s
    496     0.11994     0.10133    1.18365      0.96486  186.77s
    497     0.11927     0.10495    1.13644      0.96316  186.77s
    498     0.11972     0.10284    1.16419      0.96499  186.76s
    499     0.11795     0.10353    1.13924      0.96412  186.73s
    500     0.11875     0.10106    1.17504      0.96508  186.73s
    501     0.11812     0.10402    1.13554      0.96405  186.73s
    502     0.11866     0.10236    1.15920      0.96424  186.75s
    503     0.11917     0.10469    1.13831      0.96371  186.73s
    504     0.11928     0.10413    1.14551      0.96360  186.76s
    505     0.11989     0.10178    1.17788      0.96433  186.79s
    506     0.11802     0.10197    1.15736      0.96593  186.78s
    507     0.11803     0.10329    1.14264      0.96410  186.77s
    508     0.11794     0.10109    1.16668      0.96483  186.75s
    509     0.12012     0.10085    1.19107      0.96518  186.77s
    510     0.11777     0.10429    1.12926      0.96327  186.78s
    511     0.11957     0.10008    1.19472      0.96591  186.74s
    512     0.11986     0.10448    1.14720      0.96313  186.74s
    513     0.11740     0.10125    1.15949      0.96520  186.77s
    514     0.11860     0.09911    1.19671      0.96694  186.73s
    515     0.11805     0.10082    1.17090      0.96529  186.73s
    516     0.11762     0.10064    1.16878      0.96531  186.71s
    517     0.11868     0.10092    1.17590      0.96595  186.74s
    518     0.11836     0.10774    1.09863      0.96087  186.75s
    519     0.11875     0.10163    1.16846      0.96515  186.76s
    520     0.11868     0.10282    1.15423      0.96428  186.78s
    521     0.11788     0.10617    1.11030      0.96270  186.74s
    522     0.11901     0.10114    1.17662      0.96547  186.75s
    523     0.11730     0.10359    1.13233      0.96444  186.76s
    524     0.11899     0.10041    1.18502      0.96628  186.76s
    525     0.11876     0.10557    1.12492      0.96266  186.76s
    526     0.11883     0.10120    1.17419      0.96579  186.76s
    527     0.11801     0.10268    1.14936      0.96485  186.76s
    528     0.11700     0.10348    1.13062      0.96399  186.72s
    529     0.11817     0.10116    1.16822      0.96554  186.73s
    530     0.11813     0.10120    1.16726      0.96540  186.72s
    531     0.11720     0.09997    1.17230      0.96609  186.74s
    532     0.11799     0.09931    1.18808      0.96612  186.75s
    533     0.11839     0.10101    1.17202      0.96525  186.74s
    534     0.11754     0.09926    1.18411      0.96634  186.76s
    535     0.11807     0.10013    1.17909      0.96623  186.76s
    536     0.11799     0.10292    1.14642      0.96352  186.75s
    537     0.11657     0.09918    1.17538      0.96710  186.78s
    538     0.11743     0.10229    1.14796      0.96467  186.74s
    539     0.11730     0.09968    1.17680      0.96609  186.75s
    540     0.11780     0.09853    1.19554      0.96628  186.74s
    541     0.11792     0.09981    1.18148      0.96527  186.71s
    542     0.11653     0.09908    1.17617      0.96587  186.67s
    543     0.11685     0.10462    1.11685      0.96238  186.68s
    544     0.11856     0.10124    1.17109      0.96516  186.69s
    545     0.11837     0.09886    1.19729      0.96646  186.70s
    546     0.11669     0.09767    1.19471      0.96673  186.71s
    547     0.11689     0.10364    1.12781      0.96277  186.79s
    548     0.11723     0.09735    1.20418      0.96639  186.77s
    549     0.11636     0.10128    1.14894      0.96431  186.74s
    550     0.11764     0.10235    1.14939      0.96378  186.73s
    551     0.11837     0.10510    1.12627      0.96211  186.71s
    552     0.11668     0.10230    1.14063      0.96412  186.73s
    553     0.11778     0.09856    1.19498      0.96634  186.71s
    554     0.11769     0.09765    1.20521      0.96674  186.71s
    555     0.11690     0.10468    1.11678      0.96318  186.69s
    556     0.11652     0.09883    1.17903      0.96635  186.69s
    557     0.11728     0.10288    1.14006      0.96357  186.69s
    558     0.11576     0.10099    1.14630      0.96467  186.68s
    559     0.11743     0.10069    1.16632      0.96492  186.71s
    560     0.11618     0.10133    1.14657      0.96511  186.55s
    561     0.11686     0.10299    1.13466      0.96362  186.65s
    562     0.11654     0.09992    1.16632      0.96547  186.66s
    563     0.11657     0.09957    1.17071      0.96527  186.69s
    564     0.11606     0.10081    1.15125      0.96541  186.68s
    565     0.11627     0.10232    1.13635      0.96412  186.68s
    566     0.11631     0.09918    1.17276      0.96591  186.67s
    567     0.11720     0.09810    1.19471      0.96611  186.68s
    568     0.11557     0.10112    1.14286      0.96516  186.67s
    569     0.11639     0.10224    1.13844      0.96405  186.67s
    570     0.11644     0.09857    1.18125      0.96662  186.64s
    571     0.11641     0.10055    1.15781      0.96511  186.62s
    572     0.11549     0.10034    1.15100      0.96552  186.64s
    573     0.11696     0.10217    1.14478      0.96376  186.63s
    574     0.11383     0.09946    1.14449      0.96602  186.66s
    575     0.11508     0.09746    1.18079      0.96713  186.69s
    576     0.11702     0.09930    1.17847      0.96582  186.66s
    577     0.11644     0.09838    1.18352      0.96687  186.68s
    578     0.11618     0.09778    1.18828      0.96664  186.67s
    579     0.11601     0.10386    1.11697      0.96336  186.65s
    580     0.11445     0.09658    1.18506      0.96784  186.63s
    581     0.11410     0.10171    1.12174      0.96412  186.68s
    582     0.11548     0.09573    1.20635      0.96768  186.68s
    583     0.11623     0.09912    1.17258      0.96605  186.64s
    584     0.11548     0.09696    1.19106      0.96696  186.61s
    585     0.11648     0.09570    1.21721      0.96814  186.62s
    586     0.11558     0.09495    1.21722      0.96809  186.66s
    587     0.11578     0.09557    1.21146      0.96839  186.65s
    588     0.11484     0.09988    1.14975      0.96570  186.67s
    589     0.11611     0.10049    1.15537      0.96518  186.67s
    590     0.11418     0.09444    1.20907      0.96818  186.63s
    591     0.11621     0.10315    1.12661      0.96369  186.86s
    592     0.11590     0.09580    1.20981      0.96818  186.68s
    593     0.11589     0.09796    1.18299      0.96644  186.69s
    594     0.11515     0.09957    1.15648      0.96548  186.69s
    595     0.11549     0.09969    1.15850      0.96497  186.71s
    596     0.11525     0.09863    1.16856      0.96566  186.67s
    597     0.11495     0.10021    1.14708      0.96515  186.68s
    598     0.11569     0.09927    1.16537      0.96508  186.65s
    599     0.11501     0.09757    1.17878      0.96683  186.65s
    600     0.11506     0.09877    1.16497      0.96586  186.67s
    601     0.11639     0.09735    1.19550      0.96630  186.67s
    602     0.11634     0.09549    1.21833      0.96843  186.67s
    603     0.11503     0.09482    1.21309      0.96877  186.67s
    604     0.11532     0.10053    1.14707      0.96518  186.70s
    605     0.11480     0.09917    1.15768      0.96584  186.70s
    606     0.11529     0.09846    1.17094      0.96626  186.70s
    607     0.11511     0.10164    1.13251      0.96444  186.73s
    608     0.11549     0.09779    1.18104      0.96658  186.67s
    609     0.11409     0.09589    1.18982      0.96715  186.68s
    610     0.11578     0.09660    1.19855      0.96728  186.68s
    611     0.11461     0.09912    1.15626      0.96529  186.67s
    612     0.11543     0.09813    1.17626      0.96630  186.65s
    613     0.11426     0.09715    1.17603      0.96751  186.67s
    614     0.11391     0.09470    1.20290      0.96823  186.66s
    615     0.11425     0.10005    1.14196      0.96520  186.66s
    616     0.11483     0.09676    1.18669      0.96731  186.70s
    617     0.11454     0.09821    1.16629      0.96644  186.69s
    618     0.11446     0.09692    1.18104      0.96720  186.69s
    619     0.11409     0.09719    1.17387      0.96635  186.71s
    620     0.11448     0.09511    1.20368      0.96830  186.69s
    621     0.11262     0.09481    1.18791      0.96822  186.72s
    622     0.11355     0.09633    1.17873      0.96708  186.69s
    623     0.11461     0.09475    1.20952      0.96783  186.68s
    624     0.11366     0.09898    1.14829      0.96520  186.70s
    625     0.11356     0.09734    1.16673      0.96680  186.68s
    626     0.11302     0.09721    1.16256      0.96676  186.64s
    627     0.11484     0.10050    1.14274      0.96437  186.67s
    628     0.11381     0.09756    1.16656      0.96561  186.68s
    629     0.11336     0.09843    1.15169      0.96548  186.66s
    630     0.11487     0.09635    1.19224      0.96720  186.68s
    631     0.11344     0.09435    1.20232      0.96848  186.71s
    632     0.11317     0.09509    1.19004      0.96832  186.63s
    633     0.11382     0.09713    1.17185      0.96715  186.63s
    634     0.11257     0.09776    1.15150      0.96607  186.61s
    635     0.11268     0.09719    1.15937      0.96621  186.61s
    636     0.11315     0.09529    1.18752      0.96692  186.61s
    637     0.11283     0.09766    1.15528      0.96639  186.61s
    638     0.11322     0.09444    1.19889      0.96845  186.61s
    639     0.11341     0.09754    1.16279      0.96644  186.60s
    640     0.11318     0.09452    1.19733      0.96825  186.63s
    641     0.11388     0.09451    1.20486      0.96839  186.64s
    642     0.11221     0.09881    1.13564      0.96525  186.64s
    643     0.11501     0.09804    1.17315      0.96547  186.64s
    644     0.11319     0.09568    1.18296      0.96761  186.64s
    645     0.11388     0.09546    1.19289      0.96825  186.72s
    646     0.11363     0.09472    1.19964      0.96873  186.69s
    647     0.11224     0.09799    1.14541      0.96598  186.69s
    648     0.11333     0.09435    1.20120      0.96859  186.69s
    649     0.11356     0.09752    1.16438      0.96676  186.71s
    650     0.11348     0.09500    1.19451      0.96790  186.69s
    651     0.11314     0.09416    1.20157      0.96838  186.72s
    652     0.11286     0.09379    1.20334      0.96889  186.73s
    653     0.11283     0.09389    1.20177      0.96850  186.70s
    654     0.11245     0.09402    1.19600      0.96862  186.64s
    655     0.11339     0.09799    1.15717      0.96648  186.67s
    656     0.11177     0.09717    1.15029      0.96731  186.64s
    657     0.11276     0.09539    1.18205      0.96800  186.70s
    658     0.11361     0.09551    1.18949      0.96701  186.74s
    659     0.11309     0.09663    1.17037      0.96701  186.72s
    660     0.11326     0.09444    1.19926      0.96827  186.72s
    661     0.11281     0.09636    1.17071      0.96689  186.73s
    662     0.11168     0.09547    1.16986      0.96795  186.69s
    663     0.11226     0.09553    1.17511      0.96756  186.69s
    664     0.11232     0.09620    1.16760      0.96747  186.68s
    665     0.11261     0.09645    1.16751      0.96657  186.72s
    666     0.11333     0.09706    1.16760      0.96630  186.73s
    667     0.11272     0.09406    1.19835      0.96848  186.70s
    668     0.11320     0.09774    1.15811      0.96582  186.68s
    669     0.11257     0.09263    1.21528      0.96917  186.67s
    670     0.11217     0.09665    1.16056      0.96630  186.68s
    671     0.11151     0.09649    1.15564      0.96557  186.64s
    672     0.11211     0.09553    1.17356      0.96717  186.67s
    673     0.11202     0.09457    1.18456      0.96809  186.71s
    674     0.11186     0.09207    1.21493      0.96987  186.70s
    675     0.11154     0.09554    1.16745      0.96758  186.67s
    676     0.11201     0.09503    1.17863      0.96788  186.68s
    677     0.11176     0.09600    1.16413      0.96751  186.69s
    678     0.11130     0.09174    1.21315      0.97031  186.66s
    679     0.11015     0.09393    1.17269      0.96790  186.74s
    680     0.11213     0.09492    1.18131      0.96722  186.67s
    681     0.11172     0.09292    1.20228      0.96937  186.66s
    682     0.11099     0.09591    1.15729      0.96701  186.65s
    683     0.11254     0.09127    1.23307      0.96962  186.65s
    684     0.11223     0.09517    1.17922      0.96745  186.68s
    685     0.11109     0.09403    1.18140      0.96779  186.63s
    686     0.11181     0.09875    1.13220      0.96499  186.67s
    687     0.11177     0.09450    1.18265      0.96756  186.68s
    688     0.11187     0.09110    1.22789      0.96942  186.68s
    689     0.11184     0.09568    1.16883      0.96681  186.69s
    690     0.11135     0.09630    1.15633      0.96751  186.68s
    691     0.11160     0.09656    1.15572      0.96644  186.68s
    692     0.11175     0.09711    1.15080      0.96582  186.71s
    693     0.11259     0.09444    1.19219      0.96751  186.72s
    694     0.11166     0.09369    1.19171      0.96797  186.72s
    695     0.11041     0.09324    1.18410      0.96795  186.74s
    696     0.11187     0.09469    1.18136      0.96724  186.63s
    697     0.11154     0.09424    1.18357      0.96767  186.66s
    698     0.10973     0.09504    1.15452      0.96720  186.67s
    699     0.10972     0.09027    1.21542      0.97001  186.68s
    700     0.11050     0.09323    1.18523      0.96823  186.68s
    701     0.11098     0.09241    1.20099      0.96864  186.71s
    702     0.11119     0.09188    1.21020      0.96878  186.71s
    703     0.10982     0.09071    1.21058      0.96972  186.72s
    704     0.11127     0.09490    1.17253      0.96738  186.70s
    705     0.11020     0.09126    1.20747      0.97002  186.73s
    706     0.11288     0.09146    1.23426      0.96962  186.71s
    707     0.11129     0.09210    1.20843      0.96907  186.73s
    708     0.11055     0.09163    1.20645      0.96935  186.72s
    709     0.11079     0.09655    1.14752      0.96623  186.70s
    710     0.11069     0.09737    1.13685      0.96589  186.65s
    711     0.11104     0.09451    1.17486      0.96772  186.67s
    712     0.11065     0.09186    1.20454      0.96946  186.68s
    713     0.11155     0.09520    1.17177      0.96774  186.71s
    714     0.11169     0.09185    1.21602      0.96947  186.70s
    715     0.10989     0.09094    1.20841      0.96955  186.72s
    716     0.11084     0.09241    1.19947      0.96893  186.72s
    717     0.11150     0.09204    1.21145      0.96916  186.73s
    718     0.11118     0.09368    1.18678      0.96754  186.68s
    719     0.11008     0.09433    1.16700      0.96754  186.58s
    720     0.11145     0.09742    1.14403      0.96595  186.57s
    721     0.11131     0.09041    1.23123      0.97052  186.62s
    722     0.10989     0.09101    1.20747      0.96893  186.64s
    723     0.11042     0.09368    1.17867      0.96720  186.65s
    724     0.10976     0.09214    1.19115      0.96862  186.61s
    725     0.11064     0.09516    1.16267      0.96673  186.62s
    726     0.10965     0.08992    1.21939      0.97066  186.62s
    727     0.10860     0.09236    1.17588      0.96871  186.62s
    728     0.11109     0.09144    1.21500      0.96903  186.64s
    729     0.10991     0.09100    1.20777      0.97027  186.67s
    730     0.11203     0.08935    1.25374      0.97123  186.66s
    731     0.11093     0.09493    1.16854      0.96731  186.65s
    732     0.11059     0.09386    1.17832      0.96834  186.65s
    733     0.11030     0.09495    1.16170      0.96726  186.60s
    734     0.10947     0.08879    1.23295      0.97160  186.64s
    735     0.10975     0.09367    1.17168      0.96813  186.65s
    736     0.11031     0.09096    1.21265      0.97008  186.68s
    737     0.10849     0.08889    1.22051      0.97144  186.63s
    738     0.11063     0.09044    1.22326      0.96997  186.61s
    739     0.10991     0.09220    1.19203      0.96917  186.63s
    740     0.10950     0.08952    1.22321      0.97084  186.63s
    741     0.11049     0.09001    1.22754      0.97065  186.64s
    742     0.11074     0.09038    1.22531      0.97047  186.67s
    743     0.10946     0.09437    1.15989      0.96708  186.65s
    744     0.10976     0.09237    1.18826      0.96875  186.63s
    745     0.11054     0.09005    1.22759      0.97052  186.65s
    746     0.10872     0.09369    1.16051      0.96729  186.61s
    747     0.11034     0.09188    1.20093      0.96848  186.65s
    748     0.10912     0.09016    1.21030      0.97002  186.64s
    749     0.10763     0.09460    1.13768      0.96735  186.67s
    750     0.11029     0.08911    1.23764      0.97068  186.65s
    751     0.10985     0.09188    1.19559      0.96919  186.60s
    752     0.10928     0.09302    1.17477      0.96845  186.61s
    753     0.10835     0.08789    1.23287      0.97189  186.61s
    754     0.11023     0.08995    1.22540      0.97036  186.61s
    755     0.10905     0.09193    1.18625      0.96901  186.62s
    756     0.10903     0.09421    1.15733      0.96689  186.64s
    757     0.10947     0.08895    1.23070      0.97084  186.65s
    758     0.10861     0.09119    1.19110      0.96887  186.62s
    759     0.10937     0.08905    1.22822      0.97104  186.61s
    760     0.10909     0.09485    1.15014      0.96713  186.63s
    761     0.10942     0.08918    1.22701      0.97065  186.62s
    762     0.10833     0.09183    1.17977      0.96877  186.63s
    763     0.11005     0.09273    1.18676      0.96843  186.64s
    764     0.11025     0.09014    1.22311      0.96956  186.64s
    765     0.10976     0.09302    1.18000      0.96823  186.61s
    766     0.10794     0.09167    1.17747      0.96891  186.58s
    767     0.10944     0.09109    1.20138      0.96949  186.57s
    768     0.10751     0.08977    1.19759      0.96969  186.59s
    769     0.10842     0.08950    1.21138      0.96981  186.61s
    770     0.10886     0.08801    1.23691      0.97143  186.60s
    771     0.10853     0.09281    1.16946      0.96802  186.58s
    772     0.10848     0.08981    1.20783      0.97049  186.59s
    773     0.11025     0.08977    1.22817      0.96985  186.64s
    774     0.10708     0.09003    1.18937      0.96972  186.57s
    775     0.10878     0.08955    1.21480      0.96999  186.60s
    776     0.10843     0.09273    1.16923      0.96715  186.64s
    777     0.10944     0.08862    1.23495      0.97034  186.62s
    778     0.10956     0.08918    1.22854      0.97095  186.58s
    779     0.10861     0.09321    1.16525      0.96738  186.57s
    780     0.10860     0.08727    1.24442      0.97205  186.56s
    781     0.10959     0.08965    1.22234      0.97027  186.58s
    782     0.10890     0.09092    1.19774      0.96923  186.60s
    783     0.10844     0.09069    1.19574      0.96963  186.61s
    784     0.10930     0.09023    1.21130      0.96956  186.63s
    785     0.11021     0.08871    1.24237      0.97050  186.65s
    786     0.10920     0.09239    1.18194      0.96882  186.67s
    787     0.10776     0.09270    1.16248      0.96836  186.65s
    788     0.10816     0.09005    1.20109      0.96965  186.63s
    789     0.10824     0.08902    1.21587      0.97079  186.63s
    790     0.10772     0.08998    1.19720      0.96962  186.62s
    791     0.10795     0.09132    1.18216      0.96932  186.63s
    792     0.10729     0.08865    1.21032      0.97031  186.62s
    793     0.10829     0.09404    1.15146      0.96724  186.66s
    794     0.10850     0.09239    1.17431      0.96806  186.63s
    795     0.10783     0.09184    1.17406      0.96877  186.59s
    796     0.10825     0.09217    1.17443      0.96784  186.61s
    797     0.10761     0.08932    1.20476      0.96949  186.63s
    798     0.10823     0.09073    1.19287      0.96885  186.62s
    799     0.10694     0.08700    1.22924      0.97144  186.60s
    800     0.10746     0.09085    1.18289      0.96871  186.63s
    801     0.10775     0.08923    1.20748      0.97020  186.61s
    802     0.10630     0.08824    1.20458      0.96981  186.65s
    803     0.10608     0.08878    1.19477      0.96994  186.63s
    804     0.10895     0.09355    1.16457      0.96742  186.61s
    805     0.10841     0.08799    1.23210      0.97072  186.58s
    806     0.10749     0.09187    1.17005      0.96765  186.65s
    807     0.10705     0.08918    1.20037      0.97013  186.65s
    808     0.10868     0.08606    1.26291      0.97146  186.59s
    809     0.10799     0.08754    1.23362      0.97054  186.61s
    810     0.10692     0.09380    1.13992      0.96689  186.63s
    811     0.10665     0.08786    1.21384      0.97034  186.64s
    812     0.10596     0.09179    1.15439      0.96836  186.64s
    813     0.10726     0.08985    1.19375      0.96969  186.66s
    814     0.10707     0.09174    1.16709      0.96820  186.67s
    815     0.10715     0.09160    1.16979      0.96852  186.66s
    816     0.10724     0.08922    1.20201      0.97008  186.69s
    817     0.10695     0.08998    1.18865      0.96901  186.67s
    818     0.10635     0.08687    1.22430      0.97167  186.67s
    819     0.10726     0.09344    1.14788      0.96694  186.67s
    820     0.10615     0.08797    1.20656      0.97036  186.65s
    821     0.10696     0.08788    1.21714      0.97128  186.64s
    822     0.10805     0.09153    1.18054      0.96763  186.63s
    823     0.10743     0.08914    1.20520      0.96983  186.64s
    824     0.10682     0.08917    1.19797      0.96901  186.63s
    825     0.10750     0.09051    1.18776      0.96884  186.63s
    826     0.10676     0.09089    1.17466      0.96880  186.67s
    827     0.10707     0.08812    1.21504      0.97114  186.67s
    828     0.10834     0.08836    1.22607      0.97057  186.67s
    829     0.10672     0.08865    1.20394      0.97047  186.68s
    830     0.10663     0.08778    1.21478      0.97065  186.67s
    831     0.10641     0.08786    1.21114      0.97088  186.69s
    832     0.10592     0.08601    1.23156      0.97219  186.67s
    833     0.10567     0.08697    1.21502      0.97109  186.61s
    834     0.10792     0.08795    1.22711      0.96978  186.61s
    835     0.10745     0.08759    1.22681      0.97109  186.62s
    836     0.10680     0.09004    1.18620      0.96963  186.56s
    837     0.10611     0.08894    1.19309      0.96994  186.57s
    838     0.10504     0.08709    1.20614      0.97144  186.59s
    839     0.10741     0.09093    1.18131      0.96885  186.59s
    840     0.10725     0.08735    1.22781      0.97095  186.61s
    841     0.10705     0.08717    1.22805      0.97056  186.61s
    842     0.10660     0.08702    1.22504      0.97104  186.62s
    843     0.10618     0.08478    1.25243      0.97214  186.62s
    844     0.10720     0.08961    1.19625      0.96921  186.66s
    845     0.10690     0.08679    1.23174      0.97198  186.63s
    846     0.10746     0.08942    1.20174      0.96979  186.67s
    847     0.10646     0.08879    1.19903      0.97034  186.68s
    848     0.10592     0.08841    1.19804      0.96963  186.68s
    849     0.10615     0.08558    1.24026      0.97171  186.62s
    850     0.10668     0.08817    1.21001      0.97081  186.77s
    851     0.10666     0.08561    1.24597      0.97249  186.61s
    852     0.10590     0.08685    1.21939      0.97077  186.61s
    853     0.10559     0.08842    1.19414      0.97066  186.66s
    854     0.10564     0.08887    1.18874      0.97004  186.63s
    855     0.10663     0.08900    1.19808      0.97059  186.63s
    856     0.10531     0.08712    1.20882      0.97123  186.65s
    857     0.10713     0.09224    1.16144      0.96804  186.66s
    858     0.10682     0.08920    1.19751      0.96937  186.64s
    859     0.10619     0.08532    1.24463      0.97224  186.65s
    860     0.10675     0.08853    1.20577      0.97065  186.66s
    861     0.10645     0.08716    1.22128      0.97095  186.64s
    862     0.10592     0.08505    1.24542      0.97226  186.65s
    863     0.10579     0.08996    1.17603      0.96926  186.61s
    864     0.10762     0.08670    1.24129      0.97217  186.61s
    865     0.10584     0.08776    1.20603      0.97045  186.62s
    866     0.10801     0.08683    1.24399      0.97132  186.61s
    867     0.10477     0.08727    1.20053      0.97084  186.60s
    868     0.10524     0.08721    1.20684      0.97114  186.66s
    869     0.10720     0.08660    1.23784      0.97059  186.66s
    870     0.10618     0.08784    1.20883      0.97059  186.64s
    871     0.10670     0.08539    1.24950      0.97221  186.68s
    872     0.10517     0.08440    1.24610      0.97238  186.66s
    873     0.10585     0.08619    1.22806      0.97120  186.65s
    874     0.10547     0.08575    1.23005      0.97185  186.61s
    875     0.10587     0.08917    1.18736      0.97008  186.62s
    876     0.10511     0.08669    1.21238      0.97088  186.63s
    877     0.10551     0.08890    1.18694      0.96884  186.62s
    878     0.10606     0.08750    1.21213      0.97065  186.53s
    879     0.10580     0.08765    1.20711      0.97038  186.53s
    880     0.10541     0.08437    1.24939      0.97242  186.58s
    881     0.10657     0.08501    1.25366      0.97270  186.64s
    882     0.10571     0.08410    1.25689      0.97331  186.62s
    883     0.10485     0.08832    1.18717      0.96960  186.60s
    884     0.10371     0.08635    1.20097      0.97123  186.61s
    885     0.10611     0.08593    1.23484      0.97093  186.62s
    886     0.10436     0.08521    1.22480      0.97157  186.63s
    887     0.10635     0.08501    1.25105      0.97210  186.63s
    888     0.10575     0.08555    1.23610      0.97190  186.62s
    889     0.10541     0.08513    1.23817      0.97176  186.62s
    890     0.10515     0.08527    1.23322      0.97214  186.59s
    891     0.10666     0.08442    1.26344      0.97281  186.59s
    892     0.10442     0.08650    1.20720      0.97084  186.57s
    893     0.10548     0.08412    1.25394      0.97212  186.57s
    894     0.10657     0.08878    1.20033      0.96992  186.56s
    895     0.10573     0.08410    1.25721      0.97311  186.60s
    896     0.10598     0.08581    1.23501      0.97162  186.64s
    897     0.10397     0.08227    1.26372      0.97311  186.64s
    898     0.10447     0.08505    1.22839      0.97210  186.61s
    899     0.10476     0.08601    1.21791      0.97150  186.63s
0.933371298405

In [17]:
# store CNN
sys.setrecursionlimit(1000000000)
with open(os.path.expanduser('~/Projects/gp/nets/PLB_FULL.p'), 'wb') as f:
  pickle.dump(cnn, f, -1)

In [ ]: