0% found this document useful (0 votes)
12 views

[FREE PDF sample] Automated Deep Learning Using Neural Network Intelligence: Develop and Design PyTorch and TensorFlow Models 1st Edition Ivan Gridin ebooks

The document promotes the ebook 'Automated Deep Learning Using Neural Network Intelligence' by Ivan Gridin, which focuses on developing and designing models using PyTorch and TensorFlow. It provides links to download the ebook and other recommended digital products related to AI and machine learning. Additionally, it includes information about the book's content, including chapters on neural network intelligence, hyperparameter optimization, and neural architecture search.

Uploaded by

grudajnafea
Copyright
© © All Rights Reserved
Available Formats
Download as PDF, TXT or read online on Scribd
0% found this document useful (0 votes)
12 views

[FREE PDF sample] Automated Deep Learning Using Neural Network Intelligence: Develop and Design PyTorch and TensorFlow Models 1st Edition Ivan Gridin ebooks

The document promotes the ebook 'Automated Deep Learning Using Neural Network Intelligence' by Ivan Gridin, which focuses on developing and designing models using PyTorch and TensorFlow. It provides links to download the ebook and other recommended digital products related to AI and machine learning. Additionally, it includes information about the book's content, including chapters on neural network intelligence, hyperparameter optimization, and neural architecture search.

Uploaded by

grudajnafea
Copyright
© © All Rights Reserved
Available Formats
Download as PDF, TXT or read online on Scribd
You are on page 1/ 40

Get the full ebook with Bonus Features for a Better Reading Experience on ebookmeta.

com

Automated Deep Learning Using Neural Network


Intelligence: Develop and Design PyTorch and
TensorFlow Models 1st Edition Ivan Gridin

https://ebookmeta.com/product/automated-deep-learning-using-
neural-network-intelligence-develop-and-design-pytorch-and-
tensorflow-models-1st-edition-ivan-gridin/

OR CLICK HERE

DOWLOAD NOW

Download more ebook instantly today at https://ebookmeta.com


Recommended digital products (PDF, EPUB, MOBI) that
you can download immediately if you are interested.

AI for Healthcare with Keras and Tensorflow 2.0: Design,


Develop, and Deploy Machine Learning Models Using
Healthcare Data 1st Edition Anshik
https://ebookmeta.com/product/ai-for-healthcare-with-keras-and-
tensorflow-2-0-design-develop-and-deploy-machine-learning-models-
using-healthcare-data-1st-edition-anshik/
ebookmeta.com

Learning Deep Learning Theory and Practice of Neural


Networks Computer Vision NLP and Transformers using
TensorFlow 1st Edition Ekman Magnus
https://ebookmeta.com/product/learning-deep-learning-theory-and-
practice-of-neural-networks-computer-vision-nlp-and-transformers-
using-tensorflow-1st-edition-ekman-magnus/
ebookmeta.com

Learning Deep Learning Theory and Practice of Neural


Networks Computer Vision Natural Language Processing and
Transformers Using TensorFlow 1st Edition Magnus Ekman
https://ebookmeta.com/product/learning-deep-learning-theory-and-
practice-of-neural-networks-computer-vision-natural-language-
processing-and-transformers-using-tensorflow-1st-edition-magnus-ekman/
ebookmeta.com

Controlling Her The Kinky Affair Bound and Taken Dark


Romance 2 1st Edition Kat T Scott

https://ebookmeta.com/product/controlling-her-the-kinky-affair-bound-
and-taken-dark-romance-2-1st-edition-kat-t-scott/

ebookmeta.com
CSM AC Mathematical Methods Year 12 2017th Edition Michael
Evans

https://ebookmeta.com/product/csm-ac-mathematical-methods-
year-12-2017th-edition-michael-evans/

ebookmeta.com

Himachal The struggle for land water and forest Uttam


Singh

https://ebookmeta.com/product/himachal-the-struggle-for-land-water-
and-forest-uttam-singh/

ebookmeta.com

VLSI Physical Design From Graph Partitioning to Timing


Closure 2nd Edition Andrew B. Kahng

https://ebookmeta.com/product/vlsi-physical-design-from-graph-
partitioning-to-timing-closure-2nd-edition-andrew-b-kahng/

ebookmeta.com

Engineering Mechanics: Statics and Dynamics 3rd Edition


Michael Plesha

https://ebookmeta.com/product/engineering-mechanics-statics-and-
dynamics-3rd-edition-michael-plesha-2/

ebookmeta.com

Richard Hooker The Architecture of Participation 1st


Edition Paul Anthony Dominiak

https://ebookmeta.com/product/richard-hooker-the-architecture-of-
participation-1st-edition-paul-anthony-dominiak/

ebookmeta.com
Hannah Arendt Legal Theory and the Eichmann Trial 1st
Edition Peter Burdon

https://ebookmeta.com/product/hannah-arendt-legal-theory-and-the-
eichmann-trial-1st-edition-peter-burdon/

ebookmeta.com
Automated Deep
Learning Using
Neural Network
Intelligence
Develop and Design PyTorch and TensorFlow
Models Using Python

Ivan Gridin
Automated Deep Learning
Using Neural Network
Intelligence
Develop and Design PyTorch
and TensorFlow Models Using Python

Ivan Gridin
Automated Deep Learning Using Neural Network Intelligence: Develop and Design
PyTorch and TensorFlow Models Using Python
Ivan Gridin
Vilnius, Lithuania

ISBN-13 (pbk): 978-1-4842-8148-2 ISBN-13 (electronic): 978-1-4842-8149-9


https://doi.org/10.1007/978-1-4842-8149-9
Copyright © 2022 by Ivan Gridin
This work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the
material is concerned, specifically the rights of translation, reprinting, reuse of illustrations, recitation,
broadcasting, reproduction on microfilms or in any other physical way, and transmission or information
storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now
known or hereafter developed.
Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol with
every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in an
editorial fashion and to the benefit of the trademark owner, with no intention of infringement of the
trademark.
The use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not
identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to
proprietary rights.
While the advice and information in this book are believed to be true and accurate at the date of publication,
neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or
omissions that may be made. The publisher makes no warranty, express or implied, with respect to the
material contained herein.
Managing Director, Apress Media LLC: Welmoed Spahr
Acquisitions Editor: Celestin Suresh John
Development Editor: Laura Berendson
Coordinating Editor: Mark Powers
Cover designed by eStudioCalamar
Cover image by Vecteezy (www.vecteezy.com)
Distributed to the book trade worldwide by Apress Media, LLC, 1 New York Plaza, New York, NY 10004,
U.S.A. Phone 1-800-SPRINGER, fax (201) 348-4505, e-mail [email protected], or visit www.
springeronline.com. Apress Media, LLC is a California LLC and the sole member (owner) is Springer Science
+ Business Media Finance Inc (SSBM Finance Inc). SSBM Finance Inc is a Delaware corporation.
For information on translations, please e-mail [email protected]; for reprint,
paperback, or audio rights, please e-mail [email protected].
Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and
licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales
web page at http://www.apress.com/bulk-sales.
Any source code or other supplementary material referenced by the author in this book is available to
readers on GitHub (https://github.com/Apress). For more detailed information, please visit http://www.
apress.com/source-code.
Printed on acid-free paper
To Ksenia and Elena
Table of Contents
About the Author����������������������������������������������������������������������������������������������������� xi

About the Technical Reviewer������������������������������������������������������������������������������� xiii


Introduction�������������������������������������������������������������������������������������������������������������xv

Chapter 1: Introduction to Neural Network Intelligence������������������������������������������� 1


What Is Automated Deep Learning?���������������������������������������������������������������������������������������������� 1
No Free Lunch Theorem���������������������������������������������������������������������������������������������������������� 3
Injecting New Deep Learning Techniques into Existing Model������������������������������������������������ 6
Adjusting Model to a New Dataset������������������������������������������������������������������������������������������ 7
Creating a New Model from Scratch��������������������������������������������������������������������������������������� 8
Reinventing the Wheel������������������������������������������������������������������������������������������������������������� 9
Working with Source Code������������������������������������������������������������������������������������������������������������ 9
Neural Network Intelligence Installation��������������������������������������������������������������������������������������� 9
Install������������������������������������������������������������������������������������������������������������������������������������� 10
Docker����������������������������������������������������������������������������������������������������������������������������������� 11
Search Space, Tuner, and Trial����������������������������������������������������������������������������������������������� 12
Black-Box Function Optimization������������������������������������������������������������������������������������������ 13
Web User Interface���������������������������������������������������������������������������������������������������������������������� 18
Overview Page����������������������������������������������������������������������������������������������������������������������� 18
Trials Details Page����������������������������������������������������������������������������������������������������������������� 20
NNI Command Line���������������������������������������������������������������������������������������������������������������� 24
NNI Experiment Configuration����������������������������������������������������������������������������������������������� 25
Embedded NNI����������������������������������������������������������������������������������������������������������������������� 27
Troubleshooting��������������������������������������������������������������������������������������������������������������������� 28
TensorFlow and PyTorch�������������������������������������������������������������������������������������������������������� 29
Summary������������������������������������������������������������������������������������������������������������������������������� 30

v
Table of Contents

Chapter 2: Hyperparameter Optimization��������������������������������������������������������������� 31


What Is Hyperparameter?����������������������������������������������������������������������������������������������������������� 31
Layer Hyperparameter����������������������������������������������������������������������������������������������������������� 35
Training Hyperparameter������������������������������������������������������������������������������������������������������� 35
Feature Hyperparameter������������������������������������������������������������������������������������������������������� 36
Design Hyperparameter��������������������������������������������������������������������������������������������������������� 39
Search Space������������������������������������������������������������������������������������������������������������������������ 40
choice������������������������������������������������������������������������������������������������������������������������������������ 41
randomint������������������������������������������������������������������������������������������������������������������������������ 42
uniform���������������������������������������������������������������������������������������������������������������������������������� 42
quniform�������������������������������������������������������������������������������������������������������������������������������� 42
loguniform����������������������������������������������������������������������������������������������������������������������������� 42
qloguniform��������������������������������������������������������������������������������������������������������������������������� 43
normal����������������������������������������������������������������������������������������������������������������������������������� 43
qnormal��������������������������������������������������������������������������������������������������������������������������������� 43
lognormal������������������������������������������������������������������������������������������������������������������������������ 43
qlognormal���������������������������������������������������������������������������������������������������������������������������� 43
Tuners������������������������������������������������������������������������������������������������������������������������������������ 46
Random Search Tuner����������������������������������������������������������������������������������������������������������� 47
Grid Search Tuner������������������������������������������������������������������������������������������������������������������ 48
Organizing Experiment���������������������������������������������������������������������������������������������������������� 48
Optimizing LeNet for MNIST Problem������������������������������������������������������������������������������������ 52
TensorFlow LeNet Implementation���������������������������������������������������������������������������������������� 57
PyTorch LeNet Implementation���������������������������������������������������������������������������������������������� 61
Performing LeNet HPO Experiment���������������������������������������������������������������������������������������� 66
Upgrading LeNet with ReLU and Dropout������������������������������������������������������������������������������ 71
TensorFlow LeNet Upgrade Implementation�������������������������������������������������������������������������� 75
PyTorch LeNet Upgrade Implementation������������������������������������������������������������������������������� 78
Performing LeNet Upgrade HPO Experiment������������������������������������������������������������������������� 82
From LeNet to AlexNet����������������������������������������������������������������������������������������������������������� 85

vi
Table of Contents

TensorFlow LeNet Evolution Implementation������������������������������������������������������������������������ 94


PyTorch LeNet Evolution Implementation���������������������������������������������������������������������������� 100
Performing LeNet Evolution HPO Experiment���������������������������������������������������������������������� 107
Summary����������������������������������������������������������������������������������������������������������������������������� 110

Chapter 3: Hyperparameter Optimization Under Shell����������������������������������������� 111


Tuners��������������������������������������������������������������������������������������������������������������������������������������� 111
Evolution Tuner�������������������������������������������������������������������������������������������������������������������������� 117
Anneal Tuner����������������������������������������������������������������������������������������������������������������������������� 122
Sequential Model-Based Optimization Tuners�������������������������������������������������������������������������� 128
Tree-Structured Parzen Estimator Tuner����������������������������������������������������������������������������������� 132
Gaussian Process Tuner������������������������������������������������������������������������������������������������������������ 138
Which Tuner to Choose?������������������������������������������������������������������������������������������������������������ 142
Custom Tuner���������������������������������������������������������������������������������������������������������������������������� 144
Tuner Internals�������������������������������������������������������������������������������������������������������������������������� 144
New Evolution Custom Tuner���������������������������������������������������������������������������������������������������� 147
Early Stopping��������������������������������������������������������������������������������������������������������������������� 156
Median Stop������������������������������������������������������������������������������������������������������������������������ 158
Curve Fitting������������������������������������������������������������������������������������������������������������������������ 162
Risk to Stop a Good Trial������������������������������������������������������������������������������������������������������ 163
Searching for Optimal Functional Pipeline and Classical AutoML��������������������������������������� 164
Problem������������������������������������������������������������������������������������������������������������������������������� 166
Operators����������������������������������������������������������������������������������������������������������������������������� 168
Search Space���������������������������������������������������������������������������������������������������������������������� 171
Model����������������������������������������������������������������������������������������������������������������������������������� 175
Tuner������������������������������������������������������������������������������������������������������������������������������������ 177
Experiment�������������������������������������������������������������������������������������������������������������������������� 179
Limits of HPO Applying to Neural Architecture Search�������������������������������������������������������� 183
Hyperparameters for Hyperparameter Optimization����������������������������������������������������������� 183
Summary����������������������������������������������������������������������������������������������������������������������������� 184

vii
Table of Contents

Chapter 4: Multi-trial Neural Architecture Search������������������������������������������������ 185


Neural Architecture As Data Flow Graph����������������������������������������������������������������������������������� 186
Neural Architecture Search Using Retiarii (PyTorch)����������������������������������������������������������������� 187
Introduction to NAS Using Retiarii��������������������������������������������������������������������������������������� 188
Retiarii Framework�������������������������������������������������������������������������������������������������������������� 196
Base Model�������������������������������������������������������������������������������������������������������������������������� 198
Mutators������������������������������������������������������������������������������������������������������������������������������ 199
Evaluators���������������������������������������������������������������������������������������������������������������������������� 214
Exploration Strategies��������������������������������������������������������������������������������������������������������� 215
Experiment�������������������������������������������������������������������������������������������������������������������������� 220
CIFAR-10 LeNet NAS������������������������������������������������������������������������������������������������������������ 221
CIFAR-10 ResNet NAS���������������������������������������������������������������������������������������������������������� 236
Classic Neural Architecture Search (TensorFlow)��������������������������������������������������������������������� 246
Base Model�������������������������������������������������������������������������������������������������������������������������� 247
Mutators������������������������������������������������������������������������������������������������������������������������������ 248
Trial�������������������������������������������������������������������������������������������������������������������������������������� 250
Search Space���������������������������������������������������������������������������������������������������������������������� 251
Search Strategy������������������������������������������������������������������������������������������������������������������� 252
Experiment�������������������������������������������������������������������������������������������������������������������������� 252
Summary����������������������������������������������������������������������������������������������������������������������������� 256

Chapter 5: One-Shot Neural Architecture Search������������������������������������������������� 257


One-Shot NAS in Action������������������������������������������������������������������������������������������������������������ 257
Supernet Architecture��������������������������������������������������������������������������������������������������������������� 273
One-Shot Algorithms����������������������������������������������������������������������������������������������������������������� 282
Efficient Neural Architecture Search (ENAS)����������������������������������������������������������������������������� 282
TensorFlow ENAS Implementation�������������������������������������������������������������������������������������������� 291
PyTorch ENAS Implementation�������������������������������������������������������������������������������������������������� 293
Differentiable Architecture Search (DARTS)������������������������������������������������������������������������������ 295
GeneralSupernet Solving CIFAR-10������������������������������������������������������������������������������������������� 300
Training GeneralSupernet Using TensorFlow and ENAS������������������������������������������������������������ 303
Training GeneralSupernet Using PyTorch and DARTS��������������������������������������������������������������� 310
viii
Table of Contents

HPO vs. Multi-trial NAS vs. One-Shot NAS�������������������������������������������������������������������������������� 317


Summary���������������������������������������������������������������������������������������������������������������������������������� 318

Chapter 6: Model Pruning������������������������������������������������������������������������������������� 319


What Is Model Pruning?������������������������������������������������������������������������������������������������������������ 319
LeNet Model Pruning����������������������������������������������������������������������������������������������������������������� 322
One-Shot Pruners���������������������������������������������������������������������������������������������������������������������� 329
Pruner Configuration����������������������������������������������������������������������������������������������������������������� 333
Level Pruner������������������������������������������������������������������������������������������������������������������������������ 334
FPGM Pruner����������������������������������������������������������������������������������������������������������������������������� 337
L1Norm and L2Norm Pruners��������������������������������������������������������������������������������������������������� 340
Iterative Pruners����������������������������������������������������������������������������������������������������������������������� 342
Linear Pruner���������������������������������������������������������������������������������������������������������������������������� 343
AGP Pruner�������������������������������������������������������������������������������������������������������������������������������� 344
Iterative Pruner Configuration��������������������������������������������������������������������������������������������������� 345
Iterative Pruning Scenarios������������������������������������������������������������������������������������������������������� 346
Best Accuracy Under Size Threshold Scenario������������������������������������������������������������������������� 347
Minimal Size Above Accuracy Threshold Scenario�������������������������������������������������������������������� 351
Summary���������������������������������������������������������������������������������������������������������������������������������� 355

Chapter 7: NNI Recipes����������������������������������������������������������������������������������������� 357


Speed Up Trials������������������������������������������������������������������������������������������������������������������������� 357
Start–Stop–Resume������������������������������������������������������������������������������������������������������������������ 358
Continue Finished Experiment�������������������������������������������������������������������������������������������������� 359
NNI and TensorBoard���������������������������������������������������������������������������������������������������������������� 359
Move Experiment to Another Server����������������������������������������������������������������������������������������� 363
Scaling Experiments����������������������������������������������������������������������������������������������������������������� 364
Shared Storage������������������������������������������������������������������������������������������������������������������������� 367
One-Shot NAS with Checkpoints and TensorBoard������������������������������������������������������������������� 369
Summary���������������������������������������������������������������������������������������������������������������������������������� 377

Index��������������������������������������������������������������������������������������������������������������������� 379

ix
About the Author
Ivan Gridin is a researcher, author, developer, and artificial
intelligence expert who has worked on distributive high-
load systems and implemented different machine learning
approaches in practice. One of the primary areas of his
research is the design and development of predictive time
series models. Ivan has fundamental math skills in random
process theory, time series analysis, machine learning,
reinforcement learning, neural architecture search, and
optimization. He has published books on genetic algorithms
and time series forecasting.
He is a loving husband and father and collector of old math books.
You can learn more about him on LinkedIn: https://www.linkedin.com/in/survex/.

xi
About the Technical Reviewer
Andre Ye is a deep learning researcher and writer
working toward making deep learning more accessible,
understandable, and responsible through technical
communication. He is also a cofounder at Critiq, a machine
learning platform facilitating greater efficiency in the peer-
review process. In his spare time, Andre enjoys keeping up
with current deep learning research, reading up on history
and philosophy, and playing the piano.

xiii
Introduction
Machine learning is a big part of our lives in today's world. We cannot even think of a
world without machine learning approaches at the moment, and it has already started
to take a huge part of our daily activities. Websites, mobile applications, self-driving cars,
home devices, and many things surrounding us use machine learning algorithms. The
dawn of computing power, especially the graphics processing unit, was accompanied
by the practical start of the deep learning implementation. Deep learning studies the
design of deep neural networks. This approach shows impressive efficiency and has
experienced explosive growth in recent years.
Not surprisingly, the number of tasks to be solved and the need for machine learning
specialists are constantly growing. At the same time, the number of routine actions that
developers and data scientists execute to solve machine learning problems is increasing.
Meanwhile, researchers developed special techniques to save time and automate the
most common machine learning tasks. These techniques were separated into the
special area called automated machine learning, or AutoML. This book focuses on the
automated deep learning (AutoDL) area, which studies the automation of deep learning
problems. AutoDL considers the issues of creating and designing optimal deep learning
models. This approach has been rapidly developed in recent years and, in some cases,
can completely automate the solution of typical tasks.
This book is about implementing AutoDL methods using Microsoft Neural Network
Intelligence (NNI). NNI is a Python toolkit that contains the most common and
advanced AutoDL methods: Hyperparameter Optimization (HPO), Neural Architecture
Search (NAS), and Model Compression. NNI supports the most popular deep learning
frameworks. This book covers the NNI implementation of various AutoDL techniques
using the PyTorch and TensorFlow frameworks.
Сhapter 1 focuses on automated deep learning basics and why we should put this
approach into practice. We will also install NNI and examine the main basic scenarios
for its use. We will learn how to run simple Hello World Experiments and interact with
NNI via the command line and WebUI.
In Сhapter 2, we will move on to the study of the most common AutoDL task –
Hyperparameter Optimization (HPO). We will learn what Hyperparameter Optimization

xv
Introduction

is, what hyperparameters are, and how to organize an NNI HPO experiment using
PyTorch and TensorFlow. We will also construct three kinds of research that will make
a historical journey to the origins of deep learning. The first one will help us determine
the best LeNet model hyperparameters for the MNIST problem. The second research
integrates a new dropout layer and rectified linear unit (ReLU) activation into the
original LeNet model. And the third one will show us how we can evolve the LeNet
model in AlexNet using simple HPO techniques.
In Сhapter 3, we will study NNI's main search algorithms (Tuners), which aim to
solve HPO tasks. Here, we will consider the practical application and the description of
the following algorithms: Evolution Tuner, Anneal Tuner, and SMBO Tuners.
Chapter 3 provides the creation of a custom Tuner and applies it to the classic Shallow
AutoML problem – building an optimal pipeline using Scikit methods.
In Chapter 4, we will begin to research Neural Architecture Search (NAS). NAS is an
approach that studies the creation and design of neural networks best suited to solve
a specific problem. This chapter covers Multi-trial NAS and its main principles. We'll
discuss the NNI Retiari framework, define Model Spaces and Model Mutators, and set
up experiments that construct optimal neural networks. Also, this chapter introduces
various exploration algorithms that explore Multi-trial NAS Model Space: Regularized
Evolution, TPE Strategy, and RL Strategy. Next, we will build LeNet-based and ResNet-
based Multi-trial NAS experiments to solve the CIFAR-10 problem.
In Chapter 5, we move on to One-shot NAS, one of the latest advances in
AutoDL. This chapter explains how to construct a Supernet, how to design cell-based
neural architectures, and perform Efficient Neural Architecture Search (ENAS) and
Differentiable Architecture Search (DARTS) One-shot NAS algorithms.
In Chapter 6, we will cover the important topic of model pruning. Model pruning
compresses neural network removing redundant weights or even layers. This technique
is crucial for lightweight devices when we need to save computing resources. This
chapter will examine basic One-shot and iterative pruning algorithms.
Chapter 7 will focus on practical recipes for using NNI to organize robust, extensive,
and big data experiments.
This book explores practical NNI applications of AutoDL methods and describes
their theory also. Therefore, this book can be helpful for data scientists who want to get
the idea that underlies various AutoDL techniques and algorithms.
This book requires intermediate deep learning understanding and TensorFlow or
PyTorch knowledge.

xvi
Introduction

Source Code Listings


This book has many practical examples and code listings. Source code listings
accompany each chapter in this book. You can download the source code from the
following GitHub repository: https://github.com/Apress/automated-deep-learning-
using-neural-network-intelligence.

xvii
CHAPTER 1

Introduction to Neural
Network Intelligence
There was a great burst of deep learning industry in the past few years. Deep learning
approaches have achieved outstanding results in computer vision, natural language
processing, robotics, time series forecasting, and optimal control theory. However,
there is no “silver bullet model” to solve all kinds of problems. Each problem and
dataset needs a specific model architecture to achieve suitable performance. Machine
learning models, especially deep learning models, have a lot of tunable parameters
that can drastically affect the model performance. Those are model design, training
method, model configuration hyperparameters, etc. The model optimization process
is performed for each application and even each dataset. Data scientists and machine
learning experts often spend a lot of time performing manual model optimization. This
activity can be frustrating because it takes too much time and is usually based on an
expert’s experience and quasi-random search.
However, recent results in automated machine learning and deep learning meta-
optimization make it possible to automate the optimizing process for a specific task.
It is also possible to create brand new model architecture from scratch without having
any experience solving similar problems in the past. The Neural Network Intelligence
(NNI) toolkit provides the latest state-of-the-art techniques to solve the most challenging
automated deep learning problems. We’ll start exploring the basic NNI features in this
chapter.

What Is Automated Deep Learning?


Before we dive into NNI techniques, let’s talk about automated deep learning, examine
its use cases, and why you need it. Modern machine learning models can contain
enormous complexity in their design. Architecture can have thousands of adjustable
1
© Ivan Gridin 2022
I. Gridin, Automated Deep Learning Using Neural Network Intelligence,
https://doi.org/10.1007/978-1-4842-8149-9_1
Another Random Document on
Scribd Without Any Related Topics
— Millainen hän sitten on? — kysyi Aljoša. — Onko hän kantelija?

Pojat katsahtivat toisiinsa ja olivat nauravan näköisiä.

— Tehän olette menossa samaan suuntaan, Mikaelinkadulle? —


jatkoi sama poika. — Ottakaapa hänet kiinni… Kas, tuolla, näettekö,
hän pysähtyi taas, hän odottaa ja katselee teitä.

— Teitä katselee, teitä katselee! — yhtyivät pojat.

— Kysykääpä häneltä, pitääkö hän pesurievusta, hajalleen


revitystä niinihoskasta. Kuulkaa, kysykää juuri noin.

Kaikki alkoivat nauraa hohottaa. Aljoša katseli heitä ja he häntä.

— Älkää menkö, hän paukauttaa teitä, — huudahti Smurov


varoittaen.

— Pojat, minä en kysy häneltä mitään pesurievusta, sillä


luultavasti te jollakin tavoin ärsyttelette häntä sillä sanalla, mutta
minä saan häneltä tietää, miksi te häntä niin vihaatte…

— Koettakaa vain, koettakaa vain saada tietää, — nauroivat pojat.

Aljoša meni sillan yli ja lähti kulkemaan aidan vierustaa mäkeä


ylös suoraan poikaa kohti, joka oli toisten epäsuosiossa.

— Katsokaa, huudettiin hänen jälkeensä varoittavasti, — hän ei


pelkää teitä, hän saattaa äkkiä pistää, aivan kavalasti… niinkuin
Krasotkinia…

Poika odotti häntä liikahtamatta paikaltaan. Kun Aljoša oli tullut


aivan hänen luokseen, niin hän näki edessään lapsen, joka ei ollut
yhdeksää vuotta vanhempi, oli heikko ja pienikokoinen, kasvot laihat
ja pitkulaiset, silmät suuret ja tummat, ja ne katselivat Aljošaa
häijysti. Hänen yllään oli jokseenkin vanha ja huono päällystakki,
joka oli jäänyt hänelle naurettavan pieneksi. Paljaat kädet pistivät
ulos hihoista. Housujen oikeassa lahkeessa oli polven kohdalla iso
paikka ja oikean jalan saappaan kärjessä isonvarpaan kohdalla iso
reikä, jota oli kovasti voideltu musteella. Hänen päällystakkinsa
molemmissa pullottavissa taskuissa oli kiviä. Aljoša pysähtyi hänen
eteensä parin askelen päähän katsoen häneen kysyvästi. Poika,
joka heti arvasi Aljošan silmistä, että tämä ei aio lyödä häntä, tuli
myös rohkeaksi ja alkoi itse puhua:

— Minä olen yksin ja heitä on kuusi… Minä yksin annan selkään


heille kaikille, — sanoi hän äkkiä, ja hänen silmänsä salamoivat.

— Yksi kivi taisi sattua teihin hyvin kipeästi, — huomautti Aljoša.

— Mutta minäpä osasin Smurovia päähän! — huudahti poika.

— Ne sanoivat minulle siellä, että te tunnette minut ja jostakin


syystä heititte minua kivellä? — kysyi Aljoša.

Poika katsoi häneen synkästi.

— Minä en tunne teitä. Tunnetteko te sitten minut? — jatkoi Aljoša


kyselyään.

— Antakaa minun olla rauhassa? — huudahti äkkiä poika äreästi,


mutta ei liikahtanut paikaltaan, vaan näytti yhä odottavan jotakin, ja
hänen silmänsä kiiluivat taas häijysti.

— Hyvä on, minä menen, — sanoi Aljoša, — mutta minä en tunne


teitä enkä ärsytä teitä. He sanoivat minulle, kuinka teitä ärsytetään,
mutta minä en tahdo teitä ärsyttää. Hyvästi.
— Munkki silkkihousuissa! — huudahti poika katsoen edelleen
yhtä häijyn ja uhmailevan näköisenä Aljošaa ja asettuen
puolustusasentoon, koska hän näytti luulevan, että Aljoša nyt aivan
varmasti hyökkää hänen kimppuunsa, mutta Aljoša kääntyi, katsoi
häneen ja meni pois. Hän ei ollut ennättänyt astua kolmea
askeltakaan, kun hänen selkäänsä kipeästi sattui pojan heittämä
kaikkein suurin mukulakivi, mikä tällä oli ollut taskussa.

— Te siis heitätte takaapäin? Ehkäpä he ovatkin oikeassa, kun


sanovat teidän käyvän kimppuun salakavalasti? — sanoi Aljoša
kääntyen taas päin, mutta nyt poika raivostuneena taas heitti Aljošaa
kivellä suoraan kohti kasvoja. Aljoša ennätti kuitenkin ajoissa nostaa
kätensä suojakseen, ja kivi sattui hänen kyynärpäähänsä.

— Ettekö häpeä! Mitä minä olen teille tehnyt? — huudahti hän.

Poika odotti ääneti ja uhmailevana vain sitä, että Aljoša nyt toki
välttämättömästi hyökkäisi hänen kimppuunsa. Kun hän näki että
tämä nytkään ei aio sitä tehdä, niin hän vimmastui kuin peto: hän
syöksyi paikaltaan ja hyökkäsi Aljošan kimppuun, eikä tämä
ennättänyt liikahtaakaan, kun ilkeä poika taivuttaen päänsä alas ja
tarttuen molemmin käsin hänen vasempaan käteensä puraisi
kipeästi hänen keskisormeaan. Poika pureutui siihen hampaineen
eikä noin kymmeneen sekuntiin päästänyt sitä irti. Aljoša huudahti
kivusta ja nyki kaikin voimin sormeaan. Poika päästi sen viimein irti
ja juoksi pois entisen välimatkan päähän. Sormea hän oli purrut
kipeästi aivan kynnen kohdalta syvälle luuhun asti, ja siitä virtasi
verta. Aljoša otti taskustaan liinan ja kääri sen tiukasti haavoitetun
käden ympäri. Käärimiseen meni melkein kokonainen minuutti. Poika
seisoi kaiken aikaa ja odotti. Viimein Aljoša kohotti häneen
rauhallisen katseensa.
— No, hyvä, — sanoi hän, — näette, kuinka kipeästi olette minua
purrut, kai se jo riittää? Sanokaa nyt, mitä minä olen teille tehnyt?

Poika katseli häntä ihmetellen.

— Vaikka minä en ollenkaan tunne teitä ja näen teidät


ensimmäisen kerran, — jatkoi Aljoša yhä yhtä rauhallisesti, — niin
onhan minun täytynyt teille jotakin tehdä, ettehän te syyttä kiusaisi
minua tällä tavoin. Mitä minä siis olen tehnyt ja miten olen rikkonut
teitä vastaan, sanokaa?

Vastauksen asemesta poika alkoi yht'äkkiä kovalla äänellä itkeä ja


juoksi pois Aljošan luota. Aljoša lähti hiljaa kulkemaan hänen
jäljessään Mikaelinkadulle ja näki vielä pitkän aikaa, kuinka poika
juoksi etäällä vauhtiaan hiljentämättä, taakseen katsomatta ja
luultavasti yhä täyttä kurkkua itkien. Hän päätti ehdottomasti heti,
kun saisi aikaa siihen, etsiä pojan käsiinsä ja selvittää tämän
arvoituksen, joka häntä suuresti hämmästytti. Mutta nyt ei ollut aikaa.

4.

Hohlakovien luona

Hän saapui pian rouva Hohlakovin talon luo. Se oli kivitalo,


kaksikerroksinen, kaunis, parhaita taloja kaupungissamme. Vaikka
rouva Hohlakov enimmäkseen asui toisessa kuvernementissa, missä
hänellä oli maatila, tai Moskovassa, missä hänellä oli oma talo, niin
hänellä oli meidänkin kaupungissamme isiltä ja isoisiltä peritty oma
talonsa. Myös se maatila, jonka hän omisti meidän
kihlakunnassamme, oli suurin kaikista hänen kolmesta maatilastaan,
mutta tähän saakka hän oli varsin harvoin käynyt meidän
kuvernementissamme. Hän juoksi Aljošaa vastaan ulos eteiseen.

— Saitteko, saitteko kirjeen uudesta ihmeestä? — alkoi hän puhua


nopeasti ja hermostuneesti.

— Sain kyllä.

— Levitittekö tietoa, näytittekö kaikille? Hän antoi äidille jälleen


pojan!

— Hän kuolee tänään, — sanoi Aljoša.

— Olen kuullut, tiedän, oi kuinka haluan puhua kanssanne! Teidän


taikka jonkun muun kanssa kaikesta tästä, ei, teidän kanssanne,
teidän kanssanne! Kuinka ikävää, etten mitenkään saa häntä nähdä!
Koko kaupunki on jännityksessä, kaikki ovat odotuksen vallassa.
Mutta nyt… tiedättekö, että nyt meillä istuu Katerina Ivanovna?

— Ah, se kävi onnellisesti! — huudahti Aljoša. — Nyt tapaankin


hänet teillä, hän käski eilen minua tulemaan välttämättömästi
luokseen tänään.

— Minä tiedän kaikki, tiedän kaikki. Olen kuullut yksityiskohtaisesti


kaikki, mitä eilen tapahtui hänen luonaan… ja kaikista noista
kauheista asioista tuon… elukan kanssa. C'est tragique, ja minä
hänen sijassaan — en tiedä mitä tekisin hänen sijassaan! Mutta
veljennekin, tuo Dmitri Fjodorovitš, onpa hänkin vasta — voi, hyvä
Jumala! Aleksei Fjodorovitš, minä olen aivan pyörällä päästäni,
ajatelkaahan: siellä istuu nyt teidän veljenne, ei se kauhea eilinen,
vaan toinen, Ivan Fjodorovitš, istuu ja puhuu hänen kanssaan: heillä
on juhlallinen keskustelu… Ja jospa te vain uskoisitte, mitä heidän
kesken nyt tapahtuu, — se on kerrassaan kauheata, se on, sanon
minä teille, mullerrus, se on mitä kamalin satu, jota on aivan
mahdotonta uskoa: he molemmat saattavat käsittämättömästä
syystä toisensa turmioon, he itse tietävät sen ja itse nauttivat siitä.
Olen odottanut teitä! Olen hartaasti halunnut tavata teitä! Pääasia,
en jaksa kestää tätä. Kerron teille kohta kaikki, mutta nyt on toinen ja
aivan kaikkein tärkein asia, — ah, minähän unohdinkin, että se on
kaikkein tärkein: sanokaa, miksi Lise on saanut hysteerisen
kohtauksen? Kun hän vain kuuli teidän olevan tulossa, niin hän sai
heti hysteerisen kohtauksen!

— Maman, teillähän nyt on hysteerinen kohtaus eikä minulla, —


sipisi äkkiä oven raosta Lisen ääni viereisestä huoneesta. Rako oli
hyvin pieni ja ääni oli tukahtunut, aivan sellainen kuin syntyy, kun
hirveästi tekisi mieli nauraa, mutta kaikin voimin hillitsee itsensä.
Aljoša huomasi heti tuon raon, ja varmaankin Lise katseli sen läpi
lepotuolistaan häntä, mutta sitä hän ei kylläkään voinut nähdä.

— Tuo ei ole viisasta, Lise, ei ole viisasta… sinun oikkusi tuottavat


minullekin hysteerisen kohtauksen, mutta muuten hän on niin kovin
sairas, Aleksei Fjodorovitš, hän on koko yön ollut niin sairas,
kuumeessa, on vaikeroinut! Tuskin jaksoin odottaa aamua ja
Herzenstubea. Tämä sanoo, että hän ei ymmärrä tautia ensinkään ja
että pitää odottaa. Tuo Herzenstube tulee aina ja sanoo, että hän ei
ymmärrä ensinkään. Heti kun te tulitte talomme luo, Lise huudahti ja
sai kohtauksen ja käski kuljettamaan itsensä tänne omaan
huoneeseensa…

— Äiti, en minä ollenkaan tietänyt, että hän oli talon luona, en


minä ollenkaan hänen tähtensä tahtonut siirtyä tähän huoneeseen.
— Se ei ole totta, Lise, juoksihan Julia sinulle sanomaan, että
Aleksei
Fjodorovitš on tulossa, sinä olit pannut Julian vahtimaan.

— Ystäväiseni, äitikulta, tämä ei ole ensinkään älykästä teidän


puoleltanne. Mutta jos tahdotte olla mieliksi ja sanoa nyt heti jotakin
oikein älykästä, niin sanokaa, rakas äiti, nyt sisään astuneelle
armolliselle herralle Aleksei Fjodorovitšille, että hän jo sillä on
osoittanut olevansa kaikkea muuta kuin älykäs, että hän on katsonut
voivansa tulla tänään meille eilisen tapahtuman jälkeen ja siitä
huolimatta, että kaikki nauravat hänelle.

— Lise, sinä otat itsellesi liian paljon vapauksia, ja minä vakuutan


sinulle, että ryhdyn lopulta ankariin toimenpiteisiin. Kuka hänelle
nauraa, minä olen niin iloissani, että hän tuli, hän on minulle
tarpeellinen, aivan välttämätön. Oh, Aleksei Fjodorovitš, minä olen
tavattoman onneton!

— Mikä teitä sitten vaivaa, äitikulta?

— Ah, nuo sinun oikkusi, Lise, epävakaisuus, sairautesi, tämä


kauhea yö kuumeessa, tuo kamala ja ikuinen Herzenstube, ennen
kaikkea ikuinen, ikuinen ja ikuinen! Ja lopuksi kaikki, kaikki… Ja
vihdoin viimein myöskin tuo ihme! Oi, kuinka tämä ihme minua
hämmästytti, kuinka se minua järkytti, rakas Aleksei Fjodorovitš! Ja
tuo tragedia nyt tuolla vierashuoneessa, jota en voi kestää, en voi,
sanon Sen teille edeltäpäin, en voi. Kenties se on komedia eikä
tragedia. Sanokaa, elääkö luostarinvanhin Zosima vielä huomiseen
asti, elääkö? Voi hyvä Jumala! Miten onkaan laitani, minä suljen
tavantakaa silmäni ja näen, että kaikki on roskaa, kaikki on roskaa.
— Pyytäisin teitä, — keskeytti Aljoša äkkiä, — antamaan minulle
jonkin puhtaan vaatetilkun, jotta voisin sitoa sormeni. Olen saanut
siihen pahan haavan, ja sitä kivistää nyt kovin.

Aljoša paljasti näkyviin purrun sormensa. Liina oli paksulta veren


tahrima. Rouva Hohlakov huudahti ja siristi silmiään.

— Herra Jumala, millainen haava, se on kauheata!

Mutta heti kun Lise näki raosta Aljošan sormen, hän avasi oven
selko selälleen.

— Tulkaa, tulkaa sisään tänne luokseni, — huudahti hän


innokkaasti ja käskevästi, — ei mitään tyhmyyksiä nyt enää. Voi
hyvä Jumala, miksi te seisoitte ja olitte vaiti niin kauan? Veri olisi
voinut juosta hänestä kuiviin, äiti! Missä te noin, miten te! Ennen
kaikkea vettä, vettä! Täytyy pestä haava, pistää se suorastaan
kylmään veteen, jotta kipu lakkaisi, ja pitää siinä, pitää yhä… Pian,
pian vettä, äiti, huuhtelumaljaan. No pian nyt, — lopetti hän
hermostuneesti. Hän oli hyvin pelästynyt, Aljošan haava saattoi
hänet pahasti hermostumaan.

— Eikö olisi lähetettävä hakemaan Herzenstubea? — huudahti


rouva
Hohlakov.

— Äiti, te tapatte minut. Teidän Herzenstubenne tulee ja sanoo,


että ei ensinkään ymmärrä! Vettä, vettä! Äiti, Jumalan tähden,
menkää itse, hoputtakaa Juliaa, joka on jäänyt jonnekin
kuhnailemaan eikä koskaan voi tulla nopeasti! Pian nyt, äiti, muuten
minä kuolen…
— Tämähän on aivan mitätöntä! — huudahti Aljoša pelästyen
heidän säikähdystään.

Julia kiiruhti sisälle tuoden vettä. Aljoša pisti siihen sormensa.

— Äiti, Jumalan tähden, tuokaa haavasidettä, haavasidettä ja sitä


väkevää sameata vettä haavoja varten, no, mikä sen nimi nyt taas
onkaan! Meillä on sitä, on on… Äiti, te tiedätte itse, missä pullo on,
teidän makuuhuoneenne kaapissa oikealla, siellä on iso pullo ja
haavakangasta…

— Minä tuon heti kaikki, Lise, älä vain huuda äläkä ole levoton.
Näetkö, kuinka lujana Aleksei Fjodorovitš kantaa onnettomuutensa.
Missä te olettekaan voinut niin kamalasti haavoittua, Aleksei
Fjodorovitš?

Rouva Hohlakov poistui kiireesti huoneesta. Sitä juuri Lise olikin


odottanut.

— Ennen kaikkea vastatkaa kysymykseen, — alkoi hän nopeasti


puhua Aljošalle, — missä te olette tuolla tavoin haavoittunut? Sitten
minä puhun kanssanne aivan toisesta asiasta. No!

Aljoša tunsi vaistomaisesti, että äidin poissaoloaika oli Liselle


kallista, ja hän kertoi tälle nopeasti, jättäen pois ja lyhentäen paljon,
mutta kuitenkin täsmällisesti ja selvästi arvoituksellisesta
kohtauksestaan koulupoikien kanssa. Kuultuaan kertomuksen Lise
löi käsiään yhteen:

— No, kuinka te voittekaan, kuinka te voittekaan ryhtyä tekemisiin


poikanulikoitten kanssa ja vielä tuossa puvussa! — huudahti hän
vihaisesti aivan kuin hänellä olisi ollut jonkinmoinen oikeus Aljošaan.
— Tehän olette itse tämän jälkeen poika, kaikkein pienin poika mitä
voi olla! Ottakaa kuitenkin kaikin mokomin jotenkuten selvä tuosta
ilkeästä pojannallikasta ja kertokaa minulle kaikki, sillä tässä on jokin
salaisuus. Nyt toiseen asiaan, mutta sitä ennen kysymys: voitteko te,
Aleksei Fjodorovitš, kivun tuottamasta kärsimyksestä huolimatta
puhua aivan tyhjänpäiväisistä asioista, mutta puhua järkevästi?

— Voin varsin hyvin enkä tunne enää niin suurta kipuakaan.

— Se johtuu siitä, että sormenne on vedessä. Vettä on heti


vaihdettava, sillä se lämpenee yht'äkkiä. Julia, tuo heti palanen jäätä
kellarista ja uusi huuhdemalja vettä täynnä. No, nyt hän meni, minä
käyn asiaan: heti paikalla, rakas Aleksei Fjodorovitš, suvaitkaa antaa
minulle kirjeeni, jonka lähetin teille eilen, — silmänräpäyksessä, sillä
äiti voi tulla heti enkä minä tahdo…

— Minulla ei ole kirjettä mukanani.

— Se ei ole totta, se on mukananne. Minä arvasin, että vastaatte


näin. Se on tuolla taskussanne. Minä olen suuresti katunut tuota
tyhmää pilaa koko yön. Antakaa kirje heti takaisin, antakaa!

— Se jäi sinne.

— Mutta te ette voi pitää minua tyttösenä, pikkuisena tyttösenä,


kirjeeni jälkeen, jossa oli niin typerä pila! Pyydän teitä antamaan
anteeksi tyhmän pilani, mutta kirje teidän on välttämättömästi minulle
tuotava, jos se todellakaan ei ole mukananne, — tuokaa jo tänään,
ehdottomasti, ehdottomasti!

— Tänään se on aivan mahdotonta, sillä minä menen luostariin


enkä tule luoksenne pariin kolmeen tai ehkäpä neljään päivään,
koska luostarinvanhin Zosima…

— Neljään päivään, mitä roskaa! Kuulkaa, nauroitteko te minulle


hyvin paljon?

— Minä en nauranut hituistakaan.

— Minkä tähden?

— Sen tähden, että minä uskoin kaiken täydellisesti.

— Te loukkaatte minua!

— En vähääkään. Luettuani kirjeen ajattelin heti, että niin kaikki


käykin, sillä minun on heti luostarinvanhin Zosiman kuoltua
poistuttava luostarista. Sen jälkeen jatkan lukujani ja suoritan
tutkinnon, ja kun lain sallima aika on tullut, niin me menemme
naimisiin. Minä tulen teitä rakastamaan. Vaikka minulla ei vielä
olekaan ollut aikaa ajatella, niin olen kuitenkin tuuminut, että en voi
löytää parempaa vaimoa kuin te, ja luostarinvanhin on käskenyt
minua menemään naimisiin…

— Mutta minähän olen raajarikko, minua kuljetetaan lepotuolissa!


— alkoi Lise, ja hänen poskensa alkoivat punoittaa.

— Minä itse kuljetan teitä lepotuolissa, mutta olen vakuutettu siitä,


että te siihen mennessä tulette terveeksi.

— Mutta tehän olette hullu, — lausui Lise hermostuneesti. —


Semmoisesta pilasta te yht'äkkiä teitte moisen jonninjoutavan
johtopäätöksen!… Ah, tuossa on mammakin, taisi tullakin hyvin
sopivaan aikaan. Äiti, kuinka te aina myöhästytte, miten voi niin
kauan viipyä! Tuossa jo Juliakin tuo jäätä!
— Ah, Lise, älä huuda, pääasia on, ettet huuda. Tuosta huudosta
minä… Minkä minä sille voin, että sinä itse olit pistänyt
haavakankaan toiseen paikkaan… Minä etsin ja etsin… Luulenpa,
että teit sen tahallasi.

— Enhän minä voinut tietää, että hän tulee tänne sormi purtuna,
muutenhan tosiaankin olisin voinut tehdä sen tahallani. Enkelini,
äitikulta, te alatte puhua tavattoman teräväjärkisesti.

— Olkoon vain teräväjärkistä, mutta millaiset tunteet, Lise, Aleksei


Fjodorovitšin sormen ja kaiken tämän johdosta! Oh, rakas Aleksei
Fjodorovitš, eivät minua yksityiskohdat tapa, ei joku Herzenstube,
vaan
kaikki yhdessä, tämä kokonaisuus, sitä minä en jaksa kestää.

— Riittää, äiti, riittää Herzenstubesta, — nauroi Lise iloisesti. —


Antakaa pian haavaside ja vettä, äiti. Tämä on yksinkertaisesti
lyijyvettä, Aleksei Fjodorovitš, nyt muistin sen nimen, mutta se on
mainiota haudevettä. Äiti, ajatelkaahan, hän on tapellut
poikanulikoitten kanssa kadulla ja joku poika on häntä purrut, no,
eikö hän ole itse pieni, pikkuinen poika ja voiko hän, äiti, tämän
jälkeen mennä naimisiin, sillä ajatelkaahan, äiti, hän tahtoo mennä
naimisiin. Kuvitelkaahan hänen olevan naimisissa, no, eikö se
naurata, eikö se ole kauheata?

Ja Lise nauroi kaiken aikaa hermostunutta hiljaista nauruaan


katsellen viekkaasti Aljošaa.

— No, miksi ei menisi naimisiin, Lise, ja miksi sinä tuommoista ja


aivan sopimattomia… kun tuo poika kenties on hullu.

— Ah, äiti. Onko olemassa hulluja poikia?


— Miksi ei olisi olemassa, Lise, aivan kuin minä olisin sanonut
tyhmyyden. Tuota poikaa on purrut vesikauhuinen koira ja hänestä
on tullut hullu poika ja nyt hän vuorostaan puree jotakuta lähellään
olevista. Mutta kylläpä hän laittoi teille hyvän siteen, Aleksei
Fjodorovitš, minä en olisi osannut. Tunnetteko nyt kipua?

— Hyvin vähäistä enää.

— Pelkäättekö te vettä? — kysyi Lise.

— No, riittää jo, Lise, kenties minä tosiaankin olin liian kärkäs
puhumaan hullusta pojasta ja sinä teit jo omat johtopäätöksesi. Heti
kun Katerina Ivanovna sai kuulla teidän tulleen, Aleksei Fjodorovitš,
hän syöksyi luokseni, hänellä on hirveä, hirveä halu nähdä teitä.

— Ah, äiti! Menkää sinne yksin, hän ei voi nyt heti lähteä, hän
kärsii kovin.

— En minä ensinkään kärsi, minä voin varsin hyvin lähteä… —


sanoi
Aljoša.

— Kuinka! Menettekö te pois? Niinkö te? Niinkö te?

— Mikäpä siinä? Kun olen siellä toimittanut asiani loppuun, niin


tulen tänne takaisin ja me voimme taas puhella niin paljon kun vain
tahdotte. Mutta tahtoisin mahdollisimman pian tavata Katerina
Ivanovnan, sillä joka tapauksessa tahdon palata tänään niin pian
kuin mahdollista luostariin.

— Äiti, ottakaa ja viekää hänet pian pois. Aleksei Fjodorovitš,


älkää vaivautuko poikkeamaan minun luokseni Katerina Ivanovnan
puheilta palatessanne, vaan menkää suoraan luostariinne, menkää
vain menojanne! Minä käyn nukkumaan, en ole nukkunut koko yönä.

— Ah, Lise, tuo on vain leikkiä sinun puoleltasi, vaan mitäpä, jos
tosiaankin nukkuisit! — huudahti rouva Hohlakov.

— Minä en tiedä, millä olen… Minä jään vielä noin kolmeksi tai, jos
niin tahdotte, viideksi minuutiksi, — mutisi Aljoša.

— Ihan viideksikin! Viekää hänet pian pois, äiti, tuo hirvitys!

— Lise, sinä olet menettänyt järkesi. Lähtekäämme, Aleksei


Fjodorovitš, hän on liian oikukas tänään, en uskalla häntä ärsyttää.
Oi, surkeata on hermostuneen naisen olo, Aleksei Fjodorovitš! Mutta
ehkäpä häntä tosiaankin alkoi nukuttaa teidän siellä ollessanne.
Miten te niin pian saitte hänet uneliaaksi, ja miten onnellista se
onkaan!

— Ah, äiti, miten rakastettavasti te olette alkanut puhua, minä


suutelen teitä siitä, mammakulta.

— Ja minä sinua, Lise. Kuulkaahan, Aleksei Fjodorovitš, — sanoi


rouva Hohlakov salaperäisen ja tärkeän näköisenä nopeasti
kuiskuttaen, poistuessaan huoneesta Aljošan kanssa, — en tahdo
antaa teille mitään ennakkokäsityksiä enkä kohottaa tuota verhoa, te
menette sisälle ja näette itse kaiken, mitä siellä tapahtuu, se on
kauheata, se on mitä kummallisin komedia: hän rakastaa veljeänne
Ivan Fjodorovitšia ja koettaa kaikin voimin vakuuttaa itselleen
rakastavansa veljeänne Dmitri Fjodorovitšia. Se on kauheata! Minä
tulen sisälle teidän kanssanne, ja jos minua ei sieltä ajeta pois, niin
katson, minkälaiseksi asia kehittyy.
5.

Mullerrus vierashuoneessa

Vierashuoneessa oli keskustelu jo päättynyt. Katerina Ivanovna oli


voimakkaan mielenliikutuksen vallassa, vaikka olikin päättäväisen
näköinen. Sillä hetkellä, jolloin Aljoša ja rouva Hohlakov astuivat
sisälle, oli Ivan Fjodorovitš jo noussut seisomaan lähteäkseen pois.
Hänen kasvonsa olivat hieman kalpeat, ja Aljoša katsahti
levottomana häneen. Seikka oli semmoinen, että Aljoša tässä nyt sai
selvyyden erääseen epäluuloonsa — erääseen levottomuutta
tuottavaan arvoitukseen, joka jo jonkin aikaa oli häntä kiusannut. Jo
noin kuukauden ajan oli hänelle silloin tällöin eri tahoilta koetettu
antaa se käsitys, että veli Ivan rakastaa Katerina Ivanovnaa, ja mikä
oli tärkeintä, todellakin aikoo »lyödä laudalta» Mitjan. Aivan
viimeiseen asti tämä oli tuntunut Aljošasta aivan luonnottomalta,
vaikka olikin herättänyt hänessä suurta levottomuutta. Hän rakasti
kumpaakin veljeään, ja häntä peloitti tuommoinen kilpailu heidän
kesken. Mutta Dmitri Fjodorovitš itse oli äkkiä eilen hänelle suoraan
selittänyt, että veli Ivanin kilpakosinta oli hänelle suorastaan mieleen
ja että se auttaa häntä, Dmitriä, monessa suhteessa. Mihin se
auttaa? Menemäänkö naimisiin Grušenjkan kanssa? Mutta tätä
tekoa Aljoša piti epätoivoisena ja vihoviimeisenä. Kaiken tämän
lisäksi Aljoša oli ehdottomasti uskonut aivan eiliseen iltaan asti, että
Katerina Ivanovna itse intohimoisesti ja järkähtämättömästi rakastaa
hänen veljeään Dmitriä, — mutta uskoi sitä vain eiliseen iltaan asti.
Lisäksi hänen mielessään jostakin syystä kangasteli, että Katerina
Ivanovna ei voi rakastaa sellaista kuin veli Ivan, vaan rakastaa
hänen veljeään Dmitriä ja juuri semmoisena kuin tämä on, niin
kummalliselta kuin tuommoinen rakkaus näyttikin. Mutta eilen
Grušenjkan kanssa sattuneen kohtauksen aikana oli hänen
mieleensä alkanut kangastella jotakin muuta. Sana »mullerrus», jota
rouva Hohlakov äsken oli käyttänyt, sai hänet melkein vavahtamaan,
sen tähden että juuri viime yönä hän puoleksi heränneenä
aamuyöstä oli äkkiä, luultavasti vastaten omaan unennäköönsä,
lausunut: »Mullerrus, mullerrus!» Kaiken yötä hän oli unissaan
nähnyt eilisen kohtauksen Katerina Ivanovnan luona. Nyt äkkiä
rouva Hohlakovin suora ja itsepintainen vakuutus, että Katerina
Ivanovna rakastaa veli Ivania ja että hän vain itse, tahallaan,
jonkinmoista leikkiä leikkien, sydämen »mullerruksen» vaikutuksesta
pettää itseään ja itse kiduttaa itseään teeskennellyllä rakkaudellaan
Dmitriä kohtaan, joka rakkaus johtuu muka jonkinmoisesta
kiitollisuudesta, — hämmästytti Aljošaa: »Kenties todella juuri näissä
sanoissa onkin täydellinen totuus. Mutta millainen on sitten näin
ollen veli Ivanin asema?» Aljoša tunsi vaistomaisesti, että sellaisen
luonteen kuin Katerina Ivanovnan täytyi saada vallita, mutta hän voi
vallita ainoastaan Dmitrin kaltaista eikä ollenkaan sellaista kuin Ivan.
Sillä vain Dmitri saattoi (olkoonpa, että vasta pitkän ajan kuluessa)
lopulta alistua hänen edessään »omaksi onnekseen» (jota Aljošakin
olisi toivonut), mutta Ivan ei, Ivan ei voisi hänen edessään alistua,
eikä tuo alistuminen tuottaisi hänelle onnea. Tämmöisen käsityksen
oli Aljoša jostakin syystä tahtomattaan muodostanut itselleen
Ivanista. Ja nyt kaikki nämä epäilyt ja mietteet välähtivät hänen
mielessään ja kulkivat sen läpi sillä hetkellä, jolloin hän oli menossa
vierashuoneeseen. Välähtipä vieläkin yksi ajatus, äkkiä ja
vastustamattomasti: »Entäpä jos hän ei rakasta ketään, ei
kumpaakaan?» Huomautan, että Aljoša ikäänkuin häpesi tämmöisiä
ajatuksiaan ja moitti itseään niistä, kun ne sattuivat, kuten viime
kuukauden aikana oli tapahtunut, nousemaan hänen mieleensä:
»Mitäpä minä ymmärrän rakkaudesta ja naisista ja kuinka minä voin
tehdä tuommoisia päätelmiä», ajatteli hän itseään soimaten joka
kerta tuollaisen ajatuksen tai arvelun noustua hänen mieleensä.
Mutta hän ei kuitenkaan voinut olla ajattelematta. Hän ymmärsi
vaistollaan, että esimerkiksi nyt hänen kahden veljensä kohtalossa
tuo kilpailu oli hyvin tärkeä kysymys, josta riippui paljon. »Toinen
iljettävä olento syö toisen», oli veli Ivan eilen lausunut puhuessaan
suuttuneena isästään ja veljestään Dmitristä. Siis veli Dmitri oli
hänen silmissään iljettävä olento ja oli kenties jo kauankin ollut?
Eiköhän siitä asti kun veli Ivan oli tutustunut Katerina Ivanovnaan?
Nuo sanat olivat eilen tietysti päässeet Ivanin suusta hänen
tahtomattaan, mutta juuri siksi niillä oli sitäkin suurempi merkitys. Jos
niin on, niin kuinka tässä voi olla kysymys rauhasta? Eikö
päinvastoin ole ilmaantunut yhä uusia vihamielisyyden ja
vihollisuuden syitä heidän perheessään? Mutta tärkeintä oli, ketä
hänen, Aljošan, tuli sääliä? Ja mitä hänen piti kullekin toivoa? Hän
rakastaa heitä kumpaakin, mutta mitä pitää toivoa heille kummallekin
tämmöisten kauheitten ristiriitojen vallitessa? Näissä sekavissa
oloissa saattoi joutua aivan neuvottomaksi, mutta Aljošan sydän ei
voinut sietää epätietoisuutta, sillä hänen rakkautensa oli luonteeltaan
aina toimivaa. Hän ei voinut rakastaa passiivisesti; kun hän jotakuta
rakasti, niin hän heti ryhtyi myös tätä auttamaan. Mutta tätä varten
täytyi asettaa itselleen päämäärä, täytyi varmasti tietää, mikä
kummallekin heistä oli hyvää ja tarpeellista, ja kun oli päässyt
varmuuteen, että päämäärä oli oikea, tuli luonnollisesti auttaa heitä
kumpaakin. Mutta varman päämäärän asemesta oli kaikkialla vain
epäselvyyttä ja hämmennystä. »Mullerrus», lausuttiin nyt! Mutta mitä
hän saattoi ymmärtää edes tuon mullerruksen laadusta? Hän ei
ymmärrä edes ensimmäistä sanaa koko tästä sekamelskasta!

Nähtyään Aljošan lausui Katerina Ivanovna nopeasti ja ilomielin


Ivan
Fjodorovitšille, joka jo oli noussut paikaltaan lähteäkseen:

— Hetkiseksi vielä! Jääkää vielä hetkeksi. Minä tahdon kuulla,


mitä mieltä on tämä mies, johon minä luotan koko sydämestäni.
Katerina Osipovna, älkää tekään menkö, — lisäsi hän kääntyen
rouva Hohlakovin puoleen. Hän pyysi Aljošaa istuutumaan
viereensä, ja rouva Hohlakov istuutui vastapäätä, Ivan Fjodorovitšin
viereen.

— Tässä ovat kaikki ystäväni, kaikki, mitä minulla on maailmassa,


rakkaat ystäväni, — alkoi hän kiihkeästi äänellä, jossa värisivät
todellisen kärsimyksen kyynelet, ja Aljošan sydän taipui taas heti
hänen puoleensa. — Te, Aleksei Fjodorovitš, te näitte eilen tuon…
kauheuden ja näitte, millainen minä olin. Te ette ole nähnyt sitä, Ivan
Fjodorovitš, hän näki. Mitä hän ajatteli minusta eilen, sitä en tiedä,
tiedän vain sen, että jos sama toistuisi tänään, nyt juuri, niin minä
lausuisin ilmi aivan samat tunteet kuin eilen, — aivan samat tunteet,
samat sanat ja tekisin samat liikkeet. Te muistatte minun liikkeeni,
Aleksei Fjodorovitš, te itse estitte minulta yhden niistä… (Kun hän
sanoi tämän, hän punastui ja hänen silmänsä alkoivat säkenöidä.)
Sanon teille, Aleksei Fjodorovitš, että minä en voi tehdä minkään
kanssa sovintoa. Kuulkaa, Aleksei Fjodorovitš, minä en edes tiedä,
rakastanko häntä nyt. Minusta hän on säälittävä, se on huono
rakkauden todistus. Jos minä rakastaisin häntä, edelleenkin
rakastaisin, niin minä kenties nyt en säälisi häntä, vaan päinvastoin
vihaisin…

Hänen äänensä alkoi väristä, ja kyynelet kimaltelivat hänen


silmäripsissään. Aljoša vavahti sisimmässään: »Tämä tyttö on
totinen ja vilpitön», ajatteli hän, »eikä… eikä hän enää rakasta
Dmitriä!»
— Niin se on! Niin! — huudahti rouva Hohlakov.

— Odottakaa, rakas Katerina Osipovna, minä en ole vielä sanonut


pääasiaa, en ole sanonut mitä minä tänä yönä lopullisesti päätin.
Minä tunnen, että päätökseni kenties on kauhea — minulle itselleni,
mutta minä aavistan, että en muuta sitä enää millään ehdolla, en
millään ehdolla koko elämäni aikana, vaan niin tapahtuu. Minun
rakas, hyvä, ainainen ja jalo neuvonantajani ja syvä sydänten tuntija
sekä ainoa ystäväni, mikä minulla maailmassa vain onkin, Ivan
Fjodorovitš, hyväksyy ajatukseni kaikissa suhteissa ja pitää
päätöstäni hyvänä… Hän tuntee sen.

— Niin, minä hyväksyn sen, — lausui Ivan Fjodorovitš hiljaisella,


mutta lujalla äänellä.

— Mutta minä tahdon, että myös Aljoša (ah, Aleksei Fjodorovitš,


anteeksi, että nimitin teitä yksinkertaisesti Aljošaksi), — minä tahdon,
että myös Aleksei Fjodorovitš sanoo minulle juuri nyt, molempien
ystävieni läsnäollessa, olenko oikeassa vai enkö? Minulla on
vaistomainen aavistus, että te, Aljoša, olette rakas veljeni (sillä te
olette minun rakas veljeni), — lausui hän taas innostuneesti ja tarttui
Aljošan kylmään käteen kuumalla kädellään, — minä aavistan, että
teidän ratkaisunne, teidän hyväksymisenne on kaikista tuskistani
huolimatta antava minulle rauhan, sillä teidän sanojenne jälkeen
minä rauhoitun ja tulen sovintoon, — aavistan sen!

— En tiedä mitä te minulta kysytte, — lausui Aljoša, ja hänen


kasvonsa punastuivat, — tiedän vain, että rakastan teitä ja toivon
tällä hetkellä teille onnea hartaammin kuin itselleni!… Mutta enhän
minä ollenkaan ymmärrä näitä asioita… — kiiruhti hän äkkiä jostakin
syystä lisäämään.
— Näissä asioissa, Aleksei Fjodorovitš, näissä asioissa on
tärkeintä nyt kunnia ja velvollisuus ja en tiedä mikä vielä, jokin
kenties velvollisuuttakin korkeampi. Sydämeni puhuu minulle
vastustamattomasta tunteesta, ja se vetää minua
vastustamattomasti mukanaan. Kaiken voi muutoin sanoa lyhyesti,
minä olen jo tehnyt päätökseni: jos hän naikin tuon… elukan (alkoi
hän juhlallisesti), jolle minä en koskaan, en koskaan voi antaa
anteeksi, niin minä kumminkaan en jätä häntä! Tästä lähin minä en
enää koskaan, en koskaan jätä häntä! — lausui hän niin, että se oli
kuin kalpean, kiusaantumisesta syntyneen innostuksen purkaus. —
Ei niin, että minä kuljeskelisin hänen jäljessään, joka hetki
laittautuisin hänen näkyviinsä, kiusaisin häntä, — oi ei, minä menen
toiseen kaupunkiin, minne tahansa, mutta koko ikäni, koko elämäni
ajan minä seuraan hänen vaiheitaan väsymättä. Kun hän tulee tuon
kanssa onnettomaksi, ja niinhän ehdottomasti käykin aivan kohta,
niin tulkoon hän minun luokseni ja hän on kohtaava ystävän,
sisaren… Vain sisaren tietysti, ja niin on oleva ainaisesti, mutta
tulkoon hän lopultakin vakuutetuksi, että tämä sisar on todella hänen
sisarensa, rakastaa häntä ja on uhrannut hänelle koko elämänsä.
Minä pääsen siihen, minä pidän sen järkähtämättömästi
päämääränäni, että hän viimein oppii tuntemaan minut ja kertoo
minulle kaikki häpeilemättä! — huudahti hän aivan kuin
raivostuneena. — Minusta tulee hänen jumalansa, jota hän rukoilee,
— ja sen hän on minulle vähintään velkaa uskottomuudesta ja siitä,
mitä sain eilen hänen tähtensä kärsiä. Ja nähköön hän koko
elämänsä ajan, että minä läpi elämäni olen uskollinen hänelle ja
kerran antamalleni lupaukselle siitä huolimatta, että hän oli uskoton
ja petti. Minä… minä muutun vain hänen onnensa välikappaleeksi
(vai kuinka sen sanoisin), hänen onnensa työkaluksi, koneeksi, ja
koko elämäni ajaksi, koko elämäni ajaksi, ja jotta hän näkisi sen niin

You might also like