.. _sec_pooling:

プーリング
==========


多くの場合、最終的なタスクは画像に対する大域的な問いを求める。
たとえば、\ *猫が含まれているか？* といった具合である。
したがって、最終層のユニットは入力全体に敏感であるべきである。
情報を徐々に集約し、より粗いマップを得ていくことで、
中間層では畳み込み層の利点を保ちながら、
最終的には大域的な表現を学習するというこの目標を達成できる。
ネットワークを深く進むほど、 各隠れノードが敏感になる受容野は
（入力に対して相対的に）大きくなる。 空間解像度を下げると、
畳み込みカーネルがより大きな有効領域を覆うため、 この過程が加速される。

さらに、エッジのような低レベル特徴を検出する際には
（:numref:`sec_conv_layer` で議論したように）、
表現がある程度の平行移動不変性を持つことがしばしば望まれる。
たとえば、黒と白の境界がはっきりした画像 ``X`` を取り、
画像全体を右に1ピクセルずらす、 すなわち ``Z[i, j] = X[i, j + 1]``
とすると、 新しい画像 ``Z`` の出力は大きく異なるかもしれない。
エッジは1ピクセル分移動しているからである。
現実には、物体がまったく同じ場所に現れることはほとんどない。
実際、三脚を使い静止した物体を撮影していても、
シャッターの動きによるカメラの振動で 全体が1ピクセル程度ずれることがある
（高級カメラにはこの問題に対処するための特別な機能が搭載されている）。

この節では、\ *プーリング層*\ を導入する。
これは、畳み込み層の位置に対する感度を緩和することと、
表現を空間的にダウンサンプリングすることという 二つの目的を果たす。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-1d388ecc-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-1d388ecc-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-1d388ecc-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-1d388ecc-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-1d388ecc-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    from d2l import torch as d2l
    import torch
    from torch import nn



.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-1d388ecc-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    from d2l import mxnet as d2l
    from mxnet import np, npx
    from mxnet.gluon import nn
    npx.set_np()



.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-1d388ecc-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    from d2l import jax as d2l
    from flax import linen as nn
    import jax
    from jax import numpy as jnp


.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    No GPU/TPU found, falling back to CPU. (Set TF_CPP_MIN_LOG_LEVEL=0 and rerun for more info.)




.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-1d388ecc-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    import tensorflow as tf
    
    def pool2d(X, pool_size, mode='max'):
        p_h, p_w = pool_size
        Y = tf.Variable(tf.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w +1)))
        for i in range(Y.shape[0]):
            for j in range(Y.shape[1]):
                if mode == 'max':
                    Y[i, j].assign(tf.reduce_max(X[i: i + p_h, j: j + p_w]))
                elif mode =='avg':
                    Y[i, j].assign(tf.reduce_mean(X[i: i + p_h, j: j + p_w]))
        return Y



.. raw:: html

    </div>



.. raw:: html

    </div>

最大プーリングと平均プーリング
------------------------------

畳み込み層と同様に、\ *プーリング*\ 演算子は
固定形状のウィンドウからなり、
そのストライドに従って入力のすべての領域上をスライドし、
固定形状ウィンドウ（\ *プーリングウィンドウ*\ とも呼ばれる）が通過する各位置について
1つの出力を計算する。
しかし、畳み込み層における入力とカーネルの相互相関計算とは異なり、
プーリング層にはパラメータがない（\ *カーネル*\ は存在しない）。
その代わり、プーリング演算子は決定論的であり、
通常はプーリングウィンドウ内の要素の最大値または平均値を計算する。
これらの操作はそれぞれ、\ *最大プーリング*\ （略して *max-pooling*\ ）と
*平均プーリング*\ と呼ばれる。

*平均プーリング*\ は、CNN と同じくらい古くからある手法である。
その考え方は画像のダウンサンプリングに似ている。
低解像度画像を得るために単に2つおき（あるいは3つおき）の画素の値を取るのではなく、
隣接する画素を平均することで、 複数の隣接画素からの情報を統合し、
信号対雑音比の高い画像を得ることができる。 *max-pooling*
は、認知神経科学の文脈で
物体認識のために情報集約がどのように階層的に行われうるかを記述する目的で
:cite:t:`Riesenhuber.Poggio.1999` において導入された。
それ以前にも音声認識における先行版があった
:cite:`Yamaguchi.Sakamoto.Akabane.ea.1990`\ 。
ほとんどすべての場合において、max-pooling とも呼ばれるこの手法は、
平均プーリングよりも望ましい。

どちらの場合も、相互相関演算子と同様に、
プーリングウィンドウは入力テンソルの左上から始まり、
左から右へ、上から下へとスライドしていくと考えられる。
プーリングウィンドウが各位置に到達するたびに、 max か average
かに応じて、
ウィンドウ内の入力部分テンソルの最大値または平均値を計算する。

.. _fig_pooling:

.. figure:: ../img/pooling.svg

   プーリングウィンドウの形状が :math:`2\times 2` の
   max-pooling。影付き部分は最初の出力要素であり、出力計算に使われる入力テンソル要素でもある:
   :math:`\max(0, 1, 3, 4)=4`.


:numref:`fig_pooling` の出力テンソルの高さは 2、幅は 2 である。
4つの要素は、それぞれのプーリングウィンドウ内の最大値から得られる。

.. math::


   \max(0, 1, 3, 4)=4,\\
   \max(1, 2, 4, 5)=5,\\
   \max(3, 4, 6, 7)=7,\\
   \max(4, 5, 7, 8)=8.\\

より一般には、\ :math:`p \times q`
のプーリング層を、そのサイズの領域上で集約することで定義できる。
エッジ検出の問題に戻ると、 畳み込み層の出力を :math:`2\times 2` の
max-pooling の入力として用いる。 ``X`` を畳み込み層の入力、\ ``Y``
をプーリング層の出力とする。 ``X[i, j]``\ 、\ ``X[i, j + 1]``\ 、
``X[i+1, j]``\ 、\ ``X[i+1, j + 1]`` の値が異なるかどうかにかかわらず、
プーリング層は常に ``Y[i, j] = 1`` を出力する。
つまり、\ :math:`2\times 2` の max-pooling 層を使えば、
畳み込み層が認識したパターンが高さまたは幅方向に1要素以内しか移動しない限り、
それを依然として検出できる。

以下のコードでは、\ ``pool2d`` 関数で プーリング層の順伝播を実装 する。
この関数は :numref:`sec_conv_layer` の ``corr2d`` 関数に似ている。
ただし、カーネルは不要で、入力の各領域の最大値または平均値として
出力を計算する。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-4ca28bfa-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-4ca28bfa-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-4ca28bfa-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-4ca28bfa-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-4ca28bfa-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    def pool2d(X, pool_size, mode='max'):
        p_h, p_w = pool_size
        Y = d2l.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
        for i in range(Y.shape[0]):
            for j in range(Y.shape[1]):
                if mode == 'max':
                    Y[i, j] = X[i: i + p_h, j: j + p_w].max()
                elif mode == 'avg':
                    Y[i, j] = X[i: i + p_h, j: j + p_w].mean()
        return Y



.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-4ca28bfa-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    def pool2d(X, pool_size, mode='max'):
        p_h, p_w = pool_size
        Y = d2l.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
        for i in range(Y.shape[0]):
            for j in range(Y.shape[1]):
                if mode == 'max':
                    Y[i, j] = X[i: i + p_h, j: j + p_w].max()
                elif mode == 'avg':
                    Y[i, j] = X[i: i + p_h, j: j + p_w].mean()
        return Y



.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-4ca28bfa-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    def pool2d(X, pool_size, mode='max'):
        p_h, p_w = pool_size
        Y = jnp.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
        for i in range(Y.shape[0]):
            for j in range(Y.shape[1]):
                if mode == 'max':
                    Y = Y.at[i, j].set(X[i: i + p_h, j: j + p_w].max())
                elif mode == 'avg':
                    Y = Y.at[i, j].set(X[i: i + p_h, j: j + p_w].mean())
        return Y



.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-4ca28bfa-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
    pool2d(X, (2, 2))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Variable 'Variable:0' shape=(2, 2) dtype=float32, numpy=
    array([[4., 5.],
           [7., 8.]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

:numref:`fig_pooling` における入力テンソル ``X`` を構成して、 2次元
max-pooling 層の出力を検証 できる。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-151133bb-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-151133bb-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-151133bb-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-151133bb-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-151133bb-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
    pool2d(X, (2, 2))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[4., 5.],
            [7., 8.]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-151133bb-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
    pool2d(X, (2, 2))


.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    [07:04:06] ../src/storage/storage.cc:196: Using Pooled (Naive) StorageManager for CPU




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[4., 5.],
           [7., 8.]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-151133bb-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
    pool2d(X, (2, 2))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[4., 5.],
           [7., 8.]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-151133bb-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d(X, (2, 2), 'avg')




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Variable 'Variable:0' shape=(2, 2) dtype=float32, numpy=
    array([[2., 3.],
           [5., 6.]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

また、平均プーリング層 でも試すことができる。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-bf3ab8f9-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-bf3ab8f9-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-bf3ab8f9-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-bf3ab8f9-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-bf3ab8f9-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d(X, (2, 2), 'avg')




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[2., 3.],
            [5., 6.]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-bf3ab8f9-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d(X, (2, 2), 'avg')




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[2., 3.],
           [5., 6.]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-bf3ab8f9-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d(X, (2, 2), 'avg')




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[2., 3.],
           [5., 6.]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-bf3ab8f9-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.reshape(d2l.arange(16, dtype=d2l.float32), (1, 4, 4, 1))
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 4, 4, 1), dtype=float32, numpy=
    array([[[[ 0.],
             [ 1.],
             [ 2.],
             [ 3.]],
    
            [[ 4.],
             [ 5.],
             [ 6.],
             [ 7.]],
    
            [[ 8.],
             [ 9.],
             [10.],
             [11.]],
    
            [[12.],
             [13.],
             [14.],
             [15.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

パディングとストライド
----------------------

畳み込み層と同様に、プーリング層も 出力形状を変化させる。
そしてこれまでと同様に、入力をパディングしストライドを調整することで、
望ましい出力形状を得るように演算を調整できる。
プーリング層におけるパディングとストライドの使用は、
深層学習フレームワークの組み込み2次元 max-pooling 層を通して示せる。
まず、形状が4次元の入力テンソル ``X`` を構成する。
ここで、サンプル数（バッチサイズ）とチャネル数はいずれも 1 である。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-9c5f858d-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-9c5f858d-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-9c5f858d-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-9c5f858d-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-9c5f858d-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.reshape(d2l.arange(16, dtype=d2l.float32), (1, 1, 4, 4))
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[ 0.,  1.,  2.,  3.],
              [ 4.,  5.,  6.,  7.],
              [ 8.,  9., 10., 11.],
              [12., 13., 14., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-9c5f858d-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.reshape(d2l.arange(16, dtype=d2l.float32), (1, 1, 4, 4))
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[ 0.,  1.,  2.,  3.],
             [ 4.,  5.,  6.,  7.],
             [ 8.,  9., 10., 11.],
             [12., 13., 14., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-9c5f858d-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.reshape(d2l.arange(16, dtype=d2l.float32), (1, 4, 4, 1))
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[ 0.],
             [ 1.],
             [ 2.],
             [ 3.]],
    
            [[ 4.],
             [ 5.],
             [ 6.],
             [ 7.]],
    
            [[ 8.],
             [ 9.],
             [10.],
             [11.]],
    
            [[12.],
             [13.],
             [14.],
             [15.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-9c5f858d-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = tf.keras.layers.MaxPool2D(pool_size=[3, 3])
    # Pooling has no model parameters, hence it needs no initialization
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 1, 1, 1), dtype=float32, numpy=array([[[[10.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

プーリングは領域から情報を集約するため、深層学習フレームワークではプーリングウィンドウサイズとストライドが一致するのが既定
である。 たとえば、形状 ``(3, 3)`` のプーリングウィンドウを使うと、
既定では ``(3, 3)`` のストライドになる。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-b16bf44c-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-b16bf44c-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-b16bf44c-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-b16bf44c-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-b16bf44c-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2d(3)
    # Pooling has no model parameters, hence it needs no initialization
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[10.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-b16bf44c-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2D(3)
    # Pooling has no model parameters, hence it needs no initialization
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[10.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-b16bf44c-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    # Pooling has no model parameters, hence it needs no initialization
    nn.max_pool(X, window_shape=(3, 3), strides=(3, 3))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[10.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-b16bf44c-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    paddings = tf.constant([[0, 0], [1,0], [1,0], [0,0]])
    X_padded = tf.pad(X, paddings, "CONSTANT")
    pool2d = tf.keras.layers.MaxPool2D(pool_size=[3, 3], padding='valid',
                                       strides=2)
    pool2d(X_padded)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 2, 2, 1), dtype=float32, numpy=
    array([[[[ 5.],
             [ 7.]],
    
            [[13.],
             [15.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

言うまでもなく、必要であれば ストライドとパディングを手動で指定
して、フレームワークの既定値を上書きできる。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-ec47c00f-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-ec47c00f-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-ec47c00f-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-ec47c00f-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-ec47c00f-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2d(3, padding=1, stride=2)
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[ 5.,  7.],
              [13., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-ec47c00f-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2D(3, padding=1, strides=2)
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[ 5.,  7.],
             [13., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-ec47c00f-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X_padded = jnp.pad(X, ((0, 0), (1, 0), (1, 0), (0, 0)), mode='constant')
    nn.max_pool(X_padded, window_shape=(3, 3), padding='VALID', strides=(2, 2))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[ 5.],
             [ 7.]],
    
            [[13.],
             [15.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-ec47c00f-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    paddings = tf.constant([[0, 0], [0, 0], [1, 1], [0, 0]])
    X_padded = tf.pad(X, paddings, "CONSTANT")
    
    pool2d = tf.keras.layers.MaxPool2D(pool_size=[2, 3], padding='valid',
                                       strides=(2, 3))
    pool2d(X_padded)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 2, 2, 1), dtype=float32, numpy=
    array([[[[ 5.],
             [ 7.]],
    
            [[13.],
             [15.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

もちろん、以下の例が示すように、任意の高さと幅を持つ任意の長方形のプーリングウィンドウを指定できる。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-6ebf3ab7-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-6ebf3ab7-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-6ebf3ab7-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-6ebf3ab7-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-6ebf3ab7-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2d((2, 3), stride=(2, 3), padding=(0, 1))
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[ 5.,  7.],
              [13., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-6ebf3ab7-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2D((2, 3), padding=(0, 1), strides=(2, 3))
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[ 5.,  7.],
             [13., 15.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-6ebf3ab7-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    
    X_padded = jnp.pad(X, ((0, 0), (0, 0), (1, 1), (0, 0)), mode='constant')
    nn.max_pool(X_padded, window_shape=(2, 3), strides=(2, 3), padding='VALID')




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[ 5.],
             [ 7.]],
    
            [[13.],
             [15.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-6ebf3ab7-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    # Concatenate along `dim=3` due to channels-last syntax
    X = d2l.concat([X, X + 1], 3)
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 4, 4, 2), dtype=float32, numpy=
    array([[[[ 0.,  1.],
             [ 1.,  2.],
             [ 2.,  3.],
             [ 3.,  4.]],
    
            [[ 4.,  5.],
             [ 5.,  6.],
             [ 6.,  7.],
             [ 7.,  8.]],
    
            [[ 8.,  9.],
             [ 9., 10.],
             [10., 11.],
             [11., 12.]],
    
            [[12., 13.],
             [13., 14.],
             [14., 15.],
             [15., 16.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

複数チャネル
------------

多チャネル入力データを処理する場合、
プーリング層は入力チャネルごとに別々にプーリング し、
畳み込み層のようにチャネル方向に入力を合計することはしない。
これは、プーリング層の出力チャネル数が
入力チャネル数と同じであることを意味する。 以下では、テンソル ``X`` と
``X + 1`` をチャネル次元で連結し、 2チャネルの入力を構成する。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-dc50ee04-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-dc50ee04-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-dc50ee04-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a><a href="#tensorflow-dc50ee04-3" onclick="tagClick('tensorflow'); return false;" class="mdl-tabs__tab ">tensorflow</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-dc50ee04-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.concat((X, X + 1), 1)
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[ 0.,  1.,  2.,  3.],
              [ 4.,  5.,  6.,  7.],
              [ 8.,  9., 10., 11.],
              [12., 13., 14., 15.]],
    
             [[ 1.,  2.,  3.,  4.],
              [ 5.,  6.,  7.,  8.],
              [ 9., 10., 11., 12.],
              [13., 14., 15., 16.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-dc50ee04-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X = d2l.concat((X, X + 1), 1)
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[ 0.,  1.,  2.,  3.],
             [ 4.,  5.,  6.,  7.],
             [ 8.,  9., 10., 11.],
             [12., 13., 14., 15.]],
    
            [[ 1.,  2.,  3.,  4.],
             [ 5.,  6.,  7.,  8.],
             [ 9., 10., 11., 12.],
             [13., 14., 15., 16.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-dc50ee04-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    # Concatenate along `dim=3` due to channels-last syntax
    X = d2l.concat([X, X + 1], 3)
    X




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[ 0.,  1.],
             [ 1.,  2.],
             [ 2.,  3.],
             [ 3.,  4.]],
    
            [[ 4.,  5.],
             [ 5.,  6.],
             [ 6.,  7.],
             [ 7.,  8.]],
    
            [[ 8.,  9.],
             [ 9., 10.],
             [10., 11.],
             [11., 12.]],
    
            [[12., 13.],
             [13., 14.],
             [14., 15.],
             [15., 16.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="tensorflow-dc50ee04-3">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    paddings = tf.constant([[0, 0], [1,0], [1,0], [0,0]])
    X_padded = tf.pad(X, paddings, "CONSTANT")
    pool2d = tf.keras.layers.MaxPool2D(pool_size=[3, 3], padding='valid',
                                       strides=2)
    pool2d(X_padded)





.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    <tf.Tensor: shape=(1, 2, 2, 2), dtype=float32, numpy=
    array([[[[ 5.,  6.],
             [ 7.,  8.]],
    
            [[13., 14.],
             [15., 16.]]]], dtype=float32)>





.. raw:: html

    </div>



.. raw:: html

    </div>

見てわかるように、プーリング後も出力チャネル数は依然として 2 である。



.. raw:: html

    <div class="mdl-tabs mdl-js-tabs mdl-js-ripple-effect"><div class="mdl-tabs__tab-bar "><a href="#pytorch-82cc4935-0" onclick="tagClick('pytorch'); return false;" class="mdl-tabs__tab is-active">pytorch</a><a href="#mxnet-82cc4935-1" onclick="tagClick('mxnet'); return false;" class="mdl-tabs__tab ">mxnet</a><a href="#jax-82cc4935-2" onclick="tagClick('jax'); return false;" class="mdl-tabs__tab ">jax</a></div>



.. raw:: html

    <div class="mdl-tabs__panel is-active" id="pytorch-82cc4935-0">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2d(3, padding=1, stride=2)
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    tensor([[[[ 5.,  7.],
              [13., 15.]],
    
             [[ 6.,  8.],
              [14., 16.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="mxnet-82cc4935-1">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    pool2d = nn.MaxPool2D(3, padding=1, strides=2)
    pool2d(X)




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    array([[[[ 5.,  7.],
             [13., 15.]],
    
            [[ 6.,  8.],
             [14., 16.]]]])





.. raw:: html

    </div>



.. raw:: html

    <div class="mdl-tabs__panel " id="jax-82cc4935-2">

.. raw:: latex

   \diilbookstyleinputcell

.. code:: python

    X_padded = jnp.pad(X, ((0, 0), (1, 0), (1, 0), (0, 0)), mode='constant')
    nn.max_pool(X_padded, window_shape=(3, 3), padding='VALID', strides=(2, 2))




.. raw:: latex

   \diilbookstyleoutputcell

.. parsed-literal::
    :class: output

    Array([[[[ 5.,  6.],
             [ 7.,  8.]],
    
            [[13., 14.],
             [15., 16.]]]], dtype=float32)





.. raw:: html

    </div>



.. raw:: html

    </div>

まとめ
------

プーリングは非常に単純な操作である。その名の通り、値のウィンドウ上で結果を集約する。ストライドやパディングなど、畳み込みに関する意味論はこれまでと同様に適用される。プーリングはチャネルに依存しない、すなわちチャネル数を変えず、各チャネルに別々に適用されることに注意してほしい。最後に、2つの代表的なプーリング手法のうち、max-pooling
は平均プーリングよりも望ましく、出力にある程度の不変性を与える。よく使われる選択として、出力の空間解像度を4分の1にするために
:math:`2 \times 2` のプーリングウィンドウを選ぶ方法がある。

プーリング以外にも解像度を下げる方法は数多くある。たとえば、stochastic
pooling :cite:`Zeiler.Fergus.2013` や fractional max-pooling
:cite:`Graham.2014`
では、集約にランダム化が組み合わされている。これにより、場合によっては精度がわずかに向上する。最後に、後で注意機構で見るように、出力を集約するより洗練された方法もある。たとえば、クエリと表現ベクトルの整列を用いる方法である。

演習
----

1. 畳み込みを通して平均プーリングを実装せよ。
2. max-pooling は畳み込みだけでは実装できないことを証明せよ。
3. max-pooling は ReLU 演算、すなわち
   :math:`\textrm{ReLU}(x) = \max(0, x)` を用いて実現できる。

   1. ReLU 演算だけを用いて :math:`\max (a, b)` を表せ。
   2. これを用いて、畳み込みと ReLU 層によって max-pooling を実装せよ。
   3. :math:`2 \times 2` の畳み込みには何チャネル、何層必要か？
      :math:`3 \times 3` の畳み込みではどうか？

4. プーリング層の計算コストはいくらか？ プーリング層への入力サイズが
   :math:`c\times h\times w`\ 、プーリングウィンドウの形状が
   :math:`p_\textrm{h}\times p_\textrm{w}`\ 、パディングが
   :math:`(p_\textrm{h}, p_\textrm{w})`\ 、ストライドが
   :math:`(s_\textrm{h}, s_\textrm{w})` であると仮定せよ。
5. max-pooling と average pooling
   が異なる働きをすると予想するのはなぜか？
6. 別個の最小プーリング層は必要か？ 別の演算で置き換えられるか？
7. プーリングに softmax
   演算を使うこともできる。なぜそれほど一般的でないのだろうか？