問題プレビューID: d1f77a94応用情報技術者試験 2019年(令和元年度)秋期 午後

問 3
応用情報技術者試験 2019年(令和元年度)秋期 午後

ニューラルネットワークに関する次の記述を読んで,設問1〜4に答えよ。

AI技術の進展によって,機械学習に利用されるニューラルネットワークは様々な分野で応用されるようになってきた。ニューラルネットワークが得意とする問題に分類問題がある。例えば,ニューラルネットワークによって手書きの数字を分類(認識)することができる。

分類問題には線形問題と非線形問題がある。図1に線形問題と非線形問題の例を示す。2次元平面上に分布した白丸(○)と黒丸(●)について,線形問題(図1の(a))では1本の直線で分類できるが,非線形問題(図1の(b))では1本の直線では分類できない。機械学習において分類問題を解く機構を分類器と呼ぶ。ニューラルネットワークを使うと,線形問題と非線形問題の両方を解く分類器を構成できる。

図 1 線形問題と非線形問題の例

2入力の論理演算を分類器によって解いた例を図2に示す。図2の論理演算の結果(丸数字)は,論理積(AND),論理和(OR)及び否定論理積(NAND)では1本の直線で分類できるが,排他的論理和(XOR)では1本の直線では分類できない。この性質から,前者は線形問題,後者は非線形問題と考えることができる。

図 2 2入力の論理演算を分類器によって解いた例

論理積(AND)

x2\x101
1⓪①
0⓪⓪

(破線の境界で①と⓪を分類できる。)

論理和(OR)

x2\x101
1①①
0⓪①

(破線の境界で①と⓪を分類できる。)

否定論理積(NAND)

x2\x101
1①⓪
0①①

(破線の境界で①と⓪を分類できる。)

排他的論理和(XOR)

x2\x101
1①⓪
0⓪①

(1本の直線では①と⓪を分類できない。)

注記 横軸(x1)及び縦軸(x2)は論理演算の入力値(0又は1)。丸数字は論理演算の出力値(演算結果)。破線は出力値を分類する境界。

〔単純パーセプトロンを用いた論理演算〕

ここでは,図2に示した四つの論理演算の中から,排他的論理和以外の三つの論理演算を,ニューラルネットワークの一種であるパーセプトロンを用いて,分類問題として解くことを考える。図3に最もシンプルな単純パーセプトロンの模式図とノードの演算式を示す。ここでは,円をノード,矢印をアークと呼ぶ。ノードx1及びノードx2は論理演算の入力値,ノードyは出力値(演算結果)を表す。ノードyの出力値は,アークがもつ重み(w1, w2)とノードyのバイアス(b)を使って,図3中の演算式を用いて計算する。

図 3 単純パーセプトロンの模式図とノードの演算式

単純パーセプトロンに適切な重みとバイアスを設定することで,論理積,論理和及び否定論理積を含む線形問題を計算する分類器を構成することができる。一般に,重みとバイアスは様々な値を取り得る。表1に単純パーセプトロンで各論理演算を計算するための重みとバイアスの例を示す。

例えば,表1の論理和の重みとバイアスを設定した単純パーセプトロンにx1=1,x2=0を入力すると,図3の演算式から1×0.5+0×0.5-0.2=0.3>0となり,出力値はy=1となる。

表 1 単純パーセプトロンで各論理演算を計算するための重みとバイアスの例

論理演算w1w2b
論理積0.50.5[a]
論理和0.50.5-0.2
否定論理積-0.5-0.50.7

〔単純パーセプトロンのプログラム〕

単純パーセプトロンの機能を実装するプログラム simple_perceptron を作成する。プログラムで使用する定数,変数及び配列を表2に,プログラムを図4に示す。simple_perceptron は,論理演算の入力値の全ての組合せXから論理演算の出力値Yを計算する。ここで,関数に配列を引数として渡すときの方式は参照渡しである。また,配列の添え字は0から始まるものとする。

表 2 プログラム simple_perceptron で使用する定数,変数及び配列

名称種類説明
NI定数入力ノードの数を表す定数。表1の論理演算では,2入力なので,2となる。
NC定数論理演算の入力値の全ての組合せの数を表す定数。表1の論理演算では,4となる。
X配列論理演算の入力値の全ての組合せを表す2次元配列。表1の論理演算では,[[0,0], [0,1], [1,0], [1,1]]が設定されている。
Y配列論理演算の出力値(演算結果)を格納する1次元配列。表1の論理和では,入力値Xに対応して[0, 1, 1, 1]となる。
WY配列ノードyのアークがもつ重みの値を表す1次元配列。表1の論理和では,[0.5, 0.5]を与える。
BY変数ノードyのバイアスの値(b)を表す変数。表1の論理和では,-0.2を与える。

図 4 単純パーセプトロンのプログラム

function simple_perceptron(X, Y)
  for( out を 0 から NC-1 まで 1 ずつ増やす )
    ytemp ← [ア]
    for( in を 0 から NI-1 まで 1 ずつ増やす )
      ytemp ← ytemp + [イ] × [ウ]
    endfor
    if( ytemp が [エ] )
      Y[out] ← 1
    else
      Y[out] ← 0
    endif
  endfor
endfunction

〔3層パーセプトロンを用いた論理演算〕

パーセプトロンの層を増やすと,単純パーセプトロンでは解くことのできない非線形問題を解くことができるようになる。例えば排他的論理和を計算する分類器は,3層パーセプトロンを用いて構成することができる。

3層パーセプトロンの模式図とノードの演算式を図5に,排他的論理和を計算するための重みとバイアスの例を表3に示す。ノードm1及びノードm2を中間ノードと呼ぶ。

図 5 3層パーセプトロンの模式図とノードの演算式

表 3 3層パーセプトロンで排他的論理和を計算するための重みとバイアスの例

ノードw1w2b
m10.50.5-0.2
m2-0.5-0.50.7
y0.50.5-0.6

〔3層パーセプトロンのプログラム〕

3層パーセプトロンの機能を実装するプログラム three_layer_perceptron を作成する。表2に示したものに加えて,このプログラムで使用する定数及び配列を表4に,プログラムを図6に示す。three_layer_perceptron は,論理演算の入力値の全ての組合せXから論理演算の出力値Yを計算する。

表 4 プログラム three_layer_perceptron で使用する定数及び配列

名称種類説明
NM定数中間ノードの数を表す定数。図5では,中間ノードがm1及びm2の二つなので,2となる。
M配列中間ノードの演算結果を格納する2次元配列。
WM配列中間ノードのアークがもつ重みの値を表す2次元配列。表3の排他的論理和では,[[0.5, 0.5], [-0.5, -0.5]]を与える。
BM配列中間ノードのバイアスの値(b)を入れる1次元配列。表3の排他的論理和では,[-0.2, 0.7]を与える。

図 6 3層パーセプトロンのプログラム

function three_layer_perceptron(X, Y)
  for( out を 0 から NC-1 まで 1 ずつ増やす )
    ytemp ← [ア]
    for( mid を 0 から NM-1 まで 1 ずつ増やす )
      mtemp ← BM[mid]
      for( in を 0 から NI-1 まで 1 ずつ増やす )
        mtemp ← mtemp + [イ] × [オ]
      endfor
      if( mtemp が [エ] )
        M[out][mid] ← 1
      else
        M[out][mid] ← 0
      endif
      ytemp ← ytemp + [カ] × [キ]
    endfor
    if( ytemp が [エ] )
      Y[out] ← 1
    else
      Y[out] ← 0
    endif
  endfor
endfunction

設問1

表1中の[a]に入れる適切な数値を解答群の中から選び,記号で答えよ。

解答群

ア -0.7  イ -0.2  ウ 0.2  エ 0.7

設問2

表3の値を用いた場合に,図5で入力値x1=1,x2=0に対する中間ノードm2の出力値を答えよ。

設問3

図4及び図6中の[ア]〜[キ]に入れる適切な字句を答えよ。

設問4

2入力の同値(EQ)と否定論理和(NOR)のうち,単純パーセプトロンで解くことができるのはどちらか。論理演算の名称を答え,解くことができる理由を20字以内で述べよ。

なお,同値とは,二つの入力値が等しい場合に1,等しくない場合に0となる論理演算である。

模範解答

設問1 a ア

設問2 1

設問3 ア BY,イ X[out][in],ウ WY[in],エ 0より大きい,オ WM[mid][in],カ M[out][mid],キ WY[mid](カ,キは順不同)

設問4 名称 否定論理和,理由 否定論理和は線形問題だから

解説

本問では,ディープラーニングの基本的なアルゴリズムであるニューラルネットワークを題材に,ニューラルネットワークの一種であるパーセプトロンに関する基本的な理解について問う。

設問1は,論理積の出力が1となるのはx1=1かつx2=1の場合だけであり,そのとき x1×w1+x2×w2+b = 1×0.5+1×0.5+b = 1+b > 0 となる必要があるので,b には -0.7 を入れる。したがって,アである。

設問2は,表3のm2の値 w1=-0.5,w2=-0.5,b=0.7 を用いて,入力x1=1,x2=0のとき m2 = 1×(-0.5)+0×(-0.5)+0.7 = 0.2 > 0 なので,中間ノードm2の出力値は1となる。

設問3は,図4及び図6のプログラムの空欄に,単純パーセプトロン及び3層パーセプトロンの計算に必要な字句を入れる。アは各入力の組合せごとに加算する前の値を初期化するもので,ノードyのバイアス BY である。イは各入力値,ウはその入力に対応する重みで,それぞれ X[out][in],WY[in] である。エは出力値を1とする条件で,計算結果が 0より大きい ことである。オは中間ノードの入力に対応する重み WM[mid][in] である。カとキは中間ノードの演算結果とその重みの積を表す式を作るもので,M[out][mid] と WY[mid] の組合せであり,掛け算なので順不同である。

設問4は,2入力の同値(EQ)と否定論理和(NOR)のうち,単純パーセプトロンで解くことができるものを問う。否定論理和(NOR)の出力は,x1=0,x2=0 のときだけ1となり,それ以外は0である。これは1本の直線で分類できる線形問題である。一方,同値(EQ)は,x1=0,x2=0 と x1=1,x2=1 のとき1となり,排他的論理和と同様に1本の直線では分類できない非線形問題である。したがって,単純パーセプトロンで解くことができるのは否定論理和であり,その理由は否定論理和が線形問題だからである。

関連問題

本文が同じ・似ている問題を表示しています