G検定の用語一覧293語

人工知能とその動向

人工知能とは探索と知識機械学習とDLの歩み

人工知能とは

• AI効果

  AI で何かができるようになると、それは単なる自動化で知能ではない、と見なされてしまう現象。

• エージェント

  周りの環境を観察し、目的に向けて自分で行動を選ぶもの。AI の分野では、知的な行動をするプログラムやロボットを指す。

• チューリングテスト

  アラン・チューリングが考えた、機械に知能があるかを判定する方法。人が文字だけで会話して、相手が機械か人か見分けられなければ、知能があるとみなす。

• ローブナーコンテスト

  チューリングテストの考えをもとに、人と見分けがつかない会話プログラムを競うコンテスト。

• 中国語の部屋

  ジョン・サールの思考実験。中国語がわからない人がマニュアルどおりに答えても、中国語を理解しているとはいえない。チューリングテストへの反論。

• 強いAIと弱いAI

  ジョン・サールの分け方。強いAIは本当に心や理解を持つ AI、弱いAIは人の知能の一部をまねて道具として役立つ AI。

• シンボルグラウンディング問題

  記号（言葉）と、それが指す現実の意味を、コンピュータが結びつけられないという問題。

• フレーム問題

  今の作業に関係あることだけを選んで考えることが、AI には難しいという問題。関係のないことまで全部考えると、処理が終わらない。

• 身体性

  知能には、体を通して世界とやり取りする経験が必要だという考え。

• 知識獲得のボトルネック

  専門家の知識を、コンピュータが使える形に取り出して書き尽くすのが難しいという問題。エキスパートシステムの限界になった。

• トイ・プロブレム

  迷路やパズルのように、ルールとゴールがはっきりした、おもちゃのような問題。初期の AI はこれは解けたが、現実の問題は解けなかった。

• シンギュラリティ

  AI が人間の知能を超え、社会が予測できないほど変わるとされる時点（技術的特異点）。2045年ごろとする説がある。

探索と知識

• ダートマス会議

  1956年にアメリカで開かれた研究会。「人工知能」という言葉が使われ、AI 研究の始まりとされる。

• 探索木

  問題を解く途中の状態を、枝分かれする木の形で表したもの。探索で答えにたどり着く道を探す。

• 幅優先探索と深さ優先探索

  幅優先探索は、近い所から順に広く調べる。深さ優先探索は、1つの道を行き止まりまで調べてから戻る。

• ハノイの塔

  大きさの違う円盤を、決まりに従って別の棒に移すパズル。探索の例としてよく使われる。

• STRIPS

  前提条件・行動・結果を書いて、目的を達成する行動の順番を考える、自動計画（プランニング）の方法。

• SHRDLU

  テリー・ウィノグラードが作った、積み木の世界を言葉の指示で動かすシステム。

• Mini-Max法

  ゲームで、相手は自分に最も不利な手を、自分は最も有利な手を選ぶと考えて、手を決める方法。

• αβ法

  Mini-Max法で、調べなくても結果が変わらない枝を省いて（枝刈り）、計算を減らす方法。

• モンテカルロ法

  ランダムに何度も試して（ゲームなら最後までランダムに打って）、その結果から良い手を見積もる方法。

• ブルートフォース

  考えられるすべての場合を、しらみつぶしに調べる方法。

• エキスパートシステム

  専門家の知識をルールとして入れ、専門家のように判断させるシステム。第二次AIブームの中心。

• MYCIN（マイシン）

  1970年代に作られた、血液の感染症を診断して抗生物質を勧めるエキスパートシステム。

• DENDRAL

  1960年代に作られた、有機化合物の分子の構造を推定するエキスパートシステム。

• ELIZA（イライザ）

  1960年代の会話プログラム。決まったパターンで言葉を返すだけだが、人と話しているように感じさせた。

• 意味ネットワーク

  概念を点、概念どうしの関係を線で結んで、知識を表す方法。is-a（〜の一種）や part-of（〜の一部）などの関係を使う。

• is-aの関係とpart-ofの関係

  知識表現で使う関係。is-a は「〜は〜の一種」（犬は動物）、part-of は「〜は〜の一部」（車輪は車の一部）。has-a は「〜を持つ」。

• オントロジー

  ある分野の概念と、その関係を、決まった形で整理して書いたもの。知識を共有・再利用するために使う。

• Cycプロジェクト

  人間の一般常識を、すべてコンピュータに入れようとした長期のプロジェクト。

• セマンティックWeb

  Web の情報に意味を表すデータを付けて、コンピュータが意味を理解して処理できるようにする考え。

• ワトソン

  IBM の質問応答システム。アメリカのクイズ番組で人間のチャンピオンに勝った。

• 東ロボくん

  東京大学の入学試験に合格できる AI を目指したプロジェクト。読解力などの課題が明らかになった。

機械学習とDLの歩み

• 次元の呪い

  データの特徴（次元）が増えると、学習に必要なデータの量が爆発的に増え、うまく学習できなくなること。

• 統計的自然言語処理

  大量の文章のデータから、確率や統計を使って言葉を扱う方法。統計的機械翻訳もその1つ。

• レコメンデーションエンジン

  利用者の好みや行動から、合いそうな商品などを勧める仕組み。機械学習の代表的な使い道。

• ネオコグニトロン

  福島邦彦が考えた、人の視覚の仕組みをまねたニューラルネットワーク。CNN の原形とされる。

• LeNet

  ヤン・ルカンらが作った、手書き数字を認識する初期の CNN。

• ImageNetとILSVRC

  ImageNet は大規模な画像のデータセット。ILSVRC はそれを使った画像認識のコンテストで、2012年にディープラーニング（AlexNet）が大差で優勝した。

• AlphaGo（アルファ碁）

  DeepMind が作った囲碁の AI。ディープラーニングと強化学習、モンテカルロ木探索を組み合わせ、トップ棋士に勝った。

機械学習

教師あり学習教師なし学習強化学習モデルの評価

教師あり学習

• 線形回帰

  データの関係を直線（線形の式）で表して、数の値を予測する方法。説明に使う変数が1つなら単回帰分析、複数なら重回帰分析。

• ロジスティック回帰

  名前は回帰だが、分類に使う方法。あるクラスに入る確率を、シグモイド関数で 0〜1 の値にして出す。

• サポートベクターマシン（SVM）

  クラスの境界とデータの間の距離（マージン）を最大にする境界を見つける分類の方法。

• カーネルトリック

  データを高い次元に移したときの計算を、実際に移さずに効率よく行う工夫。SVM で、まっすぐな線で分けられないデータを分けるのに使う。

• 決定木

  「はい・いいえ」の質問を木の形につなげて、分類や予測をする方法。判断の理由がわかりやすい。

• アンサンブル学習

  複数のモデルを組み合わせて、1つのモデルより良い予測をする方法。バギングやブースティングがある。

• バギング

  データから重複を許して取り出した複数のデータ（ブートストラップサンプリング）で、別々にモデルを作り、結果をまとめる方法。

• ランダムフォレスト

  バギングで作った多数の決定木に、使う特徴もランダムに選ばせて、多数決などで結果を出す方法。

• ブースティング

  前のモデルが間違えたデータを重く見ながら、モデルを順番に作って組み合わせる方法。勾配ブースティングなど。

• 自己回帰モデル（ARモデル）

  過去の自分の値から、次の値を予測する時系列のモデル。複数の時系列を同時に扱うものはベクトル自己回帰モデル（VARモデル）。

教師なし学習

• k-means法

  データを、決めた k 個のグループに分けるクラスタリングの方法。各グループの中心とデータの距離をもとに分ける。

• ウォード法

  グループをまとめたときのばらつきの増え方が最も小さくなるように、少しずつまとめていく階層的なクラスタリングの方法。結果は樹形図（デンドログラム）で表す。

• 主成分分析（PCA）

  データのばらつきが大きい方向（主成分）を見つけて、少ない次元にまとめる次元削減の方法。

• t-SNE

  高い次元のデータを、近いものは近いまま 2〜3 次元に移して、見える形にする次元削減の方法。

• 特異値分解（SVD）

  行列を3つの行列の積に分ける計算。次元削減や推薦などに使う。

• 多次元尺度構成法（MDS）

  データどうしの距離（似ていなさ）をなるべく保ったまま、低い次元に配置する方法。

• トピックモデル

  文書が、どんな話題（トピック）からできているかを推定するモデル。代表は潜在的ディリクレ配分法（LDA）。

• 協調フィルタリング

  似た好みの利用者の行動をもとに、おすすめを決める方法。新しい利用者や商品にはデータがなく、勧めにくい（コールドスタート問題）。

• コンテンツベースフィルタリング

  商品そのものの特徴と、利用者の好みの特徴を比べて、おすすめを決める方法。

強化学習

• マルコフ決定過程

  次の状態が、今の状態と行動だけで決まると考えて、強化学習の問題を表す枠組み。

• 割引率

  強化学習で、先の報酬ほど価値を小さく見積もるための率。0〜1 の値。

• 状態価値関数と行動価値関数

  状態価値関数は、ある状態がどれだけ良いか。行動価値関数（Q値）は、ある状態である行動をとることがどれだけ良いか。

• Q学習

  行動価値（Q値）を、次の状態で最も良い行動の価値を使って更新していく強化学習の方法。

• SARSA

  行動価値を、次の状態で実際に選んだ行動の価値を使って更新する強化学習の方法。

• ε-greedy方策

  ふだんは今いちばん良い行動を選び、確率 ε でランダムな行動を試す方法。活用と探索のバランスをとる。

• バンディットアルゴリズム

  どの選択肢が良いかわからない中で、試す（探索）と良いものを使う（活用）のバランスをとる方法。UCB方策など。

• 方策勾配法

  行動の選び方（方策）そのものを、報酬が増える方向に直接学習する方法。REINFORCE など。

• Actor-Critic

  行動を選ぶ Actor と、その行動を評価する Critic の2つを組み合わせて学ぶ強化学習の方法。

モデルの評価

• 混同行列

  分類の結果を、真陽性・偽陽性・偽陰性・真陰性の4つに分けて数えた表。

• 偽陽性と偽陰性

  偽陽性は、本当は陰性なのに陽性と予測した誤り。偽陰性は、本当は陽性なのに陰性と予測した誤り。

• 適合率

  陽性と予測したもののうち、本当に陽性だった割合。誤って陽性と言うのを避けたいときに大事。

• 再現率

  本当に陽性のもののうち、陽性と予測できた割合。見逃しを避けたいときに大事。

• F値

  適合率と再現率の調和平均。2つのバランスを1つの数で見る。

• ROC曲線とAUC

  ROC曲線は、判定のしきい値を変えたときの、偽陽性率と真陽性率の関係のグラフ。AUC はその下の面積で、1 に近いほど良い。

• 平均二乗誤差（MSE）

  予測と正解の差を2乗して平均したもの。その平方根が二乗平均平方根誤差（RMSE）、差の絶対値の平均が平均絶対値誤差（MAE）。

• ホールドアウト検証

  データを学習用とテスト用に1回分けて、テスト用で性能を確かめる方法。

• k-分割交差検証

  データを k 個に分け、1つをテスト用、残りを学習用にする組み合わせを k 回くり返して、性能を平均する方法。

• AICとBIC

  赤池情報量規準（AIC）とベイズ情報量規準（BIC）。モデルの当てはまりの良さと複雑さのバランスで、モデルを選ぶための指標。

• オッカムの剃刀

  同じくらい説明できるなら、より単純なものを選ぶべきという考え。モデルを選ぶときの指針。

ディープラーニングの技術

ニューラルネットワーク活性化関数誤差関数と正則化最適化層と構造Attentionと生成モデルデータ拡張

ニューラルネットワーク

• 単純パーセプトロン

  入力層と出力層だけの、いちばん単純なニューラルネットワーク。まっすぐな線で分けられる問題しか解けない。

• 多層パーセプトロン

  入力層と出力層の間に隠れ層を入れたニューラルネットワーク。複雑な問題を解ける。

• GPU

  画像処理用の演算装置。同じ計算を大量に並列で行うのが得意で、ディープラーニングの学習に向く。

• TPU

  Google が作った、ディープラーニングの計算に特化した演算装置。

活性化関数

• シグモイド関数

  入力を 0〜1 の値に変える活性化関数。微分の最大値が小さく、層が深いと勾配消失が起きやすい。

• tanh関数

  入力を −1〜1 の値に変える活性化関数。シグモイド関数より勾配が消えにくい。

• ReLU関数

  入力が 0 以下なら 0、正ならそのまま出す活性化関数。勾配が消えにくく、よく使われる。

• Leaky ReLU関数

  ReLU関数の、入力が 0 以下のときにも少しだけ傾きを持たせたもの。

• ソフトマックス関数

  複数の出力を、合計が 1 になる確率に変える関数。多クラス分類の出力層で使う。

誤差関数と正則化

• 交差エントロピー

  予測の確率分布と正解の分布のずれを表す誤差関数。分類でよく使う。

• KLダイバージェンス

  カルバック・ライブラー情報量。2つの確率分布がどれだけ違うかを表す量。

• Contrastive LossとTriplet Loss

  データどうしの距離を学ぶための誤差関数。似たものは近く、違うものは遠くなるように学習する。

• L1正則化

  重みの絶対値の合計を罰として加える正則化。不要な重みが 0 になりやすい。線形回帰に使うとラッソ回帰。

• L2正則化

  重みの2乗の合計を罰として加える正則化。重みが全体に小さくなる。線形回帰に使うとリッジ回帰。

• 連鎖律

  合成関数の微分は、それぞれの微分の掛け算で求められるという法則。誤差逆伝播法の土台。

• 信用割当問題

  結果に対して、どの重みがどれだけ責任があるかを決める問題。誤差逆伝播法で解決した。

最適化

• 確率的勾配降下法（SGD）

  データを1つずつ、またはランダムに選んだ一部で勾配を計算して、重みを更新する方法。

• 学習率

  勾配降下法で、1回にどれだけ重みを動かすかを決める値。大きすぎると発散し、小さすぎると学習が遅い。

• エポックとイテレーション

  エポックは、学習データ全体を1回使い終わること。イテレーションは、重みを1回更新すること。

• バッチ学習とミニバッチ学習とオンライン学習

  重みを更新するのに使うデータの量の違い。全部を使うのがバッチ、一部ずつがミニバッチ、1つずつがオンライン学習。

• 局所最適解と大域最適解

  局所最適解は、その周りでは最も良いが全体では最良でない解。大域最適解は、全体で最も良い解。

• 鞍点

  ある方向から見ると最小、別の方向から見ると最大になっている点。学習が止まりやすい。

• モーメンタム

  前の更新の勢いを引き継いで重みを動かす方法。谷を速く進み、振動を抑える。

• AdaGrad

  よく更新された重みほど学習率を小さくしていく最適化の方法。学習が進むと更新がほとんど止まる弱点がある。

• RMSprop

  AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。

• Adam

  モーメンタムと RMSprop の考えを合わせた最適化の方法。よく使われる。AdaBound や AMSBound は、その改良版。

• 早期終了

  検証用のデータでの誤差が増え始めたら学習を止めて、過学習を防ぐ方法（アーリーストッピング）。

• 二重降下現象

  モデルを大きくしていくと、テストの誤差がいったん下がり、上がり、また下がる現象。

• ハイパーパラメータ

  学習率や層の数など、学習の前に人が決める値。グリッドサーチやランダムサーチで良い値を探す。

層と構造

• 全結合層

  前の層のすべてのニューロンと、次の層のすべてのニューロンがつながった層。

• 畳み込み層

  フィルタ（カーネル）を画像の上でずらしながら掛け合わせて、特徴（特徴マップ）を取り出す層。

• ストライドとパディング

  ストライドはフィルタをずらす幅。パディングは、画像の周りに値を足して、端の情報も扱えるようにすること。

• Dilated Convolution

  フィルタの要素の間をあけて、少ない計算で広い範囲を見る畳み込み。Atrous Convolution とも呼ぶ。

• Depthwise Separable Convolution

  畳み込みを、チャネルごとの畳み込みと、1×1 の畳み込みに分けて、計算を大きく減らす方法。

• プーリング層

  決まった範囲の最大値（最大値プーリング）や平均（平均値プーリング）をとって、特徴マップを小さくする層。位置の少しのずれに強くなる（不変性の獲得）。

• グローバルアベレージプーリング（GAP）

  特徴マップ全体の平均を1つの値にするプーリング。全結合層の代わりに使い、パラメータを減らせる。

• バッチ正規化

  ミニバッチごとに、各層の値を平均 0・分散 1 に整える方法。学習が安定して速くなる。

• レイヤー正規化

  1つのデータの中で、層の値をまとめて整える正規化。Transformer で使われる。ほかにインスタンス正規化やグループ正規化がある。

• スキップ結合

  層を飛ばして、前の層の出力を後ろの層に足す結合。層を深くしても学習しやすくなる。ResNet で使われた。

• リカレントニューラルネットワーク（RNN）

  前の時点の情報を次に引き継ぐ回帰結合層を持つネットワーク。時系列データや文章を扱う。

• BPTT

  RNN を時間の方向に展開して、誤差逆伝播法で学習する方法。

• エルマンネットワークとジョルダンネットワーク

  初期の RNN。エルマンネットワークは隠れ層の出力を、ジョルダンネットワークは出力層の出力を、次の時点の入力に戻す。

• LSTM

  ゲート機構と記憶セル（CEC）で、長い時系列でも大事な情報を覚えておけるようにした RNN。

• GRU

  LSTM を簡単にした RNN。リセットゲートと更新ゲートの2つで情報を調整する。

• 双方向RNN

  過去から未来と、未来から過去の両方向に情報を流す RNN。文の前後の両方を使える。

• 教師強制

  RNN の学習で、前の時点の予測ではなく、正解を次の入力に使う方法。

Attentionと生成モデル

• Seq2Seq

  エンコーダで入力の系列を読み込み、デコーダで出力の系列を作るモデル。機械翻訳などに使う。

• Attention

  入力のどこに注目すればよいかを重み付けする仕組み。長い系列でも、必要な情報を取り出せる。

• Self-Attention

  同じ系列の中の、各要素どうしの関係を計算する Attention。クエリ・キー・バリューを使う。

• Source-Target Attention

  デコーダの側から、エンコーダの出力のどこに注目するかを計算する Attention。

• Multi-Head Attention

  Attention を複数（ヘッド）並べて、いろいろな関係を同時にとらえる仕組み。

• Transformer

  RNN を使わず、Attention だけで系列を処理するモデル。並列に計算でき、今の大規模言語モデルの土台。

• 位置エンコーディング

  Transformer に、単語の順番の情報を与えるために、入力に足す値。

• オートエンコーダ

  入力を小さく縮め（エンコーダ）、元に戻す（デコーダ）ように学ぶネットワーク。次元削減や事前学習に使う。重ねたものは積層オートエンコーダ。

• 変分オートエンコーダ（VAE）

  潜在変数を確率分布として学ぶオートエンコーダ。新しいデータを生成できる。VQ-VAE・info VAE・β-VAE などの改良版がある。

データ拡張

• データ拡張

  学習データに、反転・回転・切り抜きなどの変形を加えて、データの量と多様さを増やす方法。過学習を防ぐ。

• Cutout と Random Erasing

  画像の一部を四角く隠して（消して）学習させるデータ拡張。一部が見えなくても認識できるようになる。

• Mixup

  2枚の画像とそのラベルを、決めた割合で混ぜ合わせるデータ拡張。

• CutMix

  画像の一部を別の画像で置き換え、ラベルも面積の割合で混ぜるデータ拡張。

• RandAugment

  たくさんの変形の中からランダムに選んで加えるデータ拡張。調整する値が少なくて済む。

• noisingとparaphrasing

  文章のデータ拡張。noising は単語を消す・入れ替えるなどのノイズを加える。paraphrasing は意味を変えずに言い換える。

ディープラーニングの応用

画像認識自然言語処理音声処理深層強化学習データ生成転移学習とマルチモーダル解釈性と軽量化

画像認識

• AlexNet

  2012年の ILSVRC で優勝した CNN。ReLU やドロップアウトを使い、ディープラーニングの流行のきっかけになった。

• VGG

  小さい 3×3 のフィルタを重ねて層を深くした CNN。

• GoogLeNet

  大きさの違うフィルタを並列に使う Inception モジュールを重ねた CNN。

• ResNet

  スキップ結合で、100層を超えるとても深い CNN の学習を可能にしたモデル。

• DenseNet

  各層に、それより前のすべての層の出力をつなぐ CNN。

• SENet

  チャネルごとの重要度を学んで、特徴に重み付けする仕組み（Squeeze-and-Excitation）を持つ CNN。

• EfficientNet

  ネットワークの深さ・幅・入力の解像度を、バランスよくまとめて大きくする方法で、少ない計算で高い精度を出したモデル。

• MobileNet

  Depthwise Separable Convolution で計算を減らした、スマホなどで動かすための軽い CNN。

• NAS（ニューラルアーキテクチャサーチ）

  ネットワークの構造そのものを、自動で探して決める方法。MnasNet はこれで作ったモバイル向けのモデル。

• Vision Transformer

  画像を小さな区画（パッチ）に分けて並べ、Transformer で処理する画像認識のモデル。

• 物体検出

  画像の中の物の種類と、その位置（四角い枠）を見つけるタスク。

• Faster R-CNN

  物の候補の場所を探す仕組み（RPN）もネットワークに入れて、速くした物体検出のモデル。R-CNN・Fast R-CNN の改良版。

• YOLO

  画像を1回見るだけで、物の位置と種類を同時に予測する、速い物体検出のモデル。

• SSD

  大きさの違う複数の特徴マップを使って、1回の処理で物体を検出するモデル。

• FPN

  大きさの違う特徴マップを組み合わせて、大小さまざまな物を検出しやすくする仕組み。

• セマンティックセグメンテーション

  画像の1つ1つの画素が、どの種類の物かを分けるタスク。同じ種類の物は区別しない。

• インスタンスセグメンテーション

  物体ごとに画素の範囲を分けるタスク。同じ種類でも1つずつ区別する。両方を合わせたものがパノプティックセグメンテーション。

• FCN

  全結合層を使わず、すべて畳み込み層で作った、画素ごとに分類するセグメンテーションのモデル。

• U-Net

  縮める側の特徴を、広げる側にスキップ結合でつなぐ U 字の形のセグメンテーションのモデル。医療画像でよく使われる。

• SegNet と PSPNet と DeepLab

  セグメンテーションのモデル。SegNet はエンコーダ・デコーダ型、PSPNet はピラミッドプーリングで大きな文脈をとらえ、DeepLab は Atrous Convolution を使う。

• Mask R-CNN

  Faster R-CNN に、物体ごとの範囲（マスク）を予測する部分を足した、インスタンスセグメンテーションのモデル。

• OpenPose

  画像の中の複数の人の、関節の位置と体の姿勢を推定する（姿勢推定）モデル。

自然言語処理

• 形態素解析

  文章を、意味を持つ最小の単位（形態素）に分け、品詞などを決める処理。

• 構文解析

  文の中の単語どうしの関係（文の構造）を明らかにする処理。

• BoW（Bag-of-Words）

  文章を、単語の順番を無視して、どの単語が何回出たかで表す方法。

• TF-IDF

  単語の出てくる回数（TF）と、ほかの文書にどれだけ出ないか（IDF）を掛けて、その文書での単語の重要度を表す方法。

• n-gram

  文章を、となり合う n 個の単語（または文字）の組で区切ったもの。

• ワンホットベクトル

  単語を、その単語の位置だけが 1、ほかが 0 のベクトルで表す方法。単語どうしの意味の近さは表せない。

• 分散表現（単語埋め込み）

  単語を、意味の近いものほど近くなる、少ない次元のベクトルで表す方法。

• word2vec

  単語の分散表現を学ぶ方法。周りの単語から中心の単語を当てる CBOW と、中心の単語から周りを当てるスキップグラムがある。

• fastText

  単語をさらに細かい文字の組に分けて学ぶ、word2vec を発展させた方法。知らない単語にも対応しやすい。

• ELMo

  双方向の LSTM で、文脈によって変わる単語の表現を学ぶモデル。

• BERT

  Transformer のエンコーダを使い、文の前後の両方の文脈から学ぶ言語モデル。隠した単語を当てる学習などで事前学習する。

• GLUE

  いろいろな言語理解のタスクで、モデルの性能を比べるためのベンチマーク。

• 大規模言語モデル（LLM）

  大量の文章で事前学習した、大規模な言語モデル。文章の生成・要約・翻訳・質問応答などができる。PaLM などがある。

• 感情分析

  文章から、よい・悪いなどの感情や評価を読み取るタスク。

音声処理

• A-D変換

  音などのアナログ信号を、コンピュータが扱えるデジタルの値に変えること。代表的な方式がパルス符号変調（PCM）。

• 高速フーリエ変換（FFT）

  音などの波を、どの周波数の成分がどれだけ含まれるか（周波数スペクトル）に、速く分解する計算。

• メル尺度

  人の耳が感じる音の高さに合わせた尺度。低い音の違いには敏感で、高い音の違いには鈍いことを反映する。

• メル周波数ケプストラム係数（MFCC）

  メル尺度を使って、声の特徴（スペクトル包絡）を表す数の組。音声認識でよく使われた。

• フォルマント

  声の周波数スペクトルに現れる、いくつかのピーク。母音の聞き分けに関係する。その周波数がフォルマント周波数。

• 音素

  言葉の意味を区別する、音の最小の単位。

• 隠れマルコフモデル

  外から見えない状態が確率的に移り変わるモデル。ディープラーニングの前は、音声認識の中心だった。

• WaveNet

  DeepMind が作った、音声の波形を直接生成するモデル。自然な音声合成を可能にした。

• CTC

  音声と文字のように、入力と出力の長さが違う系列を、位置を合わせずに学習できる方法。音声認識で使う。

• 話者識別

  声から、だれが話しているかを見分けるタスク。

深層強化学習

• DQN

  Q学習の行動価値を、ディープラーニングで近似する方法。経験を貯めて使い直す工夫などで、ゲームを人間並みにこなした。

• ダブルDQN と デュエリングネットワーク

  DQN の改良版。ダブルDQN は行動価値の過大評価を抑え、デュエリングネットワークは状態の価値と行動の差を分けて学ぶ。

• Rainbow

  ダブルDQN やデュエリングネットワーク、ノイジーネットワークなど、DQN の複数の改良を組み合わせた方法。

• A3C

  複数のエージェントが並列に、非同期で学習する Actor-Critic の方法。

• APE-X

  多数のエージェントで集めた経験を、優先度をつけて学習に使う、分散型の深層強化学習。

• Agent57

  DeepMind が作った、Atari の57のゲームすべてで、人間の基準を上回った深層強化学習のエージェント。

• AlphaStar と OpenAI Five

  対戦型のゲームで、トップレベルの人間に勝った深層強化学習の AI。AlphaStar は StarCraft II、OpenAI Five は Dota 2。

• PPO

  方策を一度に大きく変えすぎないように制限しながら学習する、安定した強化学習の方法。

• sim2real

  シミュレーションの中で学習したことを、現実のロボットなどに移すこと。

• ドメインランダマイゼーション

  シミュレーションの環境（色・明るさ・摩擦など）をランダムに変えて学習させ、現実でも通用するようにする方法。

• 報酬成形

  目的を達成しやすいように、途中の行動にも報酬を与えるなど、報酬の設計を工夫すること。

• オフライン強化学習

  環境とやり取りせずに、すでに集めたデータだけで方策を学ぶ強化学習。

• マルチエージェント強化学習（MARL）

  複数のエージェントが、同じ環境で協力したり競争したりしながら学ぶ強化学習。

データ生成

• GAN（敵対的生成ネットワーク）

  データを作る生成器と、本物か偽物かを見分ける識別器を競わせて学ぶ生成モデル。

• DCGAN

  生成器と識別器に畳み込みニューラルネットワークを使った GAN。

• Pix2Pix

  対になった画像（線画と写真など）を使って、画像を別の画像に変換する GAN。

• CycleGAN

  対になっていない画像の集まり（馬とシマウマなど）から、画像の変換を学ぶ GAN。

• 拡散モデル（Diffusion Model）

  データに少しずつノイズを加える過程と、ノイズを取り除いて戻す過程を学び、ノイズから画像などを生成するモデル。

• NeRF

  いくつかの方向から撮った写真から、3次元の場面を学んで、別の方向から見た画像を作る方法。

転移学習とマルチモーダル

• 事前学習済みモデル

  大量のデータで先に学習しておいたモデル。転移学習やファインチューニングの出発点にする。

• 自己教師あり学習

  データの一部を隠して当てさせるなど、正解をデータ自身から作って学ぶ方法。人が正解を付けなくてよい。

• Few-shot と One-shot と Zero-shot

  少ない例（Few-shot）、1つの例（One-shot）、例なし（Zero-shot）で、新しいタスクをこなすこと。

• 破滅的忘却

  新しいタスクを学習すると、前に学んだことを大きく忘れてしまう現象。

• 基盤モデル

  大量のデータで学習し、いろいろなタスクに使い回せる大きなモデル。

• CLIP

  画像と文章の組を大量に学び、画像と言葉を同じ空間で扱えるようにしたモデル。例なし（Zero-shot）での画像の分類ができる。

• Text-To-Image

  文章から画像を生成するタスク。DALL-E などのモデルがある。

• Image Captioning と Visual Question Answering

  Image Captioning は画像の説明文を作るタスク。Visual Question Answering は画像についての質問に答えるタスク。

• マルチタスク学習

  1つのモデルで、複数のタスクを同時に学習すること。Unified-IO や Flamingo などのモデルがある。

解釈性と軽量化

• 説明可能AI（XAI）

  AI が、なぜその判断をしたのかを、人が理解できるように示す技術や考え方。

• CAM と Grad-CAM

  CNN が画像のどこを見て判断したかを、ヒートマップで示す方法。Grad-CAM は勾配を使い、いろいろな CNN に使える。

• LIME

  1つの予測の周りで、単純なモデルで近似して、どの特徴が判断に効いたかを説明する方法。

• SHAP

  ゲーム理論のシャープレイ値を使って、それぞれの特徴が予測にどれだけ貢献したかを示す方法。

• Permutation Importance

  ある特徴の値をばらばらに入れ替えたときに、性能がどれだけ下がるかで、その特徴の重要度を測る方法。

• 蒸留

  大きなモデル（教師）の出力をまねるように、小さなモデル（生徒）を学習させて、モデルを軽くする方法。

• プルーニング

  重要度の低い重みやニューロンを取り除いて、モデルを軽くする方法（枝刈り）。

• 量子化

  重みなどの数を、少ないビット数で表して、モデルを軽く・速くする方法。

• 宝くじ仮説

  大きなネットワークの中には、単独で学習しても同じくらいの性能が出る、小さなネットワーク（当たりくじ）がふくまれているという仮説。

• エッジAI

  クラウドではなく、スマホやカメラなどの機器（エッジ）の上で AI を動かすこと。速く応え、データを外に出さずに済む。

社会実装と数理・統計

AIプロジェクト数理・統計

AIプロジェクト

• CRISP-DM

  データ分析のプロジェクトの進め方の標準。ビジネスの理解・データの理解・データの準備・モデリング・評価・展開の流れ。機械学習向けに発展させたものが CRISP-ML。

• PoC

  概念実証。本格的に作る前に、AI で本当に効果が出るかを小さく試して確かめること。

• MLOps

  機械学習のモデルを、開発から運用・監視・改善まで、継続して回していくための考え方と仕組み。

• BPR

  業務の流れを根本から見直して作り直すこと。AI の導入にあわせて行うことがある。

• アジャイルとウォーターフォール

  開発の進め方。アジャイルは小さく作って直すのをくり返す。ウォーターフォールは決めた工程を順番に進める。AI の開発はアジャイルが向くことが多い。

• Docker と Jupyter Notebook

  AI の開発でよく使う道具。Docker はアプリと動く環境をまとめて動かす仕組み。Jupyter Notebook はプログラムと結果を並べて試せる環境。

• Web API

  インターネットを通して、ほかのプログラムの機能を呼び出す窓口。学習済みモデルを公開して使ってもらうときに使う。

• アノテーション

  学習データに、正解のラベルや情報を付ける作業。

• データリーケージ

  本当は予測のときに使えない情報（テストや未来の情報など）が学習に混ざり、評価が実際より良く見えてしまうこと。

• コーパスとオープンデータセット

  コーパスは、言語の研究や学習のために集めた大量の文章のデータ。オープンデータセットは、だれでも使えるように公開されたデータの集まり。

数理・統計

• 平均と中央値と最頻値

  データの代表の値。平均は合計を個数で割った値、中央値は大きさの順で真ん中の値、最頻値は最も多く出る値。

• 分散と標準偏差

  データのばらつきを表す値。分散は平均からの差の2乗の平均、標準偏差はその平方根。

• 相関係数

  2つの値の直線的な関係の強さを、−1〜1 で表した値。

• 疑似相関

  2つの値に関係がないのに、第3の要因のせいで、相関があるように見えること。

• 偏相関係数

  ほかの値の影響を取り除いたうえでの、2つの値の相関係数。

• 共分散

  2つの値が、一緒にどう変わるかを表す値。正なら一緒に増え、負なら一方が増えると他方が減る。

• 正規分布

  平均を中心に左右対称の、つりがね形の確率分布。

• ベルヌーイ分布と二項分布

  ベルヌーイ分布は、成功か失敗かの1回の試行の分布。二項分布は、それを n 回くり返したときの成功の回数の分布。

• ポアソン分布

  一定の時間や範囲の中で、まれな出来事が何回起きるかを表す確率分布。

• 期待値

  確率で重みを付けた平均。何度もくり返したときに平均として期待できる値。

• 条件付き確率

  ある出来事が起きたという条件のもとで、別の出来事が起きる確率。

• 最小二乗法

  予測と実際の値の差の2乗の合計が最も小さくなるように、式の係数を決める方法。

• 最尤法

  観測されたデータが得られる確率（尤度）が最も大きくなるように、モデルのパラメータを決める方法。

• 帰無仮説と対立仮説

  仮説検定の考え方。「差がない」とする帰無仮説を立て、それが否定されたら「差がある」とする対立仮説を採る。

• ユークリッド距離とマハラノビス距離

  ユークリッド距離は、ふつうのまっすぐな距離。マハラノビス距離は、データのばらつきや相関を考えに入れた距離。

• コサイン類似度

  2つのベクトルの向きがどれだけ近いかを、−1〜1 で表した値。文章の似ている度合いなどに使う。

• 相互情報量

  2つの変数の一方を知ると、もう一方についてどれだけわかるかを表す量。

• 移動平均

  時系列のデータで、決めた期間の平均を、ずらしながら求めたもの。細かい変動をならして傾向を見る。

• 外れ値

  ほかのデータから大きく離れた値。分析の結果を大きく左右するので、扱いに注意する。

法律・倫理

法律と契約倫理とガバナンス

法律と契約

• 個人情報

  生きている個人に関する情報で、名前や生年月日など、特定の個人を識別できるもの。個人識別符号（指紋のデータ、マイナンバーなど）を含むものも個人情報。

• 要配慮個人情報

  人種・信条・病歴・犯罪の経歴など、差別や偏見につながらないよう特に配慮が必要な個人情報。取得には原則として本人の同意が要る。

• 個人データと保有個人データ

  個人データは、データベースなどで検索できるように整理された個人情報。保有個人データは、事業者が開示や訂正などの権限を持つ個人データ。

• 第三者提供と委託

  第三者提供は、個人データをほかの事業者などに渡すことで、原則として本人の同意が要る。委託（業務の外注など）で渡す場合は、第三者提供にあたらない。

• 匿名加工情報と仮名加工情報

  匿名加工情報は、特定の個人を識別できず元にも戻せないように加工した情報。仮名加工情報は、ほかの情報と照らし合わせなければ識別できないように加工した情報で、主に社内の分析に使う。

• GDPR

  EU の一般データ保護規則。EU の中の人の個人データを扱うなら、EU の外の事業者にも適用されることがある。

• 著作物と創作性

  著作物は、思想や感情を創作的に表現したもの。ありふれた表現や単なるデータには、創作性がなく著作物にならない。

• 著作権法第30条の4

  AI の学習（情報解析）のように、作品の表現を味わう目的ではない利用は、原則として著作権者の許諾なくできるという規定。著作権者の利益を不当に害する場合は除く。

• AI生成物と著作権

  AI が作ったものは、人が創作の意図を持ち、創作的に関わった場合に、著作物になりうる。既存の作品と似ていて（類似性）、それをもとにしていれば（依拠性）、著作権の侵害になりうる。

• 特許権

  発明を守る権利。特許を受けるには、新しいこと（新規性）や、簡単に思いつけないこと（進歩性）などが必要。

• 職務発明

  従業者が、会社の仕事として行った発明。契約や規則で決めておけば、特許を受ける権利を会社のものにできる（従業者には相当の利益を与える）。

• 営業秘密

  不正競争防止法で守られる秘密の情報。秘密として管理されている（秘密管理性）、役に立つ（有用性）、知られていない（非公知性）の3つの条件が必要。

• 限定提供データ

  決まった相手に提供するために、電子的に管理して集めたデータ。営業秘密にあたらなくても、不正競争防止法で守られる。

• 独占禁止法と AI

  AI やデータを使った価格の調整、データの囲い込みなどが、公正な競争をさまたげないか（公正競争阻害性）が論点になっている。

• AI・データの利用に関する契約ガイドライン

  経済産業省が作った、AI の開発やデータの利用の契約の考え方をまとめたもの。開発をアセスメント・PoC・開発・追加学習の段階に分けて考える。

• 請負契約と準委任契約

  請負契約は、仕事の完成を約束する契約。準委任契約は、作業をていねいに行うことを約束し、完成は約束しない契約。結果が読みにくい AI の開発では、準委任が使われることが多い。

• 精度保証

  AI の精度を契約で約束すること。AI はデータによって結果が変わるため、事前に精度を保証するのは難しい。

• SaaS と利用規約

  SaaS は、インターネットを通してソフトを使うサービス。AI のサービスでは、利用規約で、入力したデータの使われ方や生成物の扱いを確かめる。

倫理とガバナンス

• ハードローとソフトロー

  ハードローは、法的な強制力のある法律。ソフトローは、強制力はないが守ることが期待される指針やガイドライン。

• リスクベースアプローチ

  リスクの大きさに応じて、規制や対策の強さを変える考え方。

• プライバシー・バイ・デザイン

  システムを企画・設計する最初の段階から、プライバシーの保護を組み込んでおく考え方。

• カメラ画像利活用ガイドブック

  カメラの画像を商業目的で使うときに、プライバシーの面で配慮すべきことをまとめた手引き。

• アルゴリズムバイアス

  学習データの偏りなどによって、AI の判断が特定の人々に不公平になること。

• サンプリングバイアス

  集めたデータが、対象全体の様子を正しく表していない偏り。

• センシティブ属性と代理変数

  センシティブ属性は、性別や人種など、差別につながりうる属性。代理変数は、それを直接使わなくても、住所などが代わりの手がかりになってしまう変数。

• Adversarial Examples

  人には見分けられないわずかなノイズを加えて、AI に誤った判断をさせる入力。これを使う攻撃が Adversarial Attack。

• データ汚染とモデル汚染

  学習データや学習済みモデルに、悪意のあるデータや細工を入れて、AI の動きをおかしくする攻撃。

• モデル窃取とデータ窃取

  AI に何度も問い合わせるなどして、モデルの中身や学習に使ったデータを盗み出す攻撃。

• セキュリティ・バイ・デザイン

  システムを企画・設計する最初の段階から、セキュリティの対策を組み込んでおく考え方。

• ディープフェイク

  ディープラーニングで作った、本物の人物の顔や声に似せた偽の動画や音声。なりすましや偽情報に悪用されることがある。

• フェイクニュース

  事実と違う、うその情報のニュース。AI で大量に、本物らしく作れてしまうことが問題になっている。

• 説明可能性と透明性

  AI の判断の理由や、どんなデータで作ったか（データの来歴）を、説明できるようにしておくこと。中身がわからない状態をブラックボックスという。

• エコーチェンバーとフィルターバブル

  エコーチェンバーは、似た意見ばかりが響き合って強まる現象。フィルターバブルは、おすすめの仕組みで自分の好む情報ばかりに囲まれること。民主主義への影響が議論されている。

• モデル学習の電力消費

  大規模なモデルの学習には大量の電力が要り、気候変動など環境への影響が議論されている。

• AIとの協働とスキルの喪失

  AI が雇用に与える影響の論点。AI と人が役割を分けて協働する一方、仕事を任せすぎると人の技能が失われる心配がある。

• インクルージョン

  年齢・障害・言語などにかかわらず、だれもが AI の恩恵を受けられるようにすること。

• AIガバナンス

  組織が AI を倫理的・安全に使うための管理の仕組み。AI ポリシー、倫理アセスメント、AI に対する監査、モニタリングなど。

• 倫理アセスメント

  AI を作る・使う前に、倫理的な問題やリスクがないかを評価すること。

• 人間の関与

  AI の判断に、人が確認・判断する段階を入れておくこと（ヒューマン・イン・ザ・ループ）。

• 再現性とトレーサビリティ

  再現性は、同じ条件で同じ結果を得られること。トレーサビリティは、データやモデルの変更の履歴を、あとからたどれること。