ニューロン

ニューラルネットワークの計算の最小単位。複数の入力に重みを掛けて足し合わせ、その結果に応じて出力を決める。

1943年、マカロックとピッツは、脳の神経細胞を「入力の合計がしきい値を超えたら発火する」単純な素子として数式にし、それをつなげれば論理演算ができることを示しました^[1]。現在のAIのニューロンはこの考え方の子孫です。

大規模言語モデルには数百万〜数億のニューロンがあります。1個のニューロンが1個の概念に対応するとは限らず、複数の概念が入り混じっていることが多いため、解釈可能性の研究では特徴量という別の単位に分解して読むのが一般的でした。