- 2026年5月22日
Attentionとは?Transformerの中核機構を初心者向けにやさしく解説
「Attentionって結局なに?」 「TransformerやLLMとどうつながる?」 「数式が出てくると、もう読みたくない…」 数式が主役だと身構えているなら、力を抜いてください。Attentionの正体は、もっと素朴な「見比べ」です。 Attentionとは、文中のどの単語が、他のどの単語と関係しているかをスコア化する仕組みです。関係の強いところに高い点数を付け、大事な相手に注意を向ける。こ […]