HOW AI WRITES CODE

AIは、コードを書き、直す

CopilotやClaude Codeは、なぜ動くコードを書けるのか。補完のゴーストテキストから、diffによる編集、テストの失敗から自分で直すループまで—— コーディングAIの内部を、5つのステップで体感します。

SCROLL

STEP 01

あの灰色の文字の、正体CODE COMPLETION

コードもAIにとってはただのトークン列です。function も ){ もトークン。つまりエディタに浮かぶ灰色の補完候補(ゴーストテキスト)の正体は、テキスト生成編で見た「次のトークン予測」そのもの。 ▶で補完の様子を再生し、Tabキーで確定してみてください。

GHOST TEXT — 擬似Copilotを体験する

STEP 02

コードは文章と違って、途中に書き込むことが多い。そこで補完モデルは「続きを書く」ではなく穴埋め(FIM)として訓練されています。カーソルより前(<PRE>)と後ろ(<SUF>)を渡し、あいだ(<MID>)を生成させる——ケースを切り替えて見てください。

FIM PROMPT — モデルに渡される「穴あきコード」

STEP 03

「この関数を直して」と頼んだとき、モデルはファイル全体を書き直しません。 変更箇所だけをdiff(パッチ)として生成し、ツールがそれを適用します。速く、安全で、人間がレビューしやすい——Claude Codeがファイルを編集するときの実際の姿です。

DIFF GENERATION — 指示がパッチになる

STEP 04

コーディングAIの最大の武器は、書いたコードを実行して確かめられること。エージェント編のTHINK→ACT→OBSERVEループを、テストを相棒に回します。 このデモのテスト実行は本物です——エージェントが書いたコードを、あなたのブラウザがその場で実行しています。

TEST-DRIVEN AGENT — 書く→実行→失敗→修正 LIVE EXECUTION

AGENT LOG

CODE

STEP 05

文章の「良さ」は人間が判定するしかない(学習編のRLHF)。でもコードには テストとコンパイラという自動採点機があります。「生成したコードがテストを通ったら報酬」という強化学習が大規模に回せる—— これが近年のコーディングAIが急伸した理由のひとつです。

RL ON VERIFIABLE REWARDS — テスト合格率が報酬になる(イメージ)

文章採点が曖昧「良い文章」の正解は人によって違う。人間のフィードバック頼み。

コード採点が確実テストは一瞬で白黒つける。何億回でも自動で採点できる。

結果学習が加速確かな報酬で強化学習が回り、コーディング能力が急伸した。

RECAP

STEP 01補完ゴーストテキスト=コードの次トークン予測。

STEP 02FIMカーソルの前後を渡して、あいだを穴埋めさせる。

STEP 03diff編集全文でなく差分を生成。速く、安全に。

STEP 04実行ループテストの失敗を手がかりに、自分で直す。

STEP 05検証可能性自動採点できるから、強化学習が効く。

SERIES

全6章、これにて一区切り。テキスト生成から始めると、この章の伏線がぜんぶ繋がります。