Gemini 1.5 Proが200万トークン対応に進化した話

▶ この話題を動画で見る（2:26〜）

自己紹介が終わったあと、ただっちが話し始めたのは「太っていたことも、悩んでいたことも、今は財宝になっている」という話でした。あ、これ、いつ聞いてもいい話だなあと思うんですよね。かつては隠したかったこと、消したかったことが、今は誰かを助ける入口になる……そういう反転が、AIの時代にはもっと起きやすくなってる。そんな肌感覚を、朝いちばんの声で聞かされたわけです。土曜の朝から、いきなり心臓のあたりを押されたみたいな感じでした。

ただっち（2:26〜）

「AIの時代はまさにそれが逆に言うと、太ってから痩せなきゃいけないとかっていうのもなく、実はありのままでも自己肯定感、自分がセルフイメージを上げていくことができる。今までだと社会一般常識、普通みたいなことが定義とされて、みんなと同じじゃなきゃいけないっていう括りが多かったと思うんですけども、そういった括りがAI時代はむしろ尖ってる方が強いってことなんで、変に丸めないでありのまま自分が好きで得意なことを全振りみたいなことをやっていくと輝けるんじゃないかな」

「変に丸めないで」。ここ、ぐさっと来ませんか。私たち、けっこう長いこと「普通でいなきゃ」「みんなと同じラインに乗らなきゃ」っていう空気の中で仕事してきたと思うんです。でね。その丸める作業に、いったいどれだけの時間を使ってきたんだろう、って。尖ったまんまでいい。むしろ尖ってるほうが強い。そう言い切ってもらえると、なんかもう、肩の力がすっと抜けるんですよ。

で、話はそこから「じゃあ実際どのAI触ってる？」っていう、めちゃくちゃ現場感のあるところに落ちていきました。

ひろくん（7:51〜）

「ジェミに使ったことあるけど、そんなに使いかわせてはないかな。」

ただっち

「こういうときにはこっちのAIが得意だよねっていう、AI界隈だと結構中でデータがデータセンスが好き使い方がこう共有されてたりしますけどやっぱりいろいろ触ってみないとわかんないって」

そう、結局これなんですよ。触ってみないとわかんない。どのAIが何に強いかなんて、記事を100本読むより、自分で1回投げてみたほうが早い。人間もAIも、得意・不得意がはっきりしてるところは同じなんだなあ、と。私も思わず、間髪入れずに反応しました。

ひろくん（4:05〜）

「ありがとうございます。ほんと好きなことに全振り全振りにしていくと、好きなことはめちゃくちゃ伸びていくし、苦手なことは補ってくれるな、っていう、いい時代になりましたよね。うん、本当に」

好きなことに全振り。苦手なことは、AIが補ってくれる。これ、言うのは簡単なんですけど、実際にやろうとすると意外と勇気がいるんですよね。「苦手なことも自分で頑張らなきゃ」っていう根性論、私の中にもまだしぶとく残ってるので……。でも、AIっていう相棒が横にいてくれるなら、苦手を無理やり克服するために使ってた時間を、まるっと得意なほうに寄せられる。時間の使い方そのものが変わるって話なんですよ、これ。

料理で例えると、これは「万能な素材を目指さなくていい」って話だと思うんです。全部が平均点な食材より、ひとつだけ突き抜けて美味しい食材のほうが、料理人（AI）は使いこなしやすい。トマトはトマトの顔をしてるから、ソースにもサラダにも化けられるわけで。得意なところをはっきりさせておくと、AIがそこを起点にどんどん横に広げてくれる。逆に全部が平均点だと、AIも何を伸ばせばいいのか掴めない。素材が「私はこれです」って言ってくれないと、包丁の入れどころがわからないんですよね。

全振り。それだけでいいんですよ。まずは自分の「これだけは負けない」を、恥ずかしがらずに前に出しておくこと。丸めない。尖らせたまま持っていく。それが、AI時代の新しい自己紹介の仕方なんだろうなあって、朝の光を浴びながらぼんやり思っていました。いやー、土曜の朝からいい話を聞いた、って素直に思える立ち上がりでした。

▶ この話題を動画で見る（4:27〜）

さて、ここからが今日のメインニュース。ただっちが前のめりで教えてくれたのが、Gemini 1.5 Proのコンテキストウィンドウが200万トークンになった、という話でした。トークンって何、って思う方もいると思うんですけど、ざっくり言うと「AIが一度に読み込める情報量の器」のことです。器がでかいほど、一度にドサッと渡せる。それだけの話なんですけど……この「一度に」が、実務ではめちゃくちゃ効くんですよ。

ただっち（4:27〜）

「コンテキストウィンドウ、要は200万トークンできるようになりましたよ。今まで100万トークンで、すげー、なんだこれはっていう一元のトークン数だったのが、200万トークンになりましたよ。200万トークンで、もう本番とかあのウィンドウの中に入るってことなんで」

いやー、200万トークン。数字だけ聞いてもピンとこないと思うんですけど、これ、地味にすごいことなんですよね。200万。それだけで、これまでの2倍です。私も思わず「早い早い早い」って、ただっちと一緒にハモっちゃいました。だって、たった1回のアップデートで、今まで扱えていた量の2倍が、そのままドンと入るようになったんですから。しかも100万トークンの時点で「すげー、なんだこれは」って全員がざわついてたわけですよ。その「すげー」が、あっさり倍。ぶっちゃけ、ついていくのが精一杯です。

これまでのAI活用って、大量のデータを扱おうとすると「RAG」っていう技術を使って、必要な情報だけをその都度呼び出す工夫が必要でした。ただっちも、そのあたりの手間について話してくれていました。

ただっち（4:27〜）

「一時そのまでだったらまあラグを、まあこうベクトルデータベースというかデータベースを1回使って、そこから呼び出すみたいなことをしないと呼び出せなかった」

これ、料理で言うと、冷蔵庫の奥から必要な食材だけを毎回引っぱり出してくる作業だったんですよね。しかも冷蔵庫にラベルを貼って、どこに何があるか索引を作って、取り出す係まで用意して……。準備だけで一日終わるやつ。でも200万トークンなら——冷蔵庫の中身をまるごと、まな板の上にドンと広げられる。自分の書いた本と、誰かの論文と、参考資料と、過去の議事録と、全部を一度に載せて「これ全部使って、こういうターゲットに向けて書いて」って頼める。索引いらない。取り出す係もいらない。ここまで一気に器がでかくなるとは、正直、思ってなかったです。

ジェミニは日本語が得意で、賢くて、しかも大量に書き出すのも得意。私も毎日触っているツールの一つなので、この進化はもう、体感としてすぐ来ると思います。長い文章を読ませて、他の資料と組み合わせて何かを組み立てる——そういう作業をするときは、もうジェミニ一択に近い感覚になってきてるんですよ。読ませる、混ぜる、書かせる。この3つが一つの器の中で完結する。手数が減るって、こういうことなんですよね。

でね。器がでかくなると、こっちの発想も変わるんです。「どれを削って渡そうか」じゃなくて「全部渡したうえで、何を作らせようか」に変わる。これ、脳みその使う場所が完全に移動する感覚でした。土曜の朝いちばんでこのニュースを聞くと、なんだか今週も気合が入るんですよね。あ、そうだ、こういう朝があるからLIVEやめられないんだよなあ、って思いながら聞いてました。

▶ この話題を動画で見る（4:27〜）

200万トークン、便利なのはわかった。でも……「毎回それだけの量を読み込ませてたら、お財布のほうが先に悲鳴あげるんじゃない？」って思いますよね。私も真っ先にそこが気になったんですよ。器がでかいってことは、その分ぶち込むってことで、ぶち込めばぶち込むほどコストは乗るのが普通ですから。でも、ちゃんとフォローがありました。

ただっち（4:27〜）

「コンテキストキャッシュっていう機能もなんか開始したってことなんで。使い回しするやつとか、何回も同じネタを入れるんだったらキャッシュしておくと、よりコスパよく使えるよ」

でね、これ、下ごしらえ済みの食材を保存しておける、みたいな感覚なんですよ。毎回イチから皮を剥いて、切って、下茹でして……じゃなくて、よく使う材料は仕込んだ状態で冷蔵庫に置いておく。次に使うときは、そこから取り出すだけ。同じマニュアル、同じ議事録、同じ商品資料を前提に何度もやり取りする仕事には、これ、かなり効きそうだなと思いながら聞いていました。うちみたいに社内の資料を土台にAIと会話し続ける使い方だと、効いてくるのは間違いないです。

そしてもう一つ。この日はGoogleからの新顔として「Gemma 2」という軽量モデルの話も出ました。ジェミニがクラウドの上にある大きな頭脳だとしたら、こっちは持ち運びできるコンパクトな頭脳、というイメージです。

ただっち（8:11〜）

「これも何かというとオープンモデルなんですよ。軽量で最先端でオープンっていうことなんで、割とこう実際、軽くて早くてどこにでも持ち出せるみたいなイメージで」

オープンで、軽い。「オープン」っていうのは、開発する人が自分のパソコンやシステムの中に組み込んで、自由にカスタマイズできるっていう意味なんですよね。誰かのクラウドに毎回お伺いを立てなくていい。しかも軽い。パラメータ数も、以前のモデルの数倍規模に増えたそうで——軽いのに賢いって、なんかもう、いいとこ取りすぎません？って思わずツッコみたくなりました。スマホや家電の中に、こういう賢い頭脳がそのまま組み込まれる未来、もうすぐそこまで来てるんだろうなあ。

料理で言うと、ジェミニが本格的な業務用キッチンだとしたら、Gemma 2はキャンプに持っていける小さなバーナーなんですよ。火力は業務用にかなわない。でも、どこでも火がつく。しかもタダで持っていける。これ、地味に世界が変わるやつです。「どこでも火がつく」って、結局いちばん強いんですよ。

正直、Gemini 1.5 Proだけでも十分お腹いっぱいなニュースだったのに、同じ日にGemma 2まで飛んでくる。この情報量の速さ、毎朝ついていくだけでも結構大変なんですけど……それでもワクワクのほうが勝つんですよね。大きい頭脳と、持ち運べる頭脳。用途によって使い分けられる選択肢が増えた。それだけで今日はもう十分な収穫だったなあ、と思っています。

▶ この話題を動画で見る（9:40〜）

Gemma 2の話で盛り上がったあと、ただっちがぽろっと漏らした一言。これが、今日いちばん私の中に残っています。

ただっち（9:40〜）

「自分のAI利用拡張機能がでかすぎて、本当にモビルスーツ、何このガンダムみたいな状態だったりというか、エヴァンゲリオンの、割りやすいから、こうシンクロ率が低いのに入って使いこなせるじゃないですか。だから自分、人間側がシンクロ率上げていかないと、ほんとツール側とパワーが引き出せないっていう」

ガンダムとエヴァンゲリオン、両方まとめて例えに出てくるあたり、ただっちらしいなあと思いながら聞いてたんですけど……言いたいことは、めちゃくちゃよくわかるんですよ。どんなに機体（AI）の性能が上がっても、乗る側のシンクロ率が低かったら、その力は1ミリも出ない。掛け算。足し算じゃないんです。人間のスキルが0だったら、AIがどれだけ100でも、答えは0のまま。ここ、けっこう残酷な話でもあるんですよね。

200万トークンの器も、キャッシュも、軽くて賢いオープンモデルも、全部そう。道具側は毎週勝手に強くなっていく。でも、乗る側が去年のまんまだったら——せっかくのガンダムが、ただの高い置物です。じゃあシンクロ率ってどうやって上げるの、って話になるんですけど、これは結局「触る」しかない。さっきの、いろいろ触ってみないとわかんない、に戻ってくるわけですよ。

この流れで、私もふと自分の仕事に引きつけて、こんな話をしました。

ひろくん（11:17〜）

「だと思う。そうなんですよね。だからやっぱ当たり前、普通に普段生活していれば、なかなか言語ない、非言語の部分が実はすごく一応貴重だったり、当たり前にやっていること。プロフェッショナルの方が当たり前にやっていることを、やっぱ数値化したりデータ化したり、それをAIに教え込んであげたりっていうことが、やっぱこれからの時代めちゃくちゃ価値になると思う」

現場の職人さんとか、当たり前にプロの仕事をしている人ほど、自分がやっていることを「言葉にする」のが実は苦手だったりします。当たり前すぎて、説明する必要を感じてこなかったから。「なんとなくこうやってんだよ」で50年やってきた、みたいな。でもね。その言語化されていない部分こそ、これからAIに教え込む一番いい食材なんですよ。誰も持ってない、その人だけの出汁。

料理で言うと、レシピに書いてない「火を止めるタイミング」みたいなもの。数字にできてないから誰にも渡せなかった。でもそこを一緒に掘って、言葉にして、AIに教え込めたら——その人の腕が、道具の中に住むようになる。私はAIも現場もそこそこわかる立場だから、その橋渡し役をやっていきたいなと、話しながら改めて思いました。

一人で抱え込んで、一人でシンクロ率を上げようとしなくていいんです。誰かと一緒にやること自体が、シンクロ率を上げる近道だったりする。掛け算の相手は、AIだけとは限らない。人と人との掛け算も、同じくらいデカい。競争より共創、ってこういうことなんですよね。

▶ この話題を動画で見る（12:05〜）

掛け算の話から、話はもう一段、具体的なところに降りていきました。私たちのようにAIを扱う仕事をしていると、AIをそのまま「はい、どうぞ」って渡すんじゃなくて、包んで渡す場面が増えてくるんですよ。ただっちも、まさにそこに触れてくれました。

ただっち（12:05〜）

「AIが進化してくる時に、うちもそうですけど合気道もそうなんですけど、AIをラッピングして商品化したりとかもするわけですね。たとえば、インターフェースはLINEにして、でも中のプロンプトをうちが開発して。とにかくインターフェースとかハードウェアとか、何かの中にAIを組み込もうとすることができるんですけど、それがオープンだったりフリーだったりして」

これ、まさにその通りだなと思って聞いていました。裏側で動いているのはチャットGPTだったりジェミニだったりするんですけど、使っている本人からすると、見えているのはLINEの画面だけ。難しいプロンプトを覚える必要も、設定画面と格闘する必要もない。話しかけるだけで、欲しい答えが返ってくる。この「包む」作業こそ、私たちが日々やっていることなんですよね。

料理で言うと、AIそのものは業務用の食材でありコンロなんですよ。お客さんに生の食材とコンロを渡しても、「え、どうすんのこれ」ってなる。だから調理して、盛り付けて、お品書きまで添えて出す。中で何が起きてるかは知らなくていい。美味しく食べられれば、それでいい。そこがオープンで、しかもフリーで手に入る時代になったっていうのが、今日の話の裏テーマだったと思うんです。

ただっち（12:05〜）

「性能がもうなんだろう、過去だったらもうめちゃくちゃ高かったような、例えばGPT-4出た時にすごい賢い、でも高い、回数制限があるというのが、もうなくなってきて。早いし安いし賢いしみたいな、牛丼屋さんみたいなキャッチコピーになってきちゃう」

ぶっちゃけ、性能がここまで手の届く値段まで降りてくるとは思ってなかったです。「早い、安い、うまい」ならぬ「早い、安い、賢い」。牛丼屋さんキャッチコピー、思わず笑っちゃったんですけど……的確すぎるんですよ。ちょっと前まで、賢いAIは高くて、回数制限があって、指を折りながら使うものでした。それが今や、早くて安くて賢い。三拍子そろってる。

ただね。安くて速いものが当たり前になるほど、今度は「何を選ぶか」「誰に、どう包んで出すか」がその人らしさになっていくんですよ。牛丼が100円で食べられる街で、それでもあなたの店に来てもらう理由は何ですか、って話。道具が横並びになるほど、縦に掘った深さが効いてくる。AIは横に広げてくれる。人間は、縦に掘る。

土曜の朝の、いつもより短い配信でした。でも、今日もいい着地点まで話せた気がしています。器がでかくなったAIをどう使うか。乗り手として、どこまでシンクロできるか。そして、包んで誰に届けるか。全部、自分に返ってくる問いなんですよね。いやー、いい朝でした。

関連記事