今回のMasters of Dataエピソードでは、私たちが「トークンポカリプス」と呼んでいるものについて掘り下げます。これは、ほとんどの人が静かに導入してしまったスケールでAIを実行する実際のコストです。過去2年間の反動を追跡します。「誰もがAIハンマーが必要」から明らかなAIスロップへの反発まで、その後、カスタムダッシュボード用にClaudeとDatabricksをチェーンすることから、Uberが4月までに消費したと報じられている目玉が飛び出るような予算まで、ミッションクリティカルなプロセスがトークンを使い果たしたときに何が起こるかというより難しい質問に入ります。また、より安い中国のフロンティアモデル、ローカライズされた特殊なAIへの引き寄せ、そしてAIインフラストラクチャの現在の構築が実際に自らを支払うことができるかどうかについても検討します。予算のAI項目を監視している人、またはモデルが常に利用可能であることに静かに依存するワークフローを構築している人であれば、この会話は有用な直感チェックになります。
0:00:00 – イントロとコホストの雑談
0:00:35 – 「トークンポカリプス」という名前
0:02:03 – 「AIハンマーを使う」からAIスロップへの反発まで
0:04:56 – ClaudeとDatabricksをチェーンしてダッシュボードを構築
0:06:02 – ミッションクリティカルな作業でトークンを使い果たし、Uberの予算超過
0:08:30 – データレイク全体をAIにダンプするとトークンが無駄になる理由
0:11:13 – より安い中国モデルと価格設定の影響
0:13:08 – ChatGPTからClaudeへ、そしてローカライズされたAIの事例
0:15:21 – AIインフラストラクチャの構築が間違った未来のために構築されているかどうか
0:19:52 – まとめ