Open Models
@ylecun
「オープンウェイト公開はダンピングか?」LeCun氏がOSSの歴史で反論
Yann LeCun氏は、AIモデルのオープンウェイト公開を「ダンピング(投げ売り)」と評する見方に反論した。Linux、Apache/MySQL/PHP、HTTP・TCP/IP・OpenSSL・OpenSSH、Signal、PyTorch、Llamaといった社会の基盤を支えてきたオープンソースソフトウェアを列挙し、これらの公開もダンピングだったのか、と問いかけた。
メモ
オープンモデルの是非がまた論点に。自分たちのスタックがどれだけOSSに依存してきたかを思い出させる整理で、「無償公開=市場破壊」という枠組みへの反例として押さえておきたい。
出典 @ylecun↗
Product
@gdb
OpenAIの「ChatGPT Work」はクラウド実行、ノートPCを閉じても動く
Greg Brockman氏は、ChatGPT Workの優れた点の一つとして「クラウド上で動くこと」を挙げた。これによりモバイルからでも、ノートPCを閉じたままでも動作するという。これまでエージェントの恩恵を得るには、ノートPCを開いたままにしておく必要があった、と振り返った。
メモ
エージェントの実行場所を手元のマシンからクラウドへ移す流れ。常時起動のローカル環境に縛られず、非同期でタスクを投げておける運用は、自分のワークフロー設計にも効いてくる。
出典 @gdb↗
Industry
@natolambert
「Huaweiが政府から推論チップ用の白紙小切手を得ようとしている」
Nathan Lambert氏は、Huaweiが推論(インファレンス)用チップの製造に向けて、中国政府から事実上の「白紙小切手(blank check)」を得ようとしている、と投稿した。
メモ
学習用ではなく推論チップに国家資金が向かう可能性の指摘。GPU供給と価格を左右する要素であり、自前の推論コストの前提が中期的に変わりうる話として注視したい。
出典 @natolambert↗
Open Models
@natolambert
Qwenの最上位モデルもオープンウェイトへ?中国勢の「知能の競争」
Nathan Lambert氏は、Qwenの最大級モデルは最近オープンウェイトで公開されてこなかったが、状況が変わりつつあると指摘した。「最良のモデルを閉じたままにするのはもう許さない」という国家の意向を想像しつつ、(ベンチマークが本物であれば)知能をめぐる新たな競争の時代だとした。
メモ
中国ラボが最上位モデルまでオープン化に傾けば、手に入る高性能オープンウェイトの層が一段厚くなる。内製・オンプレ運用の選択肢が広がるかどうかの分岐点として押さえておきたい。
出典 @natolambert↗
Perspective
@emollick
「今の勢力図より、能力カーブの急峻さを見よ」Mollick氏
Ethan Mollick氏は、多くの人が「どの国のどの企業が勝っているか」「コストをどう抑えるか」といった現状の勢力図に注目しすぎで、AIの能力カーブが依然として急峻に伸び続けている点への注目が足りない、と指摘した。高い能力の水準に達すると、多くのことが急速に変わると述べている。
メモ
目先の競争や運用コストに気を取られがちだが、前提となる能力の伸び自体が最大の変数、というリマインド。1年先の性能を織り込んで設計するかどうかで判断は変わってくる。
出典 @emollick↗
Industry
@EMostaque
AI capexの規模感:「米空母1隻が130億ドル」Mostaque氏
Emad Mostaque氏は、AIの設備投資(capex)の規模を考える上で、米国の原子力空母1隻が130億ドルであることを引き合いに出した。米国はAGIの主導権をめぐり、それを容易に上回る額を投じるだろうとし、防衛関連の支出も膨らむと見ている。
メモ
AIインフラ投資を国家の軍事予算のスケールで捉える視点。個々のGPU価格やクラウド料金の背後にある資金の桁を意識しておくと、今後の供給・価格の動向を読みやすくなる。
出典 @EMostaque↗
Research
@TDataScience
プロンプトを「静的な設定」と見なす危うさ:回帰テストのすすめ
Towards Data Scienceは、プロンプトを静的な設定(configuration)のように扱うのはリスクの高い前提だとする記事を紹介した。Emmimal P Alexander氏が、体系的な回帰テストによって、本番を壊しかねないプロンプト更新をどう防ぐかを示している。
メモ
プロンプトをコードと同じくテスト対象として扱う発想は、LLMアプリを運用に乗せるうえで実務的。更新のたびに品質が揺れる問題への備えとして参考になる。
出典 @TDataScience↗
Research
@TDataScience
AIの「メモリの壁」:性能を縛るのは計算よりデータ移動
Towards Data Scienceは、AIのメモリボトルネックを解説する記事を紹介した。Sara A. Metwalli氏は「プロセッサがメモリのデータ供給より速く計算できると、性能は計算ではなくデータ移動によって制限される」と説明している。
メモ
推論の速度やコストを詰めるとき、演算能力ではなくメモリ帯域が効いてくる場面は多い。ハードやバッチ設計を考える際の基礎として押さえておきたい。
出典 @TDataScience↗
Product
@TDataScience
ローカルとクラウドのLLMを併用する「ハイブリッドAI」
Towards Data Scienceは、単一のデプロイ戦略を選ぶ代わりに、ローカルとクラウドのLLMを組み合わせる「ハイブリッドAIシステム」が有効な選択肢になりつつあると紹介した。Shuai Guo氏が、両者をどう協調させてより良い成果を出すかを解説している。
メモ
コスト・遅延・機密性の要件に応じてローカルとクラウドを使い分ける構成は、現実的な落としどころ。「全部クラウド」「全部ローカル」の二択で考えていた設計を見直すきっかけになる。
出典 @TDataScience↗
Industry
@PyTorch
PyTorchCon北米のポスター募集、締切は7/26(残り1週間)
PyTorchは、10月20〜21日にサンノゼで開催されるPyTorchCon North Americaのポスターセッション向けCall for Proposalsの締切が7月26日で、残り1週間であることを告知した。PyTorchコミュニティに自分の成果を発表する機会だとしている。
メモ
現場の研究・実装を発表・共有できる場のリマインド。締切が近いので、出したい成果があるなら日程だけでも確認しておきたい。
出典 @PyTorch↗