iPhone 17 Pro Demonstrated Running a 400B LLM

Hacker News / 3/23/2026

📰 NewsSignals & Early TrendsTools & Practical UsageModels & Research

Key Points

  • iPhone 17 Proで非常に大規模なLLM(400B)を動かしているデモが共有されたと報じられています。
  • デバイス上での大規模言語モデル実行が可能であることを示す例として、オンデバイス推論の現実味が高まっています。
  • 今後は、このデモがどのような最適化(量子化、推論エンジン、メモリ管理等)と構成に基づくかが注目点になります。
  • モバイル端末の計算資源とLLM実行の距離が縮まることで、アプリ側の設計(オフライン可否、応答速度、コスト)が変化する可能性があります。