LLM 1.5-bit pada iPhone: Mengapa 'Cukai Perkakasan' Apple Adalah Gerbang Hasil, Bukan Kejuruteraan

Sat, 06 Jun 2026 00:00:00 +0000

A 7-billion parameter LLM, yang dikecilkan kepada 1.58 bit bagi setiap berat (weight), muat dengan selesa dalam 1.2 GB RAM. iPhone 12 mempunyai 4 GB. Kekangan yang disebut Apple — “Apple Intelligence memerlukan A17 Pro atau lebih baru” — adalah satu omong kosong kejuruteraan pada tahun 2026.

BitNet b1.58 (Microsoft Research, 2024) → Prestasi skala LLaMA pada 1/8 saiz model.
Recover-LoRA (Jun 2026) → Kuantisasi 2-bit memulihkan ketepatan penuh melalui fine-tuning low-rank.
Hybrid Gated Flow (Feb 2026) → Mengenal pasti “Dinding Memori” (Memory Wall) sebagai kekangan sebenar, bukan pengiraan (compute).
Langkah Apple: Menyekat Apple Intelligence pada iPhone 15 dan versi lebih lama. Memaksa 250 juta+ pengguna untuk menaik taraf demi mendapatkan pengalaman Siri pada peranti.
Status: Gerbang perkakasan adalah gerbang hasil. Kejuruteraan sudah bersedia. Pelaksanaan yang belum bersedia.

Versi 30-saat: apakah itu LLM “1.5-bit” #

Apabila LLM berjalan pada telefon anda, setiap “berat” — setiap sambungan dalam rangkaian neural — biasanya adalah nombor yang memerlukan 16 bit (2 byte) memori. Model dengan 7 bilion parameter, sebesar Meta LLaMA 2 7B, memakan sekitar 14 GB pada ketepatan 16-bit. Itulah sebabnya AI awan kekal di awan: tiada telefon yang mempunyai 14 GB kosong untuk satu model sahaja.

IOS 27 on iOSApple - Apple News, Guides & Tutorials

LLM 1.5-bit pada iPhone: Mengapa 'Cukai Perkakasan' Apple Adalah Gerbang Hasil, Bukan Kejuruteraan

Versi 30-saat: apakah itu LLM “1.5-bit” #