Intel mengumumkan dua perluasan baru pada Program Akselerasi PC AI di Taipei, Taiwan, dengan Program Pengembang PC baru yang dirancang untuk menarik Vendor Perangkat Lunak Independen (ISV) yang lebih kecil dan bahkan pengembang individu, serta program Vendor Perangkat Keras Independen (IHV) yang membantu mitra mengembangkan perangkat keras yang berpusat pada AI. Intel juga meluncurkan kit pengembangan Core Ultra Meteor Lake NUC baru, dan memperkenalkan definisi baru Microsoft tentang apa yang dimaksud dengan AI PC. Kami diberi gambaran sekilas tentang bagaimana PC AI akan memberikan daya tahan baterai yang lebih baik, kinerja yang lebih tinggi, dan fitur-fitur baru.
Intel meluncurkan Program Pengembang AI pada bulan Oktober tahun lalu, namun Intel memulai program barunya di acara pengembang di Taipei yang mencakup praktik langsung dengan perangkat pengembang baru. Program ini bertujuan untuk membekali pengembang dengan alat yang diperlukan untuk mengembangkan aplikasi dan perangkat keras AI baru, yang akan kami bahas lebih mendalam di bawah.
Intel berencana untuk menghadirkan lebih dari 100 juta PC dengan akselerator AI pada akhir tahun 2025. Perusahaan ini telah bekerja sama dengan 100+ ISV AI untuk platform PC dan berencana untuk meluncurkan lebih dari 300 aplikasi yang dipercepat AI di pasar pada akhir tahun 2024. Untuk melanjutkan upaya tersebut, Intel merencanakan serangkaian acara pengembang lokal di seluruh dunia di lokasi-lokasi penting, seperti pertemuan puncak yang diadakan baru-baru ini di India. Intel berencana mengadakan sepuluh acara lagi tahun ini sebagai upaya membangun ekosistem pengembang.
Pertarungan untuk menguasai pasar PC AI akan semakin intensif di tahun-tahun mendatang — Canalys memperkirakan bahwa 19% PC yang dikirimkan pada tahun 2024 akan memiliki kemampuan AI, namun jumlah tersebut akan meningkat menjadi 60% pada tahun 2027, yang menunjukkan tingkat pertumbuhan luar biasa yang tidak dapat dicapai oleh AI. tidak kalah dengan para pemain besar di industri ini. Faktanya, AMD baru-baru ini mengadakan AI PC Innovation Summit di Beijing, Tiongkok, untuk memperluas ekosistemnya sendiri. Pertarungan untuk mendapatkan pangsa pasar PC AI yang semakin luas dimulai dengan silikon yang mengaktifkan fitur-fitur tersebut, namun berakhir dengan para pengembang yang mengubah kemampuan tersebut menjadi manfaat perangkat lunak dan perangkat keras yang nyata bagi pengguna akhir. Inilah cara Intel mengatasi tantangan tersebut.
Apa itu PC AI?
Gambar 1 dari 5
Munculnya AI memberikan peluang besar untuk memperkenalkan fitur perangkat keras dan perangkat lunak baru ke platform PC yang sudah teruji, namun definisi PC AI agak sulit dipahami. Banyak perusahaan, termasuk Intel, AMD, Apple, dan segera Qualcomm dengan chip X Elite-nya, telah mengembangkan silikon dengan akselerator AI yang dibuat khusus dan ditempatkan di dalam chip bersama dengan inti CPU dan GPU standar. Namun, masing-masing memiliki pendapatnya sendiri tentang apa yang dimaksud dengan PC AI.
Definisi baru yang dikembangkan bersama oleh Microsoft dan Intel menyatakan bahwa PC AI akan dilengkapi dengan Neural Processing Unit (NPU), CPU, dan GPU yang mendukung Copilot Microsoft dan dilengkapi dengan tombol Copilot fisik langsung pada keyboard yang menggantikan tombol Windows kedua pada sisi kanan keyboard. Copilot adalah chatbot AI yang didukung oleh LLM yang saat ini sedang diluncurkan ke versi Windows 11 yang lebih baru. Saat ini didukung oleh layanan berbasis cloud, namun perusahaan dilaporkan berencana untuk mengaktifkan pemrosesan lokal untuk meningkatkan kinerja dan daya tanggap. Definisi ini berarti bahwa laptop Meteor Lake dan Ryzen yang dikirimkan tanpa kunci Copilot sebenarnya tidak memenuhi kriteria resmi Microsoft, meskipun kami berharap definisi baru Microsoft akan mendorong adopsi kunci tersebut secara universal.
Meskipun Intel dan Microsoft kini mempromosikan definisi PC AI yang dikembangkan bersama ini, Intel sendiri memiliki definisi yang lebih sederhana yang menyatakan bahwa ia memerlukan CPU, GPU, dan NPU, masing-masing dengan kemampuan akselerasi khusus AI-nya sendiri. Intel membayangkan mengocok beban kerja AI di antara ketiga unit ini berdasarkan jenis komputasi yang diperlukan, dengan NPU memberikan efisiensi daya yang luar biasa untuk beban kerja AI dengan intensitas lebih rendah seperti pemrosesan foto, audio, dan video sekaligus memberikan waktu respons yang lebih cepat dibandingkan layanan berbasis cloud, sehingga meningkatkan masa pakai dan kinerja baterai sekaligus memastikan privasi data dengan menyimpan data di mesin lokal. Ini juga membebaskan CPU dan GPU untuk tugas-tugas lainnya. GPU dan CPU akan berperan dalam tugas-tugas AI yang lebih berat, suatu keharusan karena menjalankan beberapa model AI secara bersamaan dapat membebani NPU yang relatif terbatas. Jika diperlukan, NPU dan GPU bahkan dapat menjalankan LLM secara bersamaan.
Model AI juga sangat menyukai kapasitas dan kecepatan memori, dengan model AI memungkinkan model yang lebih besar dan lebih akurat, sedangkan model AI memberikan kinerja lebih baik. Model AI hadir dalam berbagai bentuk dan ukuran, dan Intel mengatakan bahwa kapasitas memori akan menjadi tantangan utama saat menjalankan LLM, dengan 16GB diperlukan dalam beberapa beban kerja, dan bahkan 32GB mungkin diperlukan tergantung pada jenis model yang digunakan.
Tentu saja, hal ini dapat menambah biaya yang cukup besar, terutama pada laptop, namun Microsoft belum menentukan persyaratan memori minimum. Tentu saja, ia akan terus bekerja melalui opsi konfigurasi yang berbeda dengan OEM. Sasarannya akan berbeda untuk perangkat keras kelas konsumen dibandingkan dengan stasiun kerja dan perlengkapan perusahaan, namun kita mungkin akan melihat lebih banyak DRAM pada PC AI entry-level dibandingkan harga standar — kita mungkin akhirnya akan mengucapkan selamat tinggal pada laptop 8GB.
Intel mengatakan bahwa AI akan mengaktifkan sejumlah fitur baru, namun banyak kasus penggunaan baru yang belum terdefinisi karena kita masih dalam tahap awal adopsi AI. Chatbots dan asisten pribadi yang dilatih secara lokal mengenai data pengguna adalah titik awal yang logis, dan Chat Nvidia dengan RTX serta alternatif chatbot AMD sudah ada, namun model AI yang berjalan pada NPU juga dapat memanfaatkan perangkat keras dan sensor yang ada dengan lebih baik. komputer.
Misalnya, menggabungkan deteksi tatapan mata dengan fitur hemat daya pada panel OLED dapat memungkinkan kecepatan refresh yang lebih rendah jika dapat diterima, atau mematikan layar saat pengguna meninggalkan PC, sehingga menghemat masa pakai baterai. Konferensi video juga memanfaatkan teknik seperti segmentasi latar belakang, dan memindahkan beban kerja dari CPU ke NPU dapat menghemat hingga 2,5W. Kedengarannya tidak terlalu banyak, namun Intel mengatakan hal ini dapat mengakibatkan masa pakai baterai ekstra dalam beberapa kasus.
Kegunaan lainnya termasuk koreksi pandangan mata, pembingkaian otomatis, pengaburan latar belakang, pengurangan kebisingan latar belakang, transkripsi audio, dan catatan rapat, beberapa di antaranya dibuat untuk dijalankan di NPU dengan dukungan langsung dari perusahaan seperti Zoom, Webex, dan Google Meet, diantara yang lain. Perusahaan sudah mengerjakan asisten pengkodean yang belajar dari basis kode Anda sendiri, dan perusahaan lain sedang mengembangkan LLM Retrieval-Augmented Generation (RAG) yang dapat dilatih berdasarkan data pengguna, yang kemudian digunakan sebagai database untuk menjawab pertanyaan pencarian, sehingga memberikan informasi yang lebih spesifik dan akurat.
Beban kerja lainnya mencakup pembuatan gambar serta pengeditan audio dan video, seperti fitur yang dikerjakan dalam rangkaian perangkat lunak Adobe Creative Cloud. Keamanan juga menjadi fokus utama, misalnya dengan perangkat lunak anti-phishing yang didukung AI. Insinyur Intel sendiri juga telah mengembangkan aplikasi bahasa isyarat-ke-teks yang menggunakan deteksi video untuk menerjemahkan bahasa isyarat, menunjukkan bahwa ada banyak aplikasi yang belum terpikirkan namun dapat memberikan manfaat luar biasa bagi pengguna.
Kit Pengembang Danau Meteor Ultra Inti
Kit dev Intel terdiri dari ASUS NUC Pro 14 dengan prosesor Core Ultra Meteor Lake, namun Intel belum membagikan spesifikasi detailnya. Kita tahu bahwa sistem akan hadir dalam berbagai faktor bentuk. Setiap sistem juga dilengkapi dengan tumpukan perangkat lunak yang dimuat sebelumnya, alat pemrograman, kompiler, dan driver yang diperlukan untuk memulai dan menjalankannya.
Alat yang diinstal antara lain Cmake, Python, dan Open Vino. Intel juga mendukung ONNX, DirectML, dan WebNN, dan masih banyak lagi yang akan hadir. Kebun binatang model OpenVino Intel saat ini memiliki lebih dari 280 model terlatih sumber terbuka dan dioptimalkan. Ia juga memiliki 173 untuk ONNX dan 150 model di Hugging Face, dan model paling populer memiliki lebih dari 300.000 unduhan per bulan.
Memperluas Ekosistem
Gambar 1 dari 4
Intel telah bekerja sama dengan 100 ISV teratasnya, seperti Zoom, Adobe, dan Autodesk, untuk mengintegrasikan akselerasi AI ke dalam aplikasi mereka. Kini mereka ingin memperluas basis pengembangnya ke pengembang perangkat lunak dan perangkat keras yang lebih kecil – bahkan mereka yang bekerja secara mandiri.
Untuk itu, Intel akan menyediakan dev kit terbarunya kepada para pengembang pada konferensi yang telah dijadwalkan di seluruh dunia, dengan putaran pertama developer kit akan dibagikan di Taipei. Intel juga akan menyediakan dev kit bagi mereka yang tidak dapat menghadiri acara tersebut, namun bagian dari program tersebut belum dimulai karena berbagai pembatasan di berbagai negara dan tantangan logistik lainnya.
Kit ini akan tersedia dengan biaya bersubsidi, artinya Intel akan memberikan diskon besar, namun perusahaan belum membagikan rincian harganya. Ada juga rencana untuk memberi pengembang akses ke dev kit berdasarkan platform Intel di masa depan.
Selain menyediakan perangkat keras ke perusahaan pengembang yang lebih besar, Intel juga berencana untuk menyediakan perangkat pengembang ke universitas untuk bekerja sama dengan departemen ilmu komputer. Intel memiliki pusat pengetahuan dengan video pelatihan, dokumentasi, jaminan, dan bahkan kode sampel di situs webnya untuk mendukung komunitas pengembang.
Intel bekerja sama dengan Vendor Perangkat Keras Independen (IHVs) yang akan mengembangkan perangkat gelombang berikutnya untuk PC AI. Perusahaan ini menawarkan akses 24/7 ke sumber daya pengujian dan proses Intel, serta perangkat keras referensi awal, melalui inisiatif Open Labs di AS, Tiongkok, dan Taiwan. Intel telah memiliki 100+ IHV yang telah mengembangkan 200 komponen selama tahap uji coba.
ISV dan IHV yang tertarik untuk bergabung dengan Program Akselerasi PC Intel dapat bergabung melalui halaman web. Kami di sini di acara tersebut dan akan menindaklanjuti pembaruan jika diperlukan.